במשך יותר מעשור, אבטחת ענן התפתחה סביב שאלה מרכזית אחת: מי רשאי לגשת למה. המעבר לענן הפך את הזהות למרכיב מרכזי במערך ההגנה. משתמשים, אפליקציות וחשבונות שירות קיבלו הרשאות מדויקות יותר, ומערכות אבטחה למדו לזהות ניסיונות גישה חריגים, תצורות מסוכנות וחשיפה לא מכוונת של מידע.
כניסתם של סוכני AI לארגון מתחילה לשנות את המשוואה הזו. בניגוד לצ'אטבוט שמקבל שאלה ומחזיר תשובה, סוכן AI נועד לבצע משימה. לשם כך הוא עשוי לקבל גישה למייל, ל-Salesforce, ל-GitHub, למסמכים ארגוניים, לשירותי ענן ולמסדי נתונים. הוא יכול לאסוף מידע, לכתוב קוד, לעדכן רשומות ולהפעיל שירותים, לעיתים תוך מעבר עצמאי בין כמה מערכות. כלומר, הארגון אינו מכניס רק עוד כלי AI לסביבת העבודה. הוא מכניס לתוכה ישות חדשה שמסוגלת לפעול.
הדיון סביב הסיכונים של AI נוטה לעיתים להתמקד בתרחישים דרמטיים של מודלים ש"יוצאים משליטה". אלא שהסיכון המיידי הרבה פחות הוליוודי והרבה יותר מוכר לאנשי אבטחת מידע: הרשאות רחבות מדי, הגדרות שגויות, חוסר בהפרדת סמכויות או משימה שהוגדרה בצורה לא מספיק מדויקת. לא צריך AI בעל כוונות זדוניות כדי לייצר אירוע אבטחה. מספיק סוכן יעיל שמבצע משימה לגיטימית עם יותר מדי הרשאות.
נניח שסוכן AI מתבקש להכין מנהל לקראת פגישה עם לקוח אסטרטגי. הוא מקבל גישה למייל, למערכת ה-CRM, למסמכים פנימיים ולמערכת האנליטיקה. כל אחת מההרשאות האלה יכולה להיות מוצדקת בפני עצמה. אלא שכדי להשלים את המשימה, הסוכן עשוי לעבור בין כמה מערכות ולאסוף מידע בהיקף גדול בהרבה מזה שהמשתמש התכוון אליו. מבחינת כל מערכת בנפרד, ייתכן ששום דבר חריג לא התרחש. הזהות הייתה מורשית, ה-token היה תקין והגישה למידע הייתה חוקית.
אבל אבטחה אינה מסתכמת בשאלה האם פעולה הייתה מותרת. היא צריכה לשאול גם האם הפעולה הייתה הגיונית בהקשר שבו היא התרחשה. את ההבחנה הזאת אנחנו כבר מכירים כשמדובר בבני אדם. לעובד במחלקת הכספים יכולה להיות הרשאה לגשת למידע רגיש, אבל הורדה פתאומית של אלפי מסמכים עשויה לקבל משמעות אחרת לגמרי. למפתח יכולה להיות גישה למאגרי קוד ולסביבת הענן, אבל רצף מסוים של פעולות יכול להעיד על טעות או על סיכון.
הסיכון מתגלה כשמסתכלים על הרצף כולו
הפער שבין "מורשה" לבין "תקין" הוא בדיוק המקום שבו אבטחת סוכני AI הופכת למורכבת יותר. המורכבות גדלה משום שסוכן AI אינו זהה לחשבון שירות מסורתי. חשבון שירות בדרך כלל נוצר כדי לבצע פעולה מוגדרת וצפויה: למשוך נתונים ממערכת אחת, להעביר אותם לאחרת או להריץ תהליך קבוע. סוכן, לעומת זאת, יכול לבחור בעצמו את רצף הפעולות הדרוש להשלמת המשימה, בהתאם למידע שהוא פוגש בדרך. במקרים מסוימים הוא גם עשוי להשתמש בכלים נוספים או להפעיל סוכנים אחרים. מבחינת הארגון, המשמעות היא שהרשאה שניתנה בנקודת ההתחלה יכולה לאפשר שרשרת פעולות שקשה יותר לצפות מראש.
והענן מעצים את האתגר הזה. העבודה הארגונית כבר אינה מתקיימת בתוך מערכת אחת. היא מפוזרת בין שירותי SaaS, תשתיות ענן, אפליקציות ומאגרי מידע רבים. סוכן AI נועד בדיוק כדי לחבר בין העולמות האלה. הערך שלו נובע מהיכולת לעבור במהירות ממערכת למערכת ולהשלים תהליך שבעבר דרש מאדם לפתוח מספר מערכות, לאסוף מידע ולבצע סדרה של פעולות.
אלא שאותו יתרון יוצר גם נקודת עיוורון. שירות הענן יכול לדעת שהגישה למאגר מסוים הייתה מורשית. מערכת ה-CRM יכולה לדעת שהמשתמש רשאי לקרוא רשומת לקוח, ומערכת אחרת יכולה לוודא שה-token שהוצג לה תקף. אבל כל אחת מהן רואה רק חלק קטן מהתמונה. היא לא בהכרח יודעת מדוע אותו סוכן עבר בין המערכות, מה הייתה המשימה המקורית שלו, איזה מידע אסף לאורך הדרך ומה עשה איתו בסוף.
הבעיה הופכת משמעותית עוד יותר ככל שארגונים עוברים מתרחיש של סוכן יחיד למערכות שבהן כמה סוכנים משתפים פעולה. סוכן אחד יכול לאסוף מידע, אחר לנתח אותו ושלישי לבצע פעולה במערכת ארגונית. בכל תחנה בשרשרת הפעולה עשויה להיראות לגיטימית לחלוטין, בעוד שהסיכון מתגלה רק כשמסתכלים על הרצף כולו.
ללמוד לנהל את סוכני ה-AI
מכאן עולה המסקנה שעידן ה-AI דורש מאיתנו להרחיב את האופן שבו אנחנו חושבים על אבטחת ענן. ניהול הרשאות ועקרון ההרשאה המינימלית יישארו קריטיים, אבל לצידם הארגון יצטרך להבין גם התנהגות: מי או מה פועל, בשם מי, לאיזו מטרה, באילו מערכות והאם רצף הפעולות תואם את המשימה שניתנה.
במובן הזה, הגבול בין אבטחת ענן לבין Insider Risk מתחיל להיטשטש. "Insider" אינו חייב להיות עובד זדוני. מבחינת אבטחה, זו יכולה להיות כל ישות שפועלת מתוך גבולות האמון של הארגון ומחזיקה בהרשאות לגיטימיות. ככל שסוכני AI מקבלים יותר עצמאות, צריך להתחיל להחיל חלק מאותה חשיבה גם עליהם. לא מתוך פחד מ-AI, אלא דווקא מתוך תפיסה מפוכחת שלו.
ארגונים מעולם לא הניחו שכל עובד יפעל באופן מושלם בכל רגע. לכן נבנו מנגנוני בקרה, הפרדת הרשאות, תיעוד ויכולת חקירה. אנחנו גם לא מניחים שכל מערכת תוכנה תהיה נקייה מטעויות. אין סיבה שסוכן AI יקבל רף אמון גבוה יותר. השאלה הבאה באבטחת ענן, לכן, לא תהיה רק "האם נתנו לסוכן את ההרשאה הנכונה?", אלא גם "האם אנחנו מבינים מה הוא עושה איתה?".
ככל שסוכני AI יהפכו לחלק משמעותי יותר מתהליכים עסקיים, הארגונים שיצליחו להשתמש בהם בביטחה לא יהיו בהכרח אלה שינסו להגביל אותם יותר מכולם. אלה יהיו הארגונים שילמדו לנהל אותם, כמו כל גורם אחר שפועל בתוך סביבת האמון הארגונית: עם הרשאה מינימלית, תיעוד, הקשר התנהגותי ויכולת לזהות מתי רצף הפעולות כבר אינו תואם את המשימה המקורית. הענן הפך את הזהות לגבול האבטחה החדש. סוכני AI עשויים להפוך את ההתנהגות לגבול הבא.
הכותב הוא מייסד שותף ומנכ"ל Above Security
