מהפכת ה-AI צומחת, מתחברת לכל חלק בחיינו במהירות שיא וחוצה כל מהפכה קודמת. יהיו שיאמרו שטכנולוגיות ה-AI קיימות עימנו כבר עשרות שנים והטענה נכונה, אולם קיום רשתות נוירונים לא היה מספיק כדי לחולל שינוי דרמטי לפני שיכולות מחשוב גבוהות נהיו זמינות בצורה רחבה מאד ומודלי AI התחילו להשתלב בכל פתרון טכנולוגי משמעותי. כניסת ה-ChatGPT לחיינו לפני כשנתיים יצרה הנגשה של גרסה שימושית של עולם ה-AI בדמות ה-chatbot שבשילוב עם מהפכת ניתוח השפה מאפשרת אינטראקציה עם ה-chat בדיבור ובשפות מגוונות.
התוצאה היא פריצה של הטכנולוגיות הללו, שמצטרפת ליישומים המושקים בקצב יומי ומציעים ערך ממוקד לביצוע משימות בכל תחומי החיים. בין שמדובר בשרטוט תרשים, בניסוח טקסט, בהשוואת הצעות, בהכנת אנשי מכירות למשימתם או בסיכום שיחת אבחון של מטפל, לכל אלו מפותחים כלים לשימוש כל אדם, כל בעל מקצוע, בכל תחום ובכל דיסציפלינה. הצ'ט-בוטים מתפתחים להיות עוזרים אישיים של עובדים, יוצרי התוכן שלהם, השותפים האסטרטגיים להתלבטות בהחלטות ובעוד נושאים. כלים אחרים משמשים בעוד תחומים.
בפועל נוצר מצב שלכל עובד בארגון בימים אלה, גם אם הוא או היא אינם מנהלים או ראשי צוותים, נוצר למעשה צוות של עוזרים אישיים וירטואליים המבצעים משימות על בסיס יומי. עבור משימות אלו העובד משתף איתם מידע, מנחה אותם בפעולות שמבצעים ומקשר אותם עם גורמים נוספים. לאנשים יש העדפות שונות לכלים שאהובים עליהם ויש יישומים להם התמחות מסויימת. מישהו מעדיף דווקא את CLAUDE כשותף להחלטות, ואחרת נוהגת לצרף את TimeOS לפגישות כדי להוציא action items. מישהו אחר מצרף את Fireflies לטובת תמלול התוכן, יהיה מי שנעזר ב-Motion לניהול היומן, ואחרת ב-Jasper ליצירת תוכן. מישהו מכין מצגת בעזרת Gamma, ואחרת מפתחת קוד בסיוע Copilot.
מחלקות הסייבר של הארגונים טרם סיימו לעבד את משמעויות העולם החדש, ובחלק מהנושאים עוד היו מאותגרות קודם בבעיות של מתקפות Ransomware, מתקפות Supply Chain, גניבת זהויות, טיפול בVulnerabilities, והגנה על תשתיות קריטיות.
עולם הצ'ט-בוטים וכלי ה-AI יוצרים מצב שאם בארגון מסויים יש X עובדים, הרי העולם בדרך להיות עם 8X או 10X של כאלו שמקבלים מידע, מעבדים אותו, שומרים או לא שומרים עליו, מקפידים על פרטיות או לא, מנהלים מנגנוני הגנת סייבר מחמירים או לא ועוד. פתאום, אם עובד מבקש מ-ChatGPT לסכם לו חוזה משפטי ארוך, מבחינת מחלקת הסייבר של הארגון, אותו צ'ט-בוט שקול לעובד שמקבל את המשימה, או במקרים מסויימים ניתן לראות זאת כקבלן משנה חיצוני. כאשר עובדת בארגון משתפת את Cursor במשימת הפיתוח שלה ונעזרת בו כדי להשלים את כתיבת הקוד, כלי ה-AI יבין את הקוד בסוף התהליך באופן ניכר יותר מכל כלי ששימש למשימות אלו בעבר. ה-CISOs של החברות הגדולות יוצאים אפוא למשימה מורכבת ורחבה יותר. עליהם לטפל למעשה בארגונים גדולים יותר באופן משמעותי ממה שנערכו אליו קודם. מחלקותיהם לא גדלות בהתאמה ולא מותאמות להתמודדות עם העלייה הניכרת בהיקף הפעילות והמידע אותו יש לבקר, לנטר ועליו להגן.
ההגנה המורכבת על סוכני ה-AI
בניגוד ל-LLMs ושאר יכולות ה-Generative AI, אשר יוצרות בפועל עלייה בהיקף הפעילות, ה-AI Agents הם שונים. הם למעשה מנסים להחליף פונקציות קיימות ולקחת על עצמם תפקידים של עובדים מהארגון. בפועל הם לא יגדילו את היקף הפעילות אלא יחליפו אנשים מסויימים בסוכני AI שיעשו את המשימה במקומם. נדרשת הבנה מחודשת כיצד יש לטפל בסוכני AI בהיבטי הגנת סייבר, אולם זהו אתגר שהעולם יתמודד איתו וייצור את הפתרונות המתאימים כדי להגן על עובדים אנושיים ועל עובדים דיגיטליים.
מהפכת ה-Agentic AI מנסה, במאמץ עולמי רציף, למצוא כל תפקיד בארגון ולהציע Agents שיבצעו את התפקיד טוב מהעובד. כאלה שלא יצטרכו חופש, לא ייצאו לארוחת צהרים וגם לא יהיו מוגבלים לשעות עבודה ספציפיות. מובן שהדרך לטפל סייברית בסוכנים אלה תהיה שונה מאשר באנשים רגילים, אולם צפוי שבהתחלה הם יורידו את מספר האנשים במשימות חלקיות פשוטות ובהמשך במורכבות יותר ויותר. מחלקות הסייבר של החברות יצטרכו ללמוד כיצד מעניקים הגנת סייבר לפעילות עובדים, במקביל להגנת סייבר לפעילות סוכני AI.
בשני המקרים יהיה צורך לדעת לבקר מהו המידע שמבצעי המשימה נחשפים אליו, מהן ההרשאות שלהם, מהם סיכוני הפעולה ומהי היכולת לפגוע בתהליך אחר שהוא בליבת החברה. יהיה צורך להבין מהי יכולתו של תוקף סייבר לשטות בעובד/סוכן ולגרום לו לבצע פעולה זדונית אפילו בלי לדעת, וכן להבין מהי הסכנה שעקב טעות תפעולית, או קונפיגורציה שגויה, תיווצר אפשרות של תוקף לפגוע בפעילות הארגון.
ההגנה על סוכני ה-AI מורכבת והעולם נמצא רק בשנותיו הראשונות של צבירת ניסיון בהפעלת סוכני AI. הוא יצבור ניסיון בתחום זה כפי שצבר ניסיון במשך שנים על ההתנהגות האנושית. הוא מבין בהדרגה את חולשותיהם, את יכולותיהם המיוחדות ואת התנהגויות הקצה שלהם במקרים נדירים. כל אלו חשובים במיוחד כשמתכננים את ההגנה ואת היכולת למנוע מקרים בהם תוקפים ינצלו פרצות בעבודת הסוכנים.
חולשותיהם עלולות להיות גם התנהגות רובוטית שבשיטות אדוורסריאליות ניתן להטעות אותם. מוכרת השיטה בה בהדבקת מדבקה לא גדולה על תמרור עצור, מערכת ראיית מכונה טעתה לחשוב שמדובר בתמרור שונה, בעוד שבן אנוש מזהה מיידית את התמרור. אלו הן חולשות המבוססת על מנגנוני ה-Machine Learning השונים. במקרה זה בתמונה, אך קיימים גם בטקסט או בתהליכים אחרים.
להבין טוב יותר את האיומים
האחראי הבכיר על אבטחת המידע בארגון, ה-CISO, הוא לא רק מנהל אבטחת המידע של הארגון האנושי, הוא גם ה-CISO של האייג'נטים. המחלקה שלו, שבה עם הזמן יהיו גם אנשים וגם סוכני AI, תצטרך לטפל באבטחת הסייבר של הארגון המשולב. מחלקות הסייבר בחברות הגדולות נערכות להבנה טובה יותר של האיומים, להערכות הדרגתית של הטכנולוגיות המתאימות כדי להגן על התהליכים העסקיים או המבצעיים, ולהתמודדות מראש מול הפרצות שעלולות להופיע. מהלכים אלו מקבלים קשב ונמצאים בשלבים כאלה או אחרים של טיפול.
החלק שנשאר בפער הוא ההתמודדות עם העלייה בהיקף הפעילות של כלי ה-AI, האפליקציות, הצ'טים והמנועים החכמים. אלו בפועל מגדילים מהותית את כמות הפעילות של הארגונים, הפנימית והחיצונית, והעולם היום לא מקצה משאבים וכוחות נוספים כדי להגן על ארגון או חברה שגודלם בפועל הוא של 8X מעובדיהם האנושיים.
הכותב משמש כסגן ראש מרכז הסייבר באוניברסיטת תל-אביב וכיועץ סייבר לדירקטוריונים וארגונים. לשעבר מנכ"ל ה-Cyber Solutions של DELL. מרכז הסייבר על שם בלווטניק באוניברסיטת תל-אביב הוא המרכז המוביל ומנהל את ה-Cyber Week שתוכנן להיפתח במחצית החודש, אך לאור הנסיבות הביטחוניות נדחה למועד חדש אחרי החגים
