הבינה המלאכותית כבר פוגשת את הארגונים יום-יום. מדובר בטרנספורמציה דיגיטלית המהווה אתגר משמעותי מכיוונים שונים: מהיישומי דרך הניהולי ועד האבטחתי. כשמדובר בזה האחרון, למחלקת אבטחת המידע של הארגון ולעומד בראשה יש משימה קשה וחשובה: להבין את סיכוני האבטחה הנובעים מטכנולוגיה ייחודית, שהארגון כבר משתמש בה בפועל, בזמן שהיא עדיין משתנה כל הזמן. פעמים רבות לצוות האבטחה כלל אין את המערכות הנדרשות כדי לטפל באיומים החדשים, ולא פעם הוא עדיין לא בטוח איזו מערכת נדרשת לשם כך, כשהמעט הברור הוא שמערכות ההגנה הקלאסיות של עולמות ה-IT לא יכולות לספק את המענה.
"בפני ה-CISO עומד אתגר רב-זרועות", אומר יובל ניסמזון, סמנכ"ל ייעוץ ב-ONE Security, חטיבת הסייבר ואבטחת המידע של קבוצת וואן טכנולוגיות. "זה איום שהקפיץ את הסיכון בלפחות שתי רמות מהמוכר למנהלי אבטחת המידע בעולמות ה-IT הקלאסיים. עליו להבין את הצד העסקי של כלי ה-AI ולדעת להתמודד ולהתאים את עצמו ואת צוות האבטחה שבראשו הוא עומד לאיום החדש. הוא לא יכול לעצור את ה-AI כי אז הוא ייחשב ללא מאפשר ויפגע בביצועי החברה. על ה-CISO נגזר על כן להתמודד עם סיכונים הנובעים מתשתיות חדשות שנכנסות לארגון ופוגשות אותו כמעט בכל ערוץ אפשרי. לא מדובר רק בכלי בינה מלאכותית Stand Alone. המערכות העסקיות של היום, למשל ERP, כבר מגיעות עם יכולות AI מובנות בתוכן. מנהל אבטחת המידע צריך להבין איך זה עובד ומהם הסיכונים שזה מביא, כשלא תמיד יש לו אפילו את היכולת לראות מה מותקן אצלו ברשת".
בוא נציג דוגמאות לסכנות אבטחה אפשריות.
"אחת הסכנות המשמעותיות היא אזורי ההרשאות, היכן שמגדירים מה AI Agent יכול ולא יכול לעשות. הדרך שבה הצוות התפעולי צריך לנהל את זה היא קריטית, כי רכיב כזה עלול לבצע פעולות במערכות העסקיות שיגרמו לנזק בלתי הפיך. זה לא חייב להיות אירוע סייבר, זה יכול להיות גם תקלה תפעולית. כמו אצל אותה חברת תוכנה שפורסם ש-Claude מחק לה את כל בסיס הנתונים. אייג'נטים מסוגלים לשלוח נתונים, לערוך נתונים, למחוק נתונים. על צוות אבטחת המידע בארגון לחזק את שכבת הבקרות ולשפר את הניטור כדי למנוע אירועים מסוג זה לפני שהנזק נעשה.
"הכנסת בינה מלאכותית בתשתיות הפיתוח היא תחום בעייתי נוסף", הוא מוסיף. "המפתחים משתמשים בכלים שמסייעים לכתוב קוד בהרבה פחות זמן, אבל אם נותנים כלי כזה למפתח ג'וניור עם ניסיון מועט, עולה הסיכון שהוא יכניס קוד לא מאובטח".
איך היה ניתן למנוע את התקלה בחברה שנמחק לה בסיס הנתונים?
"מנהל אבטחת המידע היה יכול לבנות מכניזם שהיה מונע את זה. צריך ליישם בקרות וללוות פרויקטים כדי לוודא שניתנו כל המענים: בקרות אוטומציה, בקרות זיהוי תהליכים, אישור זהות משתמש על כל פעולה משמעותית, הבנה איפה רץ הרכיב. צריך גם סוג של כפתור חירום. אם מערכת שמעבירה אלף בקשות בדקה פתאום קופצת ל-10,000 - מופעל מנגנון אוטומטי שמכבה את פעולת ה-AI עד שמגיע מישהו שבודק מה קרה".
להקטין משמעותית את הסיכון
יובל ניסמזון נכנס לתפקידו ב-ONE Security לאחרונה, לאחר עשור בתפקידי ניהול אבטחת מידע. הוא עבד שבע שנים כ-CISO בקבוצת הפניקס ושלוש שנים כגלובל CISO ב-SolarEdge, חברת אנרגיה ירוקה הנסחרת בנאסד"ק, שהתמודדותה עם פיתוחי חומרה ותוכנה במפעלים בכל העולם הצריכה הגנה מורכבת ורחבה במיוחד. "גם אז וגם היום אני מתמודד עם איום הבינה המלאכותית", הוא מספר.
עם זאת, הוא מדגיש שהסכנות שמביאה עמה הבינה המלאכותית הן רחבות יותר מאלו הקשורות לאבטחה בלבד, ויכולות להגיע מכיוונים מפתיעים ולא מוכרים, "כגון Denial of Wallet למשל. אם בעבר ארגונים היו מתמודדים עם Denial of Service - האקר שתוקף כדי להפיל את משאבי המחשוב ולהשביתם - היום הוא כבר תוקף לייצר חוב כספי. אם הארגון מפרסם מודעת גוגל Pay Per Click, ההאקר יכול לבנות בוט שכל חמש דקות ילחץ על הלינק. אם ארגון פיתח צ'אטבוט שירות ותמיכה מבוסס AI ללקוחותיו, כל שאילתה שנשלחת גוזלת ממלאי הטוקנים שרכש הארגון מספק ה-AI. ניתן לייצר בוט-לקוח שיתשאל את הצ'אטבוט פיקטיבית, וכך, תוך יום עבודה אחד, הארגון יגיע לחוב של עשרות אלפי דולרים על טוקנים שהניבו כלום ושום דבר".
אז מה על ארגונים לעשות?
"כחברה שמלווה ארגונים בהטמעת AI, אחת הבעיות ש-ONE רואה בארגונים כיום היא שלא תמיד הם יודעים איזה כלי נכון להכניס, מה יספק את הערך המקסימלי בעלויות האופטימליות. יישום AI בצורה לא אופטימלית יכול לגרום להפסדים גדולים. על הארגון להבין באיזה תהליך יהיה נכון לו להכניס תשתית AI. צוות אבטחת המידע, מצדו, צריך לעשות את המקסימום כדי להיות המאפשר (Enabler) של הארגון במשימה. עליו להבין מה הוא עושה, מה הסיכונים ואיך לטפל בהם".
איך פורטים את זה לצעדים בשטח?
"הצעד הראשון הוא מיפוי השימושים הקיימים והמתוכננים בעולם הבינה המלאכותית. צריך להבין מה רוצים להכניס לארגון, באיזה אופן, ואיזה תהליך עסקי מעוניינים להחליף. יש להגדיר זאת פורמלית, כך שהפרויקט יהיה מובן, מתוחם ומאובטח.
"הדבר השני הוא להבין איפה העובדים כבר משתמשים ב-AI, באילו תשתיות ומערכות היא כבר מובנית, ואז להבין איך להתמודד עם זה וכיצד לנהל את הסיכון בתשתיות הקיימות במערכות העסקיות.
"אחרי שכל זה כוסה, יש לסווג את הסיכונים הקיימים, למפות את המידע הארגוני ולהגדיר את סוגי המידע שאליו מותר לגשת עם מנוע ה-AI. יש להבין את מודל ההרשאות והפעולות הנדרשות כדי לוודא שהתהליך ינוטר ויפוקח מהצד התפעולי והאבטחתי ולא גורם לנזק, כחלק ממודל CIA. מהצד האבטחתי יש לוודא אבטחה מקיפה שלא תאפשר לגורם חיצוני לגרום לנזק בדאטה, ולא פחות חשוב, חובה לשדרג את שכבת הניטור של צוות ההגנה בסייבר שמתמודד עם התרעות מסוג חדש".
לפרטים: https://www.one1.co.il/
בשיתוף ONE Security מקבוצת וואן טכנולוגיות
