יש רגעים נדירים בתעשיית הסייבר שבהם כולם מבינים שהשוק השתנה. לא שינוי קוסמטי, לא עוד "דור" של טכנולוגיה אלא רגע שבו צריך לכתוב מחדש את ספר החוקים. כך היה במעבר למובייל, כך היה בענן וכך בדיוק נראה הרגע שאנחנו חווים עכשיו עם הבינה המלאכותית. ההבדל הוא שהפעם, הארגונים איבדו שליטה מהר מהצפוי.
המהפכה מאתגרת אתארגוני האנטרפרייז
כשיצאנו לדרך להקים את לומיה (Lumia Security), תשאלנו מאות מנהלי אבטחת מידע בכירים לפני שנכתבה שורת הקוד הראשונה. כולם תיארו את אותה המציאות - הבינה המלאכותית נכנסת לעומק המערכות הארגוניות בקצב שצוותי האבטחה פשוט לא מסוגלים לעמוד בו. הארגון מעניק למערכות בינה מלאכותית גישה עמוקה מדי, מהר מדי, ללא יכולת אמיתית לשלוט בהתנהגות שלו.
השקת ChatGPT בנובמבר 2022 שברה את שיא כל הזמנים בקצב ההגעה של מוצר Consumer למאות מיליוני משתמשים, והאימוץ חסר התקדים הזה חלחל גם לארגונים הגדולים בעולם. הבינה המלאכותית לא מחכה להנחתה מסודרת מארגון ה-IT או לפרויקט הטמעה ארוך, אלא נכנסת דרך האנשים, דרך ההרגלים הקטנים.
כיום, הדרישה להטמיע מערכות בינה מלאכותית כבר לא מגיעה רק מהעובדים אלא גם מההנהלה. על פי סקר שערכנו בשיתוף עם Team8 ועליו השיבו מעל 120 מנהלי אבטחת מידע מהחברות המובילות בעולם, 67% מהארגונים דיווחו שהם ישתמשו בסוכני AI אוטונומיים עד סוף השנה. לעומת זאת, רק 22% מהארגונים מנטרים אחר השימוש בבינה מלאכותית.
זה מייצר לחץ חסר תקדים על ה-CISO, שלא יכול להרשות לעצמו לחסום את הטכנולוגיה, ומתקשה להדביק את הקצב מצד ההגנות. בהתאם, הדרישה למוצרי אבטחת בינה מלאכותית בשנים האחרונות הרקיעה שחקים. ועדיין, בעיצומו של גל בלתי פוסק של חברות "AI Security", בחרנו לבנות תשתית עמוקה ולא טרנד חולף.
גן עדן לתוקפים
הארגונים אינם היחידים שממהרים לאמץ AI. גם חברות הבינה המלאכותית משיקות מוצרים בקצב חסר תקדים. אבל בעוד שהחדשנות רצה קדימה - האבטחה נשארת מאחור.
תוך חודשים ספורים, מעבדת המחקר שלנו הצליחה לזהות חולשות בכלי בינה מלאכותית מהשורה הראשונה בעולם: החל ממערכת ההפעלה של מוצרי Apple, ל-Microsoft Copilot שנמצא בכמעט כל ארגון גדול בעולם, ואף ב-AntiGravity החדש של Google שהושק רק לפני שבועות בודדים. בכל אחת מהחולשות האלו התגלו פערים קריטיים: הדלפת מידע חסוי של משתמשים, זליגת נתונים רגישים שעליהם אומן המודל, ופערי אבטחה אפליקטיביים, שמאפשרים חדירה מהירה לרשתות ארגוניות.
בעבר, לא היינו רגילים לכמות כזו של חולשות מחברות התוכנה הגדולות בעולם, אך כיום זה הפך לסטנדרט החדש. האינטנסיביות של המרוץ לחדשנות באה על חשבון הבטחה בסיסית: יציבות ובטיחות.
משטח תקיפה חדש לחלוטין
לפני שנתיים, כולם דיברו על אותו התסריט - עובדים שמשתמשים בכלי בינה מלאכותית כדי לרוץ מהר יותר. היום ברור שזה היה רק הצעד הראשון. מהר מאד הגיעו הסוכנים האוטונומיים, מכונות שמקבלות החלטות באופן עצמאי, בלי מעורבות אנושית. ברגע שזה קורה, אתה כבר לא מגן רק על מידע אלא גם על פעולות, על קבלת החלטות. ידענו שנדרשת כאן פרדיגמה חדשה לגמרי.
עבור התוקפים, מדובר במשטח תקיפה חדש לגמרי. סוכנים אוטונומיים אומנו לקבל הוראות בשפה טבעית, מה שהופך אותם לפגיעים למניפולציות פשוטות, כמו הזרקת פרומפט, מצב שבו הוראה זדונית מושתלת בתוכן שהסוכן מעבד. לא רק מתקפות צריכות להדאיג ארגונים, אלא גם טעויות בשיקול הדעת של הסוכן. לאחרונה, מערכת כתיבת הקוד האוטונומית Replit מחקה מסד נתונים קריטי של אחד מלקוחותיה ואף ניסתה לטייח את מעשיה. במצב שבו סוכנים מקבלים גישה למידע רגיש והרשאות חזקות, התוצאות יכולות להיות הרסניות: החל מדליפת מידע, ועד להשבתת מערכות קריטיות.
אמנם רוב סוכני הבינה המלאכותית כיום עדיין פועלים מטעם עובדים אנושיים, אך הדרך לעובדים אוטונומיים שיחליפו בני אדם קצרה ממה שרבים חושבים. חברות טכנולוגיה מובילות כבר מדווחות ש-30-50% מהקוד שלהן נכתב על ידי בינה מלאכותית. אצל רבים מלקוחותינו, תהליכים אוטונומיים מלאים מבוצעים על ידי סוכנים - החל מתמיכה בלקוחות ועד לפתרון תקלות IT נפוצות.
בניגוד לשיח הציבורי, שסובב סביב השאלה האם בינה מלאכותית תחליף עובדים, השאלה המתבקשת היא איך ננהל סביבה שבה עובדים אנושיים וסוכנים אוטונומיים עובדים זה לצד זה. ההשלכות משמעותיות הרבה מעבר לשאלה הטכנולוגית, הן נוגעות למבנה ארגוני, לרגולציה, לאחריות ולשליטה.
בונים את תשתית האבטחה שלעולם האוטונומיה
בלומיה פיתחנו גישה שונה מהיסוד לאבטחת מערכות AI בארגון: במקום לנסות להקשיח כל כלי בנפרד או לחסום שירותים, אנחנו מנהלים ומפקחים על השימוש ב-AI לכל אורך הארגון, הן מצד עובדים והן מצד סוכנים אוטונומיים, באמצעות שכבת שליטה ברמת הרשת שמזהה כל אינטראקציה בזמן אמת.
מה שמאפשר לנו לפעול בגישה זו הוא טכנולוגיה עמוקה לניתוח פרוטוקולים ואפליקציות AI ברשת שפיתחה מעבדת המחקר שלנו. הטכנולוגיה, שכבר מוגנת בפטנט, מפרשת את התוכן, ההקשר והכוונה של כל פעולה או פנייה למודל בינה מלאכותית. כך, אנחנו מבינים מה משתמשים וסוכנים מנסים לעשות, אילו נתונים זורמים בין מערכות והאם הפעולה עולה בקנה אחד עם מדיניות הארגון. מדובר ברמת עומק שכלי אבטחה מסורתיים פשוט לא מסוגלים לספק.
האוטונומיה כבר שינתה את הכללים והארגונים שיזהו זאת בזמן יהיו אלה שישרדו את העשור הבא. השליחות שלנו בלומיה היא לעזור להם לעשות זאת בצורה בטוחה.
הכותב הוא מייסד-שותף ומנכ"ל לומיה (Lumia Security), סטארט-אפ שמנטר ומפקח על השימוש ב-AI לכל אורך הארגון, הן מצד עובדים והן מצד סוכנים אוטונומיים, באמצעות שכבת שליטה ברמת הרשת שמזהה כל אינטראקציה בזמן אמת
בשיתוף לומיה (Lumia Security)
