תחום אבטחת הסייבר חווה בשנים האחרונות שינוי דרמטי על רקע מהפכת הבינה המלאכותית. ברובד הבסיסי ביותר, אין כבר לאיש ספק שללא בינה מלאכותית, ההתמודדות עם כמות האיומים והנתונים הייתה בלתי אפשרית. כלומר, בינה מלאכותית מגבירה את היכולת לפתוח מערכות הגנה יעילות ומתקדמות יותר. הרובד השני הוא היכולת לרתום את יכולות הסייבר המתקדמות הללו כדי להגן טוב יותר על תשתיות הבינה המלאכותית, שבלעדיהן קצב החדשנות העולמי יואט דרמטית.
סוכני בינה מלאכותית (AI Agents) הם חלק משמעותי ברובד הראשון משום שהם משנים את הדרך בה גופי אבטחת סייבר מתמודדים עם אתגרים. מדובר בסוכנים שמסוגלים לבצע משימות בתחום אבטחת המידע באופן אוטומטי ויעיל יותר מכל צוות אנושי.
היכולת של סוכני בינה מלאכותית לבצע פעולות ולא רק להציע תובנות משנה את כללי המשחק. בעוד שמודלים מסורתיים של בינה מלאכותית מנתחים מידע ומציעים המלצות, סוכני בינה מלאכותית מסוגלים לקבל החלטות ולבצע משימות באופן עצמאי, מה שהופך אותם לאחד הכלים המבטיחים ביותר באבטחת הסייבר בשנים הקרובות. משימות שבעבר דרשו ימים של עבודה אנושית, כמו ניתוח לוגים, בדיקות אבטחה וסקירת קוד, הופכות כיום לפעולות המתבצעות בשעות ספורות באמצעות סוכנים חכמים מתקדמים
סוכני AI לא רק מבצעים פעולות אוטונומיות, אלא גם מפתחים אסטרטגיות הגנה, מתאימים את עצמם לאיומים חדשים ואף מבצעים משימות מונחות תוצאה ללא התערבות אנושית. הם מסייעים בזיהוי איומים וחולשות קוד שעלולים להפוך ליעדים לתקיפה, מתקנים בעיות אבטחה, מוודאים עמידה ברגולציה ואף משפרים את המוצרים תוך כדי השימוש.
ניצול נקודות תורפה של הסוכן
הרובד השני כרוך בראשון ונובע ממנו, קצת כמו ביצה ותרנגולת: מדובר בהטמעה של בינה מלאכותית במערכות קריטיות להמשכיות עסקית, הגנה על תשתיות הבינה המלאכותית שהארגונים הללו נשענים עליהן, ודאטה סנטרים הממוקדים במשימות בינה מלאכותית, שאנו באנבידיה מכנים "מפעלי AI".
הגנת סייבר על תשתיות בינה מלאכותית, ובפרט על סוכני בינה מלאכותית, שונה מהגנת סייבר על תשתיות מחשוב אחרות מכיוון שמערכות AI מחוברות לכלים עם רמה מסוימת של אוטונומיה. כלים אלו מחוברים למידע רגיש, מקבלים ומעבדים פקודות ומייצרים משימות, ואף יכולים להשפיע על תהליכים עסקיים קריטיים. בשל כך, תוקפים יכולים לנצל את הדינמיות שלהם ולבצע מתקפות זדוניות חמורות שאינן אפשריות במערכות מסורתיות.
כך למשל, תוקפים יכולים "להרעיל" מודלים (Data Poisoning) - להכניס נתונים מזויפים או מוטים לאימון של מודלי AI כך שהתפוקות שלו יוסטו לטובת התוקף, או יריצו קוד ויתקפו את המשתמש שמנסה לקבל ממנו תשובות; ניתן גם להשתלט על סוכן AI (Agent Hijacking) – כלומר, להשתמש בנקודות תורפה בסוכן כדי לגרום לו לבצע פעולות בלתי רצויות כמו הדלפת מידע או הרצת קוד זדוני; ניתן לתקוף על ידי מניפולציית טקסט (Prompt Injection) - החדרת הנחיות נסתרות לטקסטים תמימים לכאורה כדי לגרום למודל לפעול באופן לא צפוי; או שניתן לתקוף את שרשרת ההחלטה (Decision Manipulation) - לשבש את תהליך קבלת ההחלטות באמצעות שינוי קטן אך משמעותי בנתונים המוזנים.
מעטפת הגנת סייבר לתשתיות ה-AI
התוצאה אליה אנו, העוסקים בתחום, שואפים היא יצירת תשתיות בינה מלאכותית מאובטחות, חסונות (resilient) וחסינות עד כמה שניתן, שיספקו הגנה מקצה לקצה, וישמרו גם על המידע שהן מעבדות וגם על פרטיות או סודיות הגורמים המשתמשים בהן.
ניתן לעשות זאת דרך הקפדה על רמת אבטחה גבוהה בתהליכי אימון המודלים ומתן גישה רק למקורות מידע אמינים; חשוב להקפיד גם על בקרת הגישה למודלים ולסוכנים, תהליכי אימות חזקים למשתמשים, וכן טכנולוגיות הצפנה שישמרו על הנתונים הרגישים של הארגון.
הגנה על תשתיות בינה מלאכותית דורשת שינוי מחשבתי לעומת הגנת סייבר מסורתית, משום שמדובר במערכות דינמיות, אוטונומיות וחכמות, שרגישות למתקפות מסוגים חדשים ולא צפויים. השינוי המחשבתי הזה יחד עם ניטור מתמיד, בקשות גישה מחמירות ואבטחת תהליכי האימון והשימוש, הוא קריטי כדי להבטיח שהבינה המלאכותית תוכל לפעול בסביבה בטוחה ולא תחשוף את הארגון לסיכונים משמעותיים.
באנבידיה אנו פועלים על מנת להבטיח שההתקדמות המואצת בתחום הבינה המלאכותית תלווה במעטפת הגנת סייבר לתשתיות ה-AI.
התפקיד הקריטי של ישראל
ישראל נמצאת כבר מספר שנים בחזית החדשנות בתחום הסייבר ויש לה תפקיד קריטי בעיצוב עתיד הבינה המלאכותית והסייבר העולמי. עם מאות סטארט-אפים פורצי דרך, מחקר אקדמי מוביל ושיתוף פעולה הדוק עם תאגידים בין-לאומיים, לישראל יש הזדמנות להמשיך ולהחזיק בעמדת ההובלה בתחום הזה לשנים הבאות.
הכותב הוא סמנכ"ל תחום הסייבר באנבידיה ישראל
