ביוני 2019 הכריזה הסוכנות האמריקנית לביטחון לאומי (NSA), כי היא בוחנת דרכים לשימוש בלמידת מכונה ובבינה מלאכותית במטרה לזהות איומי סייבר, להגן על מכשירי IoT, לדרג החלטות על-פי סדרי עדיפויות ולסייע בזיהוי אנומליות ברשת, באופן שיאפשר למפעילי הרשת האנושיים להתמקד בטיפול בתקריות ויחסוך להם שעות פעילות. יוזמה זו אינה היחידה. בעוד ששנת 2018 סימנה את עלייתן של טכנולוגיות הבינה המלאכותית לחזית פיתוח יכולות הסייבר ההגנתיות, שנת 2019 רשמה התפתחויות רבות בתחום המחקר והפיתוח של אמצעים אוטונומיים, שמטרתם לסייע באבטחת סייבר, ומנגד בתחום פיתוח אמצעי הגנת סייבר, במטרה להגן על מערכות בינה מלאכותית ולמידת מכונה.
שילוב AI במערכי הגנת סייבר
עם עלייתן של טכנולוגיות המבוססות על בינה מלאכותית, חלה עלייה משמעותית במספר הרעיונות לשימושים פוטנציאליים בטכנולוגיה ובדרכים השונות בהן היא יכולה לשנות את הכלכלה, את שוק העבודה ואת חיי היום-יום. לצד אלה, חלה עלייה בהבנה כי היכולת לאמן אלגוריתמים של בינה מלאכותית לצרכי זיהוי וסיווג, תסייע רבות בתחום זיהוי התנהגות חשודה ברשת, סיווג תוכנות זדוניות, תיקון אוטומטי של חולשות אבטחה, איסוף מודיעין על האקרים ברשת האפלה ועוד.
כחלק מהבנה זו, החלו מדינות מפותחות להשקיע ביוזמות למחקר ופיתוח ולמיזוג מודלים של בינה מלאכותית במערכי הגנת סייבר. בארה"ב השיק המרכז המשותף לבינה מלאכותית, הכפוף למחלקת ההגנה, פרויקט, בשיתוף ה-NSA וחברות הקבלן של הפנטגון לאבטחת סייבר, לאיסוף נתוני אבטחת סייבר מכל רשתות ומערכות ה-IT של מחלקת ההגנה לטובת אימון מודל בינה מלאכותית, שיסייע לנטר פעילות חשודה ואיומים פוטנציאליים על פני רשתותיה. גם בריטניה ויפן השיקו השנה פרויקטים לפיתוח מערכות אוטונומיות לאיסוף, מיזוג וניתוח נתונים הנוגעים למצב הרשת, לקיומן של חולשות וכן לזיהוי שלבים מוקדמים של הדבקה בווירוסים ותולעים ובניתוח השפעתם על המערכת.
אבטחת סייבר של מערכות AI ו-ML
עם העלייה בשימוש בטכנולוגיות בינה מלאכותית, עלה גם החשש, כי תוקפים עלולים לבצע מתקפות סייבר כנגד המערכות וכן לבצע מניפולציות על המידע המשמש לאימון, דבר שעלול להוביל לשיבוש יכולת הסיווג וקבלת ההחלטות של המערכת. על כן, החלו מדינות להשקיע גם במערכות הגנת סייבר ליישומי בינה מלאכותית. כחלק מכך הכריזה הסוכנות למחקרי הגנה מתקדמים של מחלקת ההגנה האמריקנית (דארפ"א) על תכנית GARD לפיתוח מסגרת תיאורטית לטכנולוגיות למידת מכונה מאובטחות, הכוללת גם פיתוח אלגוריתמים להגנה על המערכות. סוכנות הפיתוח של קהילת המודיעין האמריקנית הכריזה מצידה על תכנית TrojAI למניעת החדרת סוסים טרויאנים למערכות בינה מלאכותית ועל תכנית SAILS, שמטרתה למנוע מתוקפים להשיג גישה לתחזית המתקבלת במערכת מניתוח הנתונים, שתאפשר להם להשיג גישה לנתונים שבשימוש המערכת ולבצע שאילתות.
תוכנות זדוניות מבוססות בינה מלאכותית
לצד העלייה בשימוש בבינה מלאכותית לצרכי הגנת סייבר, קיים החשש שגם האקרים יתחילו להשתמש בטכנולוגיה על מנת להוציא לפועל מתקפות סייבר מתוחכמות. איום זה עודנו תיאורטי והפוטנציאל הגלום בו הודגם עד כה במעבדות ניסוי ובמאמרים אקדמיים, אולם ההיערכות מטעם מדינות, שבאה לידי ביטוי גם בניסוח קווים מנחים ועקרונות אתיים לשימוש בטכנולוגיה, מדגימות כי מדובר באיום שאנו צפויים לראות יותר ויותר בשנים הבאות.
דוגמה לכך היא השימוש בבינה מלאכותית על מנת לייצר תוכנות זדוניות העוברות מוטציות וגורמות לשינויי קוד תכופים, המקשים על גילויין. בכנס Black Hat USA ב-2018, הציגו חוקרי IBM תוכנה זדונית מבוססת בינה מלאכותית בשם Deeplocker התוקפת תוכנות וידיאו לשיחות ועידה ומזהה את המטרה על-פי זיהוי קול, זיהוי פנים, או מיקום גיאוגרפי. התוכנה מפעילה את הקוד הזדוני שלה רק במגע עם המטרה, דבר שמונע את גילויה.
חוקרים העריכו, כי תוכנות זדוניות המבוססות על בינה מלאכותית יוכלו "ללמוד" את מאפייני המערכת, המכשירים איתם היא מתקשרת, סוג מערכות ההגנה עליה ועוד, תתאים את עצמה למטרה ותקבל החלטות באופן אוטונומי, ללא צורך בערוץ בקרה ושליטה. תוכנות אלה יוכלו לחקות אלמנטים של המערכת ולהתחזות לתעבורת רשת לגיטימית ובכך להתחמק מגילוי וממערכות לזיהוי אנומליות.
שימושים נוספים בטכנולוגיה עלולים לאפשר לתוקפים לפצח סיסמאות באמצעות לימוד אסטרטגיות אנושיות לחיבור סיסמאות, מילים ורצפים מספריים, או ליצור הודעות פישינג המתחזות להודעות לגיטימיות ומתחמקות ממסנני דוא"ל.
אז מה ניתן לעשות על מנת להיערך לאיום?
מבחינת מגמות ניתן להצביע על כך שהשימוש בבינה מלאכותית לטובת אבטחת סייבר כבר קיים ומקדים את מגמת השימוש בבינה מלאכותית לצורכי תקיפה, שעודנה תיאורטית. עם זאת, ובהינתן היתרון הטבעי שיש לתוקפים במרחב הסייבר, לא מן הנמנע כי השימוש בבינה מלאכותית לטובת מתקפות סייבר יהפוך לאיום הסייבר המורכב והמשמעותי ביותר בשנים הקרובות. כמו כן, לא מן הנמנע כי המעצמות, כגון ארה"ב, רוסיה וסין כבר פועלות לפתח יכולות משמעותיות בתחום.
בעוד מדינות נתפסות כבעלות היכולת הטכנית והמשאבים לפיתוח רכיבי פריצה מבוססי בינה מלאכותית, גם התפוצה של כלים מסחריים לפיתוח אלגוריתמים עלולים להאיץ את התופעה. לאיום השימוש בבינה מלאכותית עבור מתקפות סייבר אין פתרון קסם ונראה כי צוותי הגנה יצטרכו להסתמך יותר ויותר על אמצעי הגנה אוטונומיים בשילוב המרכיב האנושי. בעוד שקבלת החלטות אוטונומית תסייע באופן משמעותי יותר בחסימת האיומים, השתלבות הגורם האנושי תסייע בפיקוח על קבלת ההחלטות האוטונומית ובשיפור חסינות המערכת לטווח הארוך.
הכותב הוא חוקר בכיר למדיניות ואסטרטגיות סייבר בסדנת יובל נאמן למדע, טכנולוגיה וביטחון באוניברסיטת ת"א. מאמר זה מבוסס על מחקר בנושא שבוצע בסדנה. נושאים אלה ונוספים יידונו בהרחבה בכנס העשור של שבוע הסייבר, שייערך באוניברסיטת ת"א בתאריכים 28.6.20 - 02.07.20
