אחת לעשור אנו עדים למהפכה דיגיטלית שמחוללת שיבוש (disruption) בשוק שלם. כזו היא מהפכת הבינה המלאכותית (AI), ששינתה ענפים שלמים מקצה לקצה ומכילה הזדמנויות רבות לצד סיכונים. בזכות השימוש הנפוץ ב-AI, עובדים וחברות חשופים במידה רבה למתקפות סייבר המערבות בינה מלאכותית. הבינה המלאכותית מביאה איתה מגוון רחב של כלים ואפשרויות, גם לתוקפים וגם לחברות הסייבר, וכך למעשה נפתח "מרוץ חימוש" בין ההאקרים לחברות הסייבר שמפתחות פתרונות להגנת סייבר מפני תקיפות המערבות בינה מלאכותית.
זהירות בענן והסכנה ב-ChatGPT
עליית הפופולריות של בינה מלאכותית יוצרת (Generative AI) מביאה הזדמנויות לארגונים המחפשים לשפר יעילות ופרודוקטיביות, אך גם מציבה סיכונים חדשים בתחום הסייבר.
לדברי ליאת חיון, סגנית נשיא לאבטחת ענן ב-Tenable, "טכנולוגיית GenAI יכולה לשמש גם לטוב וגם לרע בכל הקשור לאבטחת סביבות ענן. מצד אחד, כשהיא נרתמת לטובת הגנה - על ידי ניתוח מהיר ודינמי של כמות עצומה של מידע, מתוך הארגון ומחוצה לו - ניתן באמצעותה לזהות באופן אוטומטי תצורות שגויות או מסוכנות, לעקוב אחר חולשות תוכנה ידועות והתרעות Threat Intelligence שונות, לתעדף את האזורים הבעייתיים ביותר הדורשים תשומת לב מיידית ולספק המלצות אוטומטיות לתיקון בעיות לפני שהן מנוצלות. עם זאת, גם תוקפים יכולים לנצל את היכולות של GenAI ליצירת קוד זדוני, שמנצל חולשות ידועות, או לניתוח מערכות כדי למצוא נקודות תורפה קריטיות. מהסיבה הזו ניהול חשיפה לתקיפות סייבר, כמו ניהול חולשות תוכנה ובעיות תצורה, הוא מרכיב קריטי באבטחת סביבות ענן. לכן אסור לנו לקפוא על השמרים במרוץ החימוש הזה. תוקפים משתמשים בכלים המתקדמים ביותר הזמינים להם והמגנים חייבים לעשות את אותו הדבר כדי לא להפסיד את המערכה".
אלעד שולמן, מנכ"ל Lasso Security, המפתחת פתרונות הגנת סייבר ייעודית בתחום הבינה המלאכותית, מציין כי "פושעי סייבר מזהים את הפוטנציאל בשימוש ב-GenAI כדי ליצור התקפות סייבר משודרגות ומדויקות, המנצלות פרצות אבטחה וחולשות ארגוניות באופן מתקדם יותר ביחס להתקפות סייבר שאינן מבוססות GenAI. כיום אנו עדים גם לשדרוג התקפות סייבר 'מסורתיות' וגם להופעת איומים חדשים כמו Prompt Injections, Jailbreak וזליגת מידע מאפליקציות מבוססות GenAI, כמו ChatGPT.
"ככל שהאיומים מתפתחים, כך גם המענה הנדרש", הוא מוסיף. "בעולם של AI נדרשת גישה חדשנית מאחר וכלי הסייבר שהיו בשימוש עד כה, אינם מצליחים לתת מענה אפקטיבי. הטמעה של פתרונות מתקדמים, כמו אלו של Lasso Security, מאפשרת לארגונים לא רק להגן על עצמם מפני איומים מבוססי GenAI ואתגרי סייבר של העתיד, אלא גם לשמר אמון עם לקוחותיהם ולהמשיך לצמוח בעולם טכנולוגי משתנה".
חיקוי התנהגות אנושית ויצירת הונאות זהות
"בינה מלאכותית הפכה לכלי מפתח במאבק בהונאות זהות, אך בה בעת מהווה גם איום משמעותי", מציין משה קרקו, מנהל הטכנולוגיות הראשי במרכז החדשנות של NTT בישראל. "מצד ההגנה, מערכות AI מסוגלות לנתח במהירות מאפיינים ביומטריים מורכבים, כמו תבניות הקלדה, תנועות עכבר ודפוסי שימוש ייחודיים, ובכך לזהות התחזויות בזמן אמת. הן יכולות גם לזהות אנומליות בהתנהגות משתמשים ולהתריע על חשבונות שנפרצו. אולם, אותן יכולות משמשות גם תוקפים. באמצעות AI, פושעי סייבר מפתחים כלים מתוחכמים לחיקוי התנהגות אנושית אותנטית, יצירת זהויות פיקטיביות משכנעות וביצוע מניפולציות על מערכות זיהוי ביומטריות. בנוסף, טכנולוגיות Deepfake מאפשרות זיוף מושלם כמעט של קול ווידיאו, מה שמקשה עוד יותר על זיהוי הונאות.
"האתגר העיקרי כיום הוא מרוץ החימוש הטכנולוגי המתמיד בין מערכות ההגנה המבוססות AI לבין כלי התקיפה המתוחכמים, כאשר הפער בין היכולות הולך ומצטמצם", הוא מדגיש. "הפתרון עשוי להימצא בשילוב של מספר שכבות הגנה המשלבות AI עם שיטות מסורתיות, ובכך מקשות על תוקפים לעקוף את כל המנגנונים במקביל.
"דוגמה מובילה ליישום מוצלח של הגנה רב-שכבתית היא מערכת אבטחה של בנק, המשלבת זיהוי פנים מבוסס AI עם אימות דו-שלבי מסורתי. המערכת מנתחת במקביל את תווי הפנים של המשתמש, דפוסי ההקלדה שלו ומיקומו הגיאוגרפי.
"כאשר מזוהה חריגה באחד הפרמטרים, המערכת דורשת אימות נוסף באמצעות קוד חד-פעמי או שיחת טלפון עם נציג שירות, מה שהוביל לירידה של 80% בהונאות זהות בשנתיים האחרונות".
הזדמנויות השקעה אדירות לצד אתגרים מורכבים
עולם ההשקעות לא נותר אדיש להתפתחויות האדירות בתחום ולרצון של חברות לוודא שהן חסינות בפני מתקפות סייבר המערבות AI. לדברי מורן צ'מסי, שותף מנהל ב-Amplefields Investments, "החדירה של AI לעולם הסייבר יצרה מציאות כפולה: מצד אחד, כלים מבוססי בינה מלאכותית הופכים את ההגנה לחכמה, מהירה ופרואקטיבית. מצד שני, אותם כלים מעניקים לתוקפים יתרון אסטרטגי, עם מתקפות מתוחכמות שמצליחות לעקוף מערכות מסורתיות. משקיעים בתחום עומדים בפני הזדמנות חסרת תקדים, אך גם בפני סיכונים מורכבים".
לדבריו, דו"ח של חברת המחקר גרטנר צופה כי עד 2027, כ-60% ממתקפות הסייבר יכללו מרכיב של AI. בנוסף, מערך הסייבר הלאומי בישראל דיווח על עלייה של 60% במתקפות סייבר בשנת 2023, כולל שימוש גובר בכלי תקיפה מבוססי בינה מלאכותית.
"עבור משקיעים, מגמות אלו יוצרות הזדמנויות משמעותיות. הביקוש לטכנולוגיות הגנה מתקדמות צומח, במיוחד בתחומים כמו הגנת ענן, אוטומציה של תגובות לאירועים וכלים שמבצעים זיהוי אנומליות בזמן אמת", מבהיר צ'מסי. "משקיעים שמכוונים לסטארט-אפים בשלבי צמיחה מוקדמים עשויים למצוא תשואות גבוהות בשווקים אלה. חברות שמתמקדות ב-AI משולב, כמו מערכות 'אפס אמון' (Zero Trust), הן כר פורה להשקעות, שכן פתרונות אלו נדרשים לארגונים גלובליים בכל המגזרים.
"המהפכה שמובילה הבינה המלאכותית בעולם הסייבר אינה רק טכנולוגית אלא גם חברתית" הוא מסכם.
"בעולם שבו המאבק בין הגנה לתקיפה מתנהל בקצב של מילי-שניות, השאלה הגדולה אינה רק מי ינצח, אלא כיצד נוכל לעצב מערכות שישרתו את כלל החברה באופן אתי ויציב. שילוב של חדשנות אחראית עם שיתופי פעולה חוצי מגזרים יוכל להבטיח עתיד שבו טכנולוגיה תורמת לביטחון הקולקטיבי, ולא רק מרחיבה את גבולות האיום".
