דמיינו שאתם לוקחים חלק בעוד פגישת זום סטנדרטית ומרובת משתתפים במהלך יום עבודה. בסופה, ה-CFO שלכם מבקש מכם לבצע העברה בנקאית ומספק את פרטי חשבון הבנק. זה בדיוק מה שקרה לעובד של חברה בריטית גדולה שהעביר 25 מיליון דולר מכספי החברה, רק כדי לגלות שנפל קורבן לדיפ-פייק שיצרה בינה מלאכותית.
המקרה שתואר כאן הוא קיצוני ולכן זכה לפרסום בתקשורת, אבל הוא ממש לא נדיר. ההתפתחויות בתחום ה-Generative AI לא נעלמו מעיני התוקפים והם עושים בהן שימוש נפוץ ומסוכן: מדיפ-פייק שמשמש להונאות ועד לאוטומציה של טקטיקות הנדסה חברתית מוכרות כמו פישינג והמקבילה הטלפונית, וישינג. בשיחות שלנו עם מנהלי אבטחת מידע בכירים, עולה שכמעט כולם נתקלו כבר בתקיפות כאלה - בזום, בהודעות טקסט ובאי-מיילים - אך רובן לא מדווחות לתקשורת, גם אצלנו בישראל.
אלה מתקפות פשוטות לביצוע שעובדות על סטטיסטיקה ובלתי נמנע שבחלק מהמקרים עובדים ייפלו בפח. ה-AI מאפשר לבצע את המתקפות האלו בהיקף רחב ובאופן אוטומטי, ובכך התוקפים מייצרים יותר הצלחות. מנהלי האבטחה בארגונים (CISOs) כבר מודעים להסלמה הזו, ומסקר שעשינו לאחרונה ב-Team8 בקרב יותר מ-100 מנהלי אבטחה בכירים, 70% מהם הצביעו על ה-AI כעל איום רציני. בנוסף, עלה מהדו"ח כי 75% מהם מזהים את הודעות הפישינג כאיום המרכזי, בעוד ש-56% מזהים את הונאות הדיפ-פייק של קול או וידיאו כגורם סיכון משמעותי. בהתאם, נתונים מהשנה האחרונה מראים עלייה - שלא לומר נסיקה - של 1,265% במתקפות פישינג במייל.
מרוץ החימוש החדש
ב-2025, אנחנו צופים שכלי ה-AI החדשים, ובמיוחד הדור החדש של AI Agents, לצד אווירה גיאו-פוליטית עולמית מורכבת, ישרטטו מציאות חדשה. בשנה האחרונה ראינו תוקפים שהשתמשו במה שאנחנו מכנים "התאומים המרושעים" של ChatGPT. אלו צ'אטבוטים שמסייעים לתוקף לבצע משימות זדוניות, כמו ניסוח מייל פישינג או כתיבת נוזקה (malware). עוזרים, אבל עדיין מצריכים לא מעט עבודה מצד התוקפים.
מודל ה-Agents מכניס למגרש כלי אוטונומי שבמקום אינטראקציה של שאלה ותשובה, מסוגל להסיק מסקנות באופן עצמאי ואף לבצע משימות מורכבות. עבור התוקפים, מדובר במהפכה שתאפשר להם לבצע מספר התקפות בבת אחת. היום התוקף לא צריך לשבת ליד המחשב ולנהל מתקפה בודדת בזמן אמת. הוא יכול לאמן AI לאסוף מידע ולשגר בקלות מאות או אלפי מתקפות כאלה במקביל. מרבית התקיפות יבלמו, אבל בהיקף כזה נראה גם הצלחות.
CISOs כבר מדווחים על צורך בפתרונות הגנה שיכולים להתמודד עם מתקפות כאלה וחברות משקיעות סכומים גדולים במרוץ החימוש החדש הזה: 70% מהם דיווחו על עלייה בתקציבי האבטחה (לעומת 53% בלבד אשתקד) ועל סכומי שיא שמוקצים היום להגנה.
סיכון להפרעה או השבתה של תהליכים קריטיים
אבל לא רק מתקפות דיפ-פייק מונעות AI מאיימות על ארגונים. סיכון נוסף ומשמעותי טמון בהטמעת כלי AI בארגון ובדליפה של מידע רגיש דרכם. בשנתיים האחרונות, ארגונים ועובדים שמחו לאמץ כלי AI כמעט ללא פיקוח, בין אם באופן רשמי או לשימוש שוטף של עובדים, אבל היום כבר ברור שכלים כאלה מהווים שדה תקיפה חדש שיש להגן עליו. עד כה, מרבית הארגונים נוקטים בשיטה של חינוך העובדים והדרכתם לגבי מה מותר ומה אסור. השיטות הללו רחוקות מלהיות פתרון מספק או בר-קיימא, במיוחד כשהשיטות והכלים משתכללים.
מודל ה-AI Agents מאפשר לארגון לא רק לבקש מה-AI לתקן שורת קוד, אלא לכתוב קוד מאפס בהתאם לתוצר הרצוי ולהטמיע אותו במוצר. זה כמובן מסייע לחברות להתגבר על מחסור עצום בעובדים, אבל המחיר הוא לעיתים חוסר שליטה בתוצר הסופי. עוד לפני עידן ה-Agents, זה בדיוק מה שקרה לחברת אייר קנדה שביקשה לאפשר ללקוחות להזמין טיסה בעזרת AI. מהר מאוד התברר לחברה - ולאינטרנט כולו - שצרכנים זריזים מצאו דרך להערים על המערכת ולהזמין טיסות בדולר בודד.
כשחברות מטמיעות מערכות AI לשימוש פנימי ונותנות להן גישה למערכי כספים ונתוני לקוחות, התוצאה יכולה להיות הרסנית. הן מסתכנות בכך שמידע רגיש יגיע לידיים הלא נכונות בגלל דליפות והרשאות שגויות. זו בעיה מוכרת, אך ה-AI מעצים אותה - בחלק מהמערכות, משתמש אחד יכול להשפיע על המידע שיקבל משתמש אחר שיגיע אחריו גם ללא כוונה זדונית מצדו. ככל ש-AI יוטמע במערכות תפעוליות ופיזיות, כמו ברובוטים למשל, כך יגבר הסיכון להפרעה או השבתה של תהליכים קריטיים באמצעות מניפולציה זדונית על המודל.
הזדמנויות לחדשנות
ומה צפוי לנו ב-2025? הדור הראשון של חברות הסייבר בישראל ובעולם כבר נערך למציאות החדשה הזו. ראינו בשנים האחרונות חברות חדשות שקמו במיוחד כדי לטפל באתגרים האלה, וכמובן את החברות הוותיקות יותר באקו-סיסטם שלנו שלומדות ומתאימות את עצמן. כמו בכל פעם שטכנולוגיות חדשות מפציעות, גם הפעם לא כל החברות הצעירות ישרדו, בין השאר בגלל שאותם CISOs בארגונים רק התחילו ליישם את המעבר בין למידה של התחום לרכישת פתרונות אבטחה בהיקף משמעותי. אם הגל הראשון של חברות ה-AI Security נתקל בשוק לא בשל וחלקו יירכש או ייעלם, השנה נראה שוק בוגר יותר, שמתמודד עם סיכונים חדשים והיקף אחר של מתקפות.
החדשות הטובות הן שהדור הבא של AI מבטיח בשורה גם לצוותי האבטחה שסובלים היום ממחסור גלובלי של כארבעה מיליון עובדים. אנחנו כבר עדים לגל חדש של סטארט-אפים ישראליים שמבטיחים לבנות פתרונות אוטומציה מבוססי Agents למשימות הרוטיניות והכואבות ביותר של ארגוני אבטחה, ובכך מפנים את הצוותים לעסוק במשימות הגנה אסטרטגיות.
לסיכום, גם בשנים הקרובות ימשיך משחק החתול והעכבר התמידי של הגנת הסייבר, שחווה כעת התעוררות בקצב מואץ ובהיקף רחב יותר מאי-פעם בזכות החידושים הטכנולוגיים שמביאה ה-AI. לשמחתנו, עבור האקו-סיסטם הישראלי זה בעיקר מבשר שההזדמנויות לחדשנות באבטחת סייבר רק הולכות לגדול.
הכותב הוא שותף-מנהל ב-Team8, מוביל את פעילות הקמת החברות של הקרן בתחום הסייבר. הוביל את ההשקעות ב-Gem Security, שנרכשה לאחרונה על ידי Wiz, וכן ב-Ox Security וב- Orchid Security שהושקה רק לאחרונה. לפני כן, ייסד ושימש כמנכ"ל Claroty, יוניקורן שהוקם בתמיכת Team8
