ההתפתחות המהירה של בינה מלאכותית גנרטיבית (Generative AI) כמו GPT Claude ו-DALL·E פותחת עידן חדש של יצירתיות. אך לצד הפוטנציאל, היא יוצרת גם סיכוני סייבר משמעותיים. היכולת להפיק טקסטים, תמונות, קוד ווידיאו משכנעים בזמן קצר משנה את כללי המשחק בשני הצדדים - ההגנתי וההתקפי.
הבינה המלאכותית כבר משרתת מערכות הגנה שנים רבות, אך GenAI מוסיפה ממד חדש: תוכן שנראה אנושי לחלוטין, המשתלב בתקשורת ארגונית ויכול לשמש ככלי להגנה, או ככלי תקיפה מתוחכם.
קיצור זמן התגובה ואפקטיביות גבוהה
GenAI אינה רק מהפכה טכנולוגית, היא מכפיל כוח עבור מערכות קיימות. כלים כמו SIEM,SOC ו- UEBA יכולים להשתדרג משמעותית כאשר GenAI מייצר סיכומים נרטיביים לאירועים, קישור בין התראות והמלצות להמשך טיפול בשפה טבעית וברורה. בתחום ניתוח האיומים, ניתן להשתמש ב- GenAIלניתוח מקורות גלויים וסגורים וליצירת דוחות מהירים ומובנים.
גם מערכות הדרכה פנימיות משתדרגות. ניתן לבנות הדרכות ותרחישי סייבר שמותאמים אישית לתפקיד העובד, להתנהלותו בארגון ולסיכונים הספציפיים שהוא חשוף אליהם. GenAI מאפשרת לייצר תוכן רלוונטי, מעניין ויעיל ללמידה.
יתרון נוסף הוא קיצור משמעותי של תהליכי זיהוי והכלה. במקום לנתח התראות ידנית, GenAI יכולה לארגן את המידע, לקבוע סדרי עדיפות ולזהות חריגות על בסיס דפוסים לשוניים או התנהגותיים. התוצאה היא קיצור זמן התגובה ואפקטיביות גבוהה יותר.
במבט רחב, אפשר לקבוע כמעט בוודאות כי כל כלי הסייבר - וותיקים וחדשים - צפויים לעבור שדרוג עמוק בזכות GenAI.החל ממערכות אנטי-וירוס ועד לניהול זהויות, כל רכיב יהפוך חכם, שיחתי, מותאם הקשר ויעיל יותר. לא מדובר בתוסף אלא בתשתית חדשה שתוטמע בלב כלי ההגנה עצמם. ספקיות האבטחה הגדולות כבר משתלבות במרוץ: מיקרוסופט, פאלו אלטו, צ'ק פוינט ואחרות מציעות עוזרי AI למרכזי בקרה, לניתוח איומים ולסיוע בחקירות. בתוך שנים ספורות, השימוש ב-GenAI יהפוך לסטנדרט ומי שלא יתאים את הכלים הקיימים, יישאר מאחור.
על רקע זה, אפשר גם לצפות לגל חדש של יזמות פורצת דרך בתחום. כמו כל מהפכה טכנולוגית עמוקה, גם כאן נראה דור של סטארט-אפים חדשניים שייבנו מהיסוד עבור עידן GenAI - מערכות אבטחה שנולדו חכמות, כלים שמבינים שפה טבעית, פתרונות הגנה קונטקסטואליים ומערכות SOC שיתפקדו כעוזרי AI לכל דבר. סטארט-אפים אלה יציעו לא רק תוספות אלא שינוי עמוק בפרדיגמת ההגנה, ויהוו תחרות של ממש לשחקנים הוותיקים.
לעקוף מערכות זיהוי מבוססות AI
מן הצד השני, היכולות הללו משמשות גם תוקפים. GenAI מאפשרת לייצר מיילים מתחזים חכמים, ללא שגיאות ועם התאמה אישית למקבל. ההנדסה החברתית הופכת לאוטומטית, מתוחכמת ומסוכנת בהרבה. תוקף יכול להזין פרטים בסיסיים ולקבל מייל שנראה כאילו נכתב על ידי קולגה.
בנוסף, ניתן לכתוב קוד זדוני ו-scripts בעזרת כלים כמו ChatGPT או Copilot גם על ידי מי שאינם מפתחים מקצועיים. לעיתים המודלים אף "עוזרים" לא במכוון, כאשר הבקשה מוסווית היטב.
בתחום התוכן הוויזואלי, GenAI מאפשרת ייצור קול, וידיאו ותמונות מזויפות, שמשמשים להונאות מורכבות, לרבות Deepfake של מנהלים או עובדים. במקרים שכבר התרחשו, תוקפים הצליחו לשכנע עובדים לבצע העברות כספים או לחשוף סיסמאות.
גרוע מכך, GenAI מסוגלת לעקוף מערכות זיהוי מבוססותAI,למשל באמצעות ניסוח שונה של טקסטים זדוניים או שינוי מבני בקוד. בכך היא מערערת את ההסתמכות על חתימות או ניתוח לשוני מסורתי.
מהגנה להנהגה - תפקידו המעודכן של ה-CISO
הכנסת GenAI לארגון מחייבת על כן התארגנות חדשה. מנהל אבטחת המידע (CISO) הופך לדמות מפתח בהקשר זה. לא רק כמי שמגן, אלא כמי שמעצב את מדיניות השימוש, בודק את הסיכונים ומאזן בין חדשנות לסיכונים תפעוליים ורגולטוריים.
ה-CISO נדרש להוביל את גיבוש המדיניות ולקבוע מיהם המשתמשים המורשים, מה מותר להזין למערכות חיצוניות ואילו כלים מותרים לשימוש. עליו לפקח על תהליכים כמו אימוץ כלים גנרטיביים בתשתיות רגישות, לוודא שמידע לא זולג בטעות דרך שאילתות, ולהנחות כיצד לבחון ספקים חיצוניים מבחינת עמידות ופרטיות.
בנוסף, עליו לקדם הדרכות פנימיות. לא רק על הסיכונים, אלא גם על האופן שבו GenAI משתלב בכלי העבודה השוטפים. בעידן החדש, ה-CISO אינו רק איש טכנולוגיה אלא חלק מהנהלת הארגון האסטרטגית, שותף להובלת שינוי.
ה-CISO חייב לעבור ממגן טכנולוגי למוביל אסטרטגי, שמאזן בין קידמה לשליטה. בעידן שבו כל עובד יכול להפעיל מודל עוצמתי בשורת טקסט, השליטה אינה בתשתית אלא בתרבות הארגונית. האתגר אינו רק של הגנה אלא של הנהגה.
גישה שקולה, מקצועית ומשולבת
כדי ליישם GenAI בארגון בצורה אחראית, כדאי להתחיל בקביעת מדיניות ברורה ולפרסמה. יש להגביל גישה למערכות ציבוריות, לעקוב אחרי שימושים ולקבוע גבולות לשילוב GenAI בפיתוח, בשיווק או בשירות. במקום לאסור, נכון יותר "לנתב" את השימושים למקומות בטוחים, תוך בקרה.
כדאי לשלב הדרכות מבוססות GenAI בעצמן. למשל, סימולציות של תקיפות או תרחישים דינמיים שמבוססים על תחום הפעילות של העובד. כך ההדרכה לא רק נגישה יותר אלא גם רלוונטית ואפקטיבית.
לבסוף, חשוב לבחון כלים חיצוניים בזהירות, כולל תנאי שירות, הגנה על מידע, תיעוד רגולטורי ומידת השקיפות של המודל.
לסיכום, GenAI יוצרת קפיצת מדרגה בתחום ההגנה, אך גם בתחום ההתקפה. היתרון המשמעותי ביותר הוא גם הסיכון המרכזי - תוכן משכנע, מותאם אישית, שנוצר במהירות ובקלות. רק גישה שקולה, מקצועית ומשולבת תאפשר לארגון לממש את הפוטנציאל מבלי להיחשף לסיכונים לא צפויים.
הכותב הוא שותף מייסד בקרן ההון סיכון "גלילות קפיטל פרטנרס" המשקיעה בחברות סטארט-אפ בשלבים מוקדמים בתחומי הסייבר, בינה מלאכותית, תוכנות לארגונים ועוד
