מדוע AI נחשב למהפכה כה משמעותית עבור עסקים?
הבינה המלאכותית מאפשרת לארגונים לקצר תהליכים, להפחית עלויות, לנתח כמויות גדולות של מידע ולהגדיל את תפוקת העובדים. משימות שבעבר דרשו שעות או ימים, מתבצעות כיום בתוך דקות. לכן, כמעט כל הנהלה בוחנת כיצד ה־AI יכול לשפר את התחרותיות, השירות והרווחיות שלה.
אם כך, היכן נמצאת הבעיה?
אותן יכולות עומדות גם לרשות תוקפי הסייבר. זהו האפקט הדואלי של ה־AI: הוא משפר את ביצועי הארגון, אך במקביל משפר גם את יכולות התוקף. הטכנולוגיה אינה מבחינה בין חברה המבקשת להתייעל לבין עבריין המבקש להונות אותה.
כיצד AI מסייע בפועל לתוקפים?
הוא מאפשר לייצר במהירות הודעות פישינג משכנעות, להתאים אותן לכל שפה ובעל תפקיד, לאסוף מידע על מנהלים ועובדים וליצור מסמכים, תמונות וקולות מזויפים. תוקפים יכולים להיעזר בו גם כדי לנתח קוד, לחפש חולשות ולבנות תהליכי תקיפה יעילים יותר.
מהי המשמעות הכלכלית של השינוי הזה?
AI מוריד את עלות התקיפה. בעבר, תקיפה מתוחכמת חייבה ידע מקצועי, זמן, כוח אדם ותקציב. כיום ניתן להפוך חלק ניכר מהעבודה לאוטומטי ולתקוף אלפי יעדים במקביל. מבחינת התוקף, מדובר בשיפור דרמטי ביחס שבין ההשקעה לבין הרווח האפשרי.
האם האיום מגיע רק מחוץ לארגון?
לא. הארגונים עצמם יוצרים משטח תקיפה חדש. עובדים מזינים לכלי AI הצעות מחיר, תוכניות עסקיות, קוד, נתוני לקוחות ומידע פנימי. מערכות ארגוניות מקבלות גישה למסמכים, דוא"ל ומאגרי מידע. בעקבות כך, סוכני AI החלו לבצע פעולות בשם המשתמש.
מדוע זה צריך להדאיג מנכ"לים ודירקטוריונים?
ככל שמערכת AI מחוברת ליותר מידע ומקבלת יותר סמכויות, כך גדל הנזק האפשרי במקרה של טעות, מניפולציה או חדירה. התוצאה עלולה להיות הונאה כספית, דליפת קניין רוחני, השבתת פעילות, הפרת רגולציה, תביעה משפטית או פגיעה באמון הלקוחות.
האם הנהלות מבינות את ממדי הסיכון?
לא תמיד. הנהלות רבות שואלות כמה כסף ה-AI יחסוך, אך אינן שואלות איזה מידע הוא מקבל, מי רשאי להשתמש בו, לאילו מערכות הוא מחובר, כיצד נבדקים ספקיו ומה יקרה אם יטעה או ינוצל בידי תוקף. האחריות גם מפוצלת לעיתים בין מנהל מערכות המידע, מנהל הסייבר, היועץ המשפטי והיחידות העסקיות.
האם הפתרון הוא להגביל את השימוש ב־AI?
הפתרון אינו לעצור את החדשנות, אלא לנהל אותה. על ההנהלה למפות את כלי ה-AI, לקבוע איזה מידע מותר להזין, לבקר הרשאות וחיבורים, לבדוק ספקים, להדריך עובדים ולהגדיר אחריות ניהולית ברורה.
ומהו המסר החשוב ביותר למנהלים?
AI אינו רק כלי טכנולוגי או מנוע להתייעלות. הוא נכס עסקי חדש ובמקביל גם משטח תקיפה חדש. ארגון שיאמץ את ההזדמנות בלי לנהל את הסיכון עלול לגלות שהטכנולוגיה שחסכה לו כסף, סייעה גם למי שבא לקחת אותו.
הכותב הוא מקים הפורום הלאומי לאבטחת מידע, בעלים של קבוצת חברות סייבר ושל בית הספר למקצועות הסייבר וה-AI בישראל.
בשיתוף מכללת שיא סקיוריטי ללימודי סייבר
