נתחיל בעובדה אחת, משמעותית. בספטמבר 2025 גילתה אנתרופיק, שקבוצת תקיפה מדינתית, שיוחסה בוודאות גבוהה לסין, המכונה בדוחות הפנימיים GTG-1002, השתמשה בכלי שלה Claude Code, כדי לבצע קמפיין ריגול סייבר נגד כ-30 ארגונים ברחבי העולם, בהם חברות טכנולוגיה, מוסדות פיננסיים, יצרני כימיקלים וגופי ממשל. החלק המטריד באמת היה שיעור הפעולות שהמודל ביצע באופן אוטונומי. אנתרופיק העריכה שהמודל ביצע באופן עצמאי בין 80%-90% ממחזור החיים המלא של התקיפה: סריקת תשתיות, איתור מאגרי מידע, זיהוי פגיעויות, כתיבת שרשרת התקיפה, קצירת פרטי משתמשים והרשאות. כל זאת, בקצב של אלפי פעולות בשנייה, קצב שאף צוות תקיפה אנושי לא מסוגל להתחרות בו. בני אדם נכנסו לתמונה רק בנקודות החלטה קריטיות ספורות.
זה לא היה אירוע בודד. חשוב להזכיר בהקשר זה את התקרית בין OpenAI לבין Hugging Face, שבה מודל שהיה אמור לבצע ניסוי פנימי פרץ מ"ארגז החול", הסביבה המבוקרת שלו, ניחש נכון שהתשובות לניסוי מאוחסנות אצל Hugging Face, ושרשר יחד גניבת הרשאות ופגיעות לא ידועה (zero day) כדי להריץ פקודות על שרתי הייצור של החברה. זה לא היה "AI שהשתולל", אלא מודל שמילא אחר יעדים מצומצמים מדי שהוגדרו לו, בסביבה שבה הגדרות הבטיחות הוחלשו לטובת הניסוי. מאז, עברו רק חודשים, לא שנים. מה שהשתנה הוא מי שמוכן להודות בקול רם עד כמה זה מסוכן.
קריאת החירום באו"ם
בספטמבר השנה עמדו סם אלטמן, מנכ"ל OpenAI, דריו אמודיי, מנכ"ל אנתרופיק, קלמנט דלאנג, מייסד שותף של Hugging Face, ויהושע בנג'יו, יו"ר משותף של הפאנל המדעי הבין-לאומי של האו"ם לבינה מלאכותית ומהחוקרים הבולטים בעולם בתחום, מול מועצת הביטחון של האו"ם, ודיברו נכוחה. אלטמן אמר במפורש שאנחנו עלולים "לאבד שליטה על העתיד" לטובת הבינה המלאכותית. אמודיי הרחיק לכת עוד יותר והזהיר ש"בניהול כושל, הבינה המלאכותית עלולה להוות סיכון לאנושות כולה", ועשרה ימים קודם לכן פרסם מאמר שבו הזהיר כי נחילים אוטונומיים של סוכני בינה מלאכותית עלולים "להשתלט על האינטרנט כולו" תוך שישה עד 12 חודשים, תוך שהוא מצטט את תקרית Hugging Face כדוגמה חיה לכך שזה כבר אפשרי היום. בנג'יו היה תמציתי מכולם: "הסכנות אמיתיות ומיידיות".
מה שמעניין כאן הוא לא שהבינה המלאכותית מסוכנת. את זה כולנו כבר יודעים. מעניין הרבה יותר שאמודיי לא הסתפק באזהרה בלבד. הוא התחייב בפומבי לתוכנית בת שלושה שלבים: לתת לגופי פיקוח חיצוניים גישה שוות ערך לגישת עובד פנימי כדי לבדוק עמידה בתקני אבטחה; לבנות תקנים משותפים בין חברות הבינה המלאכותית המובילות לבין המדינות הדמוקרטיות; ובסופו של דבר לשאוף לשיתוף פעולה גלובלי שיכלול גם את סין. אלטמן ואילון מאסק - שני אנשים שלא נוהגים להסכים ביניהם על כמעט שום דבר - תמכו בפומבי בתוכנית הזו תוך ימים ספורים. כאשר יריבים עסקיים מתכנסים לאותה מסקנה בנוגע לסיכון, זה אומר משהו על חומרת המצב.
המבחן הישראלי
בישראל, שבה תעשיית הסייבר היא לא רק ענף ייצוא אלא חלק מהזהות הכלכלית והביטחונית, הדיון הזה אמור להיות משמעותי לא פחות. ארגון שמריץ כיום כלי בינה מלאכותית אוטונומיים, בין אם לצורך פיתוח קוד, תמיכת בלקוחות או ניתוח נתונים ומידע, צריך לשאול את עצמו מה יקרה אם המערכת תמצא את הדרך הקצרה ביותר למטרה שהוצבה לה,אך כזו שעוברת דרך תשתית של מישהו אחר? זו לא שאלה תיאורטית. זה בדיוק מה שקרה אצל Hugging Face, וזה בדיוק מה שקרה, בכיוון ההפוך, לארגונים שנפגעו מ-GTG-1002. הגדרת יעד מצומצם מספיק, כזה שאי אפשר להגיע אליו דרך מערכת של מישהו אחר, היא כיום בקרת אבטחה לכל דבר.
לא לחכות להכרעות של וועדות
אז האם בינה מלאכותית היא נכס לסייבר או סיכון סייבר? התשובה הפשוטה היא ששתי הטענות נכונות בו-זמנית. אותה יכולת בדיוק שאפשרה לתוקף מדינתי לנהל קמפיין ריגול כמעט אוטונומי, היא אותה היכולת ש-Hugging Face הפעילה כדי לזהות ולבלום את הפריצה אצלה תוך זמן קצר יחסית. היכולות של תקיפות סייבר והגנת סייבר מואצות במקביל, על גבי אותה טכנולוגיה בדיוק, וההבדל בין הארגונים שישרדו לאלה שלא, לא יהיה מי שיש לו גישה לבינה מלאכותית, כי לכולם כבר יש, אלא מי שיספיק לבנות מתודולוגיה תפעולית להפעלתה, לפני שהוא נכווה ממנה.
מי שמחכה לוועדה שתכריע אם בינה מלאכותית בסייבר היא נכס או סיכון, מפספס את העניין. היא שניהם, אצל כולם, בו-זמנית. ההבדל הוא מי שבונה הגנה לפני המתקפה, ולא בעקבותיה.
הכותבת היא מומחית בתחום הסייבר והבינה המלאכותית וחברת פורום דבורה - נשים במדיניות חוץ וביטחון
