בשנים האחרונות מתחזקת המגמה של אימוץ מערכות Sovereign AI (בינה מלאכותית ריבונית), מערכות הפועלות בתשתיות מקומיות ונמצאות בשליטה מלאה של הארגון או המדינה. בעוד שריבונות דיגיטלית מעניקה יתרון משמעותי של שליטה מלאה בנתונים ובמודלים, חוקרי חטיבת המחקר של TrendAI מזהירים כי הריבונות אינה מסתיימת בבעלות על הנתונים, אלא מעבירה לידי הארגון המפעיל את מלוא האחריות להגנה על כל שכבות המערכת.
בשונה מסביבת ענן ציבורי, שבה ספקי הענן נושאים בחלק ניכר מנטל האבטחה, במערכות Sovereign AI כל שכבות ההגנה עוברות לאחריותו הישירה של הארגון. אחריות זו מקיפה את התשתית הפיזית, השרתים והרשתות, עוברת דרך שרשרת האספקה של התוכנה, נתוני האימון ומשקלי המודלים, ומגיעה עד לעובדים בעלי ההרשאות המורשים לגשת למערכות הרגישות.
מחקר של TrendAI מצביע על כך שמשטח התקיפה של מערכות בינה מלאכותית רחב ומורכב מזה של מערכות IT מסורתיות. תוקפים אינם מסתפקים כיום בניסיונות חדירה היקפיים רגילים, אלא פועלים במגוון וקטורים מתקדמים:
• הרעלת נתוני אימון (Data Poisoning) - החדרת נתונים זדוניים למאגרי האימון כדי להטות את תוצאות המודל. מספר קטן של מסמכים זדוניים מספיק כדי לגרום למודל להפיק תשובות שגויות, או לפעול לפי הוראות שהוטמעו בו מראש.
• שינוי משקלי מודלים (Model Tampering) והשתלת דלתות אחוריות - פגיעה ברכיבים הפנימיים של המודל כדי לשבש קבלת החלטות או ליצור פתחי חדירה נסתרים.
• פגיעה בשרשרת אספקת התוכנה ומאגרים פתוחים - הסתמכות על הורדת מודלים או ספריות פתוחות ללא אימות מקור עלולה להחדיר קוד זדוני או מודל ששונו רכיביו לכל הארגונים המשתמשים בהם.
• איומי פנים (Insider Threats) - עובדים בעלי הרשאות לנתוני אימון או למודלים עלולים להחדיר נתונים מורעלים, להחליף מודלים או להוציא מידע רגיש מהמערכת.
• Shadow AI והיעדר נראות - היעדר ניטור ומלאי מעודכן מוביל לקיומם של מודלים בלתי מורשים הפועלים בסביבה הארגונית ללא פיקוח.
איומים גיאו-פוליטיים, רגולציה ואתגר הריבונות בזירה הישראלית
הצורך באבטחת תשתיות AI מקבל משנה תוקף בישראל לאור המציאות הביטחונית והגיאו-פוליטית. המלחמה האחרונה הציבה את ישראל במרכזם של קמפיינים סייבריים מתמשכים מצד קבוצות איראניות בחסות משמרות המהפכה, המתמקדות בארגוני אנרגיה, בריאות וביטחון. על פי דיווחי מערך הסייבר הלאומי, חלק מהמתקפות מכוונות ספציפית לתשתיות AI, כולל ניסיונות להשפיע על מודלים של קבלת החלטות קריטיות.
במקביל, הארגונים בישראל נדרשים לעמוד בהנחיות שפרסמה רשות הגנת הפרטיות בדצמבר האחרון, המחייבות לשלב טכנולוגיות להגנה על פרטיות (PET - Privacy Enhancing Technologies), כגון למידה מאוחדת (Federated Learning), הצפנה הומומורפית וחישוב מאובטח רב-צדדי (MPC) - טכנולוגיות שנועדו לאפשר עיבוד נתונים רגישים מבלי לחשוף אותם. עם זאת, מומחי TrendAI מתריעים מפני יצירת אשליה מסוכנת של הגנה כאשר מסתמכים על PET בלבד, ללא אבטחת התשתית המפעילה אותן.
קיריל גלפנד, אוונגליסט AI ואדריכל פתרונות אבטחה בכיר ב-TrendAI מסביר כי הצפנה הומומורפית אכן מאפשרת עיבוד נתונים מוצפנים, אך אם תחנת קצה נפרצת, התוקף יכול להזריק נתונים מורעלים לתהליך האימון ולהטות את המודל כולו. גלפנד ממשיל זאת להתקנת "הכספת המתוחכמת ביותר בתוך בניין שפתוח לכל דורש", כלומר, הכספת לבדה לא תגן על התכולה אם התשתית פרוצה.
עבור גופים ביטחוניים וממשלתיים בישראל, קיים אתגר כפול הנובע מדרישות ריבונות המידע. ארגונים אלו אינם מורשים להוציא נתוני אבטחה, לוגים ותצפיות סייבר לשרתים מחוץ לישראל, ולכן פתרונות אבטחה המבוססים על ענן ציבורי בחו"ל אינם רלוונטיים עבורם. בנוסף, הם נדרשים לפריסה מקומית מלאה במתכונת Cloud Sovereign Private, פלטפורמות כמו TrendAI Vision One, שבהן כל מערך האבטחה, החל מניטור איומים, עבור בתגובה, וכלה בניהול סיכונים פועל בתוך התשתית הארגונית הפנימית מבלי שהמידע יעבור לענן חיצוני. עבור גופים מסווגים בישראל, דרישה זו מהווה תנאי סף בסיסי.
תפיסת הגנה רב-שכבתית ופתרונות מעשיים
כדי להתמודד עם הסיכונים, ממליצה TrendAI על אימוץ תפיסת הגנה רב-שכבתית המשלבת הגנה פיזית, בקרות רשת, אבטחת שרשרת אספקה, הגנה על נתוני אימון ושמירה על שלמות המודלים. המלצות המפתח כוללות:
• אימות קריפטוגרפי וניהול רכיבים: הטמעת חתימות קריפטוגרפיות על כל מודל או קובץ תוכנה, תיעוד מקור נתוני האימון באמצעות Machine Learning Bill of Materials (MLBOM) ו-Data Bill of Materials ג(DBOM)ואיסור טעינת מודלים שאינם חתומים.
• הגנה על מפתחות ותהליכי פיתוח: שימוש במודולי אבטחת חומרה (HSM) להגנה על מפתחות הצפנה, בדיקות לאיתור דלתות אחוריות ויישום תהליכי Build הניתנים לשחזור מלא.
• ניהול סיכונים וניטור רציף: ניהול מלאי מלא של מודלים ומאגרי נתונים, ושילוב כלי AISPM ו-DSPM לקבלת תמונת מצב מקיפה.
• שליטה בכלי AI חיצוניים: בקרת גישת עובדים לשירותים חיצוניים, כמו ChatGPT ,DeepSeek ו-Gemini באמצעות פתרונות AI Service Access למניעת הדלפות, לצד שימוש ב-AI Guard ו-AI Scanner לבדיקת המודלים עצמם.
• התמודדות עם חולשות Zero-Day: הגנה מפני חולשות לא מוכרות בתשתיות באמצעות תוכניות מחקר חולשות כדוגמת Zero Day Initiative של TrendAI המספקת טלאי וירטואלי תוך שעות עוד בטרם שוחרר עדכון רשמי.
• מענה למחסור בכוח אדם: השקעה בהכשרת עובדים ובחיזוק שיתוף הפעולה בין צוותי הסייבר למדעני הנתונים כדי להתמודד עם המחסור במומחים המשלבים אבטחה ו-AI.
גלפנד מציע נקיטת צעדים מיידיים להקשחת ההגנה, ביניהם הקשחת הגישה מרחוק, ויישום אימות רב-שלבי (MFA) חובה על כל גישה לתשתיות AI; ניטור מוגבר של שרשרת האספקה ובדיקה קפדנית של כל עדכון לספריות ML וכלי AI לפני הטמעתם; בידוד תשתיות AI קריטיות, כולל בידוד מוחלט של מערכות AI המשפיעות על החלטות קריטיות מרשתות אחרות; תרגול תגובה למתקפת AI, כולל תרגול תרחישים ייעודיים להרעלת מודלים ומניפולציה על פלטי AI וגיבוי מודלים ונתוני אימון ושמירת גיבויים זמינים לאפשרות שחזור מהיר במקרה של השחתת מודל.
מי שומר על השומרים?
הנחיות רשות הגנת הפרטיות לאימוץ טכנולוגיות להגנה על הפרטיות הן צעד חשוב, אך הן מגדירות בעיקר "מה צריך להגן" ולא "איך מוודאים שההגנה עצמה עמידה". הטכנולוגיה אינה יכולה להציל ארגון אם התשתית שעליה היא מושתתת נותרה חשופה. עבור מנהלי אבטחת המידע בישראל, הלקח המרכזי הוא שריבונות דיגיטלית ופרטיות דורשות מענה היקפי שלם. השאלה המרכזית שארגונים צריכים לשאול את עצמם היא האם מי שאמור לשמור על הפרטיות שלנו, בעצמו מוגן?
בשיתוף TrendAI
