עולם הסייבר המסורתי התמקד במשך שנים רבות בשני מצבי צבירה של המידע: "מידע במנוחה" ו"מידע בתנועה". מידע במנוחה מאובטח באמצעות הצפנה ובקרות גישה, ואילו מידע בתנועה מוגן על ידי הצפנה בזמן שהוא מועבר ברשת. ה-AI הוסיף מצב שלישי: "מידע בזמן הסקה".
הסקה היא הרגע המדויק שבו הדאטה עובר עיבוד על ידי מודל ה-AI כדי ליצור פלט. בשלב זה, המידע חייב להיות מפוענח, מעובד ומוחזק באופן זמני בזיכרון של המודל. כאשר העיבוד הזה מתבצע על תשתית חיצונית, הארגון מאבד שליטה משמעותית עליו, ממש ברגע הרגיש ביותר.
זהו המלכוד הבסיסי בשימוש בלעדי בספקי AI ציבוריים. גם אם המידע מוגן היטב לפני ואחרי העיבוד, הוא חשוף בהכרח בזמן שהמודל הציבורי "חושב". ניתוחים משפטיים רגישים, קוד מוגן של החברה, ותחזיות פנימיות - כולם מפוענחים ומעובדים בתוך המודל בזמן יצירת התשובה.
זו הסיבה שיותר ויותר מנהלי אבטחה וטכנולוגיה מדברים על "ריבונות ההסקה" (Inference Sovereignty) - היכולת להבטיח שהתהליך החשיבתי של ה-AI יתקיים כולו במערכות שבבעלות הארגון ובשליטתו.
המעבר מ"חומת אש" למשמעות
אמצעי האבטחה הקיימים כיום אינם מותאמים לאתגר הזה. חומות אש מסורתיות שולטות רק בכניסה ויציאה של מידע מהרשת, מבלי להתחשב בתוכן עצמו, אך מערכות AI דורשות שכבת הגנה נוספת שמעריכה את משמעות המידע, ולא רק את היעד שלו.
בפועל, השימוש ב-AI חושף את מגבלות יכולות הבקרה הקיימות. הוא מחייב ארגונים להתמודד עם הקשרים ומשמעות של מידע, באמצעות כלים כמו "חומת אש סמנטית" (Semantic Firewalls) או "שערי אבטחת בינה מלאכותית" (AI Gateways). "חומת האש הסמנטית" בוחנת ממש את תוכן הבקשות, לא רק את המאפיינים הטכניים שלהן, ומעריכה את משמעות השאלה לפני שהיא אפשרת למידע לצאת מהארגון כדי לענות עליה.
לדוגמה, אם עובד מבקש מה-AI לנסח מחדש מייל רגיל, חומת האש הסמנטית תאפשר לנתב את הבקשה בבטחה למודל ציבורי. לעומת זאת, אם הבקשה כוללת חוזים סודיים, נתוני לקוחות רגישים או קניין רוחני פרטי, הבקשה תחסם או שתועבר אוטומטית למודל פנימי ופרטי.
התוצאה היא איזון בין פרודוקטיביות להגנה - השימוש במודלים ציבוריים נשאר פתוח למקרים בעלי סיכון נמוך, בעוד שהבקשות המסוכנות נשמרות בסביבה מבוקרת. כך, האבטחה בארגון מתפתחת - מציות לכללים נוקשים, לגמישות ומודעות להקשרים.
בעיית השינויים במודל (Model Drift)
Model drift יוצר חוסר ודאות שרוב הארגונים אינם מעריכים נכונה. מודלים ציבוריים מתפתחים כל הזמן. ספקי המודלים מאמנים מחדש את המודלים, מעדכנים שכבות הגנה ומדיניות עיבוד מידע, תוך שהם מיישמים אופטימיזציות נוספות כדי להפחית עלויות ועיכובים. רבים מהשינויים הללו מתבצעים מבלי שהשם הציבורי של המודל משתנה, כך שהארגונים אינם מודעים לכך שהמערכת מאחורי השם שהכירו - השתנתה. השינויים עשויים לשפר את יעילות המודל, אך גם לפגוע באיכות הפלט, ביכולת ההסקה או בעקביותה.
מנקודת מבט ארגונית, נוצר חוסר ודאות: בקשה שמייצרת את התוצאה הרצויה היום עשויה לתת תוצאה חלשה או שונה מחר, לאחר שנעשה שינוי בלתי מדווח בתשתית.
יכולות בקרה סמנטיות יכולות לסנן את המידע שמוזן למודלי AI, אך אינן פותרות את הבעיה במלואה. הפחתת Model Drift דורשת שליטה מלאה על המודלים עצמם. לפיכך, הרצת מודלים בתשתית פרטית מאפשרת לארגונים לשלוט בעדכונים ולשמור על איכות לאורך זמן.
זוהי נקודה קריטית: רק משילות מלאה על השימוש ב-AI בארגון (AI Sovereignty) - כזו שחורגת מעבר להגנה על המידע בלבד - מאפשרת יכולת ניבוי ואמון בתוצאות המערכת, אשר מעצבות באופן גובר את קבלת ההחלטות הארגונית.
חדשנות תחת מגבלות משפטיות
אחד היתרונות של תשתית Private AI, שאינו מובן מאליו, הוא מהירות.
בארגונים רבים, יוזמות AI נתקעות בגלל בירוקרטיה משפטית. מובן, כי שליחת נתוני ייצור לשירותי AI של צד שלישי אינה אפשרית ללא מבדקי פרטיות, בדיקות תאימות ומו"מ על חוזים עם ספק ה-AI. לכן, כדי להתקדם בתהליך הפיילוט ובהטמעת השימוש ב-AI, הצוותים נאלצים לעבוד עם נתונים מוגבלים או מלאכותיים, וכך נפגע ערך הפיילוטים מראש.
כאשר העיבוד מתבצע באופן פנימי, המחסום הזה מצטמצם משמעותית. המידע הרגיש נשאר בארגון והסיכון קטן בהתאם. הצוותים יכולים לעבוד ישירות עם נתוני אמת, לקצר את לולאות המשוב ולקדם את תהליך הפיתוח.
בתצורה של Private AI, הפרטיות תומכת בחדשנות במקום להוות מכשול.
בעלי זכויות מול שוכרים
שוק ה-AI הארגוני מתחיל להתחלק באופן ברור. חלק מהארגונים יישארו שוכרים, תלויים בספקים ציבוריים הן ביכולת והן בשליטה; אחרים יהפכו לבעלי זכויות, יבנו תשתיות Private AI, ישלטו בעיבוד המידע שלהם ויתייחסו למידע ולבינה שלהם כנכס אסטרטגי, ולא כשירות.
חשוב לציין, שבעלות אינה ויתור מלא על מודלים ציבוריים. בעלות היא יכולת קבלת החלטות מושכלת בסוגיה מתי מודלים חיצוניים מתאימים ומתי מודל קוד פתוח פנימי, פרטי ומוגן הוא האידיאלי לשמירה על פרטיות מידע בארגון.
בסופו של דבר, ה-AI כבר חדל להיות תוכנה בלבד, והפך לשכבת החשיבה עצמה של הארגון המודרני. שכירת היכולת הזו, ללא גבולות ברורים או ריבונות, עלולה להפוך לאחד מסיכוני הסייבר המשמעותיים ביותר בעשור הקרוב.
הכותב הוא ה-CTO של חברת AGAT Software
