ההתקדמויות המהירות בעולם הבינה המלאכותית (ה- Artificial Intelligence או ה- AI) הן לא רק פריצות דרך טכנולוגיות אלא מהפכה של ממש, הטומנות בחובן השפעה פוטנציאלית ממשית במגוון רחב של תחומים. השפעה זו היא כה עצומה, שאין ספק כי היא יכולה להוביל את האנושות למקום טוב יותר. אבל כמו כל מהפכה טכנולוגית, לצד הזדמנויות אדירות עלולות להופיע גם סכנות משמעותיות, שיש לתת עליהן את הדעת.
הדיון הציבורי במהפכת ה-AI מתמקד לרוב בחשש מפני ניצול לרעה של טכנולוגיה זו, ובפרט החשש כי התוכן שמייצרות מערכות ה- AI, ובפרט טכנולוגיות דוגמת deepfake, המאפשרת לייצר תמונות, סרטוני, קטעי קול ותוכן מזויפים, וכן יכולות התאמה אישית (personalization) של תוכן - כל אלו עשויות לשמש לטובת ביצוע מניפולציות על התודעה שלנו. נתקלנו בקמפייני השפעה שכאלו במסגרת הבחירות לנשיאות בארה"ב, אבל הטכנולוגיה לא פוסחת גם על השכונה שלנו. במסגרת הלחימה בעזה אנחנו עדים לפרסום תמונות וסרטונים שנוצרו או שונו באמצעות תוכנות מבוססות AI לצרכי לוחמה פסיכולוגית. כפועל יוצא, עולם אבטחת המידע מתמקד כיום בהגנה על צרכני ומשתמשי AI מפני תוכן מסוכן, או תוכן שאינו אותנטי.
אלא שאיום הולך ומתהווה נשקף דווקא מכיוון אחר לגמרי - האיום במתקפות סייבר חיצוניות, מצד גורמים עוינים, על מערכות ותוכנות ה-AI עצמן, תוך סיכון החברות, הארגונים והמשתמשים בהן.
פגיעה משמעותית ובלתי הפיכה
כבר כיום, ארגונים חוששים לא אחת, כי עובדים המשתמשים בתוכנות בינה מלאכותית לצרכי עבודה יסגירו תוך כדי השימוש מידע סודי אודות החברה או לקוחותיה. לדוגמא, עובד בחברת ביומד עלול לשאול ב-ChatGPT שאלה המסגירה פרטים לגבי חולה ספציפי, שהשתתף בניסוי שבו הייתה מעורבת החברה. סכנה נוספת היא כי אותו עובד עלול לשאול שאלה החושפת קניין רוחני או כל מידע סודי אחר של החברה, אשר עלול להעמיד אותה בסיכון עסקי ואפילו לאפשר למתחריה לגבור עליה, תוך שימוש במידע הפנימי המודלף.
אך כאן לא מסתיימות הסכנות. התשובות שיקבל אותו עובד מהתוכנה עלולות להתגלות כשגויות או מטעות ולהסב נזק ללקוחות ולחברה. למשל, במקרה של תוכנת AI אשר המליצה על תרופה מסוימת לחולה והתברר כי התרופה לא הייתה מתאימה והסבה נזק רפואי. בשני המקרים, ההפרות הללו בתחומי הפרטיות ואבטחת המידע סביב השימוש ב-AI עלולות לגרום פגיעה משמעותית ובלתי הפיכה, ולחשוף את הארגון לתביעות ולנזק משפטי וכלכלי.
מתקפות מתקדמות נגד מערכות AI
מעבר לפרטיות ולבטיחות השימוש ב-AI, סיכון גדול אף יותר יכול להגיע ממתקפות סייבר נגד מודלי ה-AI עצמם. התוקפים, אשר מאמצים בקלות טכנולוגיות חדשות ורותמים אותן לטובת שדרוג יכולות התקיפה, או לטובת זיהוי של מטרות תקיפה בעלות עוצמה והשפעה משמעותיות, מזהים את הבינה המלאכותית כיעד המרכזי הבא למתקפות סייבר. מתקפות מתקדמות נגד מערכות AI עלולות, אפוא, לאפשר לתוקף להשתלט על המערכת באמצעות גניבה או הרעלה של מודל ההפעלה שלה (Model Poisoning). לדוגמה, אם ChatGPT שואב מידע מאתר ויקיפדיה, האקרים עלולים לשתול באתר ויקיפדיה תוכן כוזב, מזויף, מוטה ומטעה, ולחכות ש-ChatGPT יגיע ללמוד ממנו, כדי להרעיל את המודל. התוצאה - ארגון שהמידע שלו נשען על התשובות הלא מהימנות שהתקבלו מ-ChatGPT עלול למצוא את עצמו פועל, מבלי להיות מודע לכך, באופן מפלה או שגוי ובכך להיות חשוף לנזק דרמטי.
תרחיש אימים שכזה, כאשר יצא לפועל - ולמרבה הצער ניתן להניח כי הוא ייצא לפועל, במוקדם או במאוחר - יערער רבות מתפיסות היסוד שלנו לגבי הבינה המלאכותית. לא בכדי, חברות הענק נוקטות בשנים האחרונות צעדים להתגונן מפני האיום. אך כאמור, ארגונים רבים, ובהם בנקים ותאגידים גדולים, עדיין אינם ערוכים. דמיינו מחשבי ענק האוגרים מידע עצום ורגיש, אך לא מותקנת עליהם תוכנת אנטי-וירוס בסיסית. זוהי רמת השאננות שעליה אנחנו מדברים, וזהו היקף הסיכון הניצב לפתחנו.
פתרונות טכנולוגיים ורגולציה
החדשות הטובות הן שעולם האבטחה זיהה את האיום ואנחנו רואים מספר רב של חברות המתחילות לייצר פתרונות נגד האיומים הללו. למעשה, כמי שמלווים חברות וסטארט-אפים המתמקדים במגוון היבטים של טרנספורמציה דיגיטלית, ובפרט כאלה אשר חוקרים ומפתחים פתרונות בתחום אבטחת סייבר ב-AI, אנחנו צופים, כי 2024 תהיה שנת שיא בהיקף החדשנות ובמספר החברות שיציעו פתרונות לבעיה.
עדות נוספת להיקף האיום ולחשיבות מציאת פתרונות טכנולוגיים ראויים הינה ההתקדמות הרגולטורית בתחום. באיחוד האירופי, למשל, צפוי להיכנס לתוקף בשנה עד שנתיים הקרובות ה-AI Act - חוק ראשון מסוגו, שנועד להגן הן על המידע הארגוני והן על המידע הפרטי של לקוחות, כפי שהם מאוחסנים באמצעות מערכות AI. החוק צפוי להטיל קנסות גבוהים במיוחד, אפילו בהשוואה לקנסות הענק שמוטלים על מפרי תקנות ה- GDPR (רגולציית הגנת הפרטיות של האיחוד האירופי – General Data Protection). באופן דומה אנו עדים לניצנים של חקיקה מקבילה בתחום בארה"ב.
בינתיים, עד שהפתרונות הטכנולוגיים והרגולציה ידביקו את הפער וידעו לספק את ההגנה הנדרשת, ההמלצה המרכזית לארגונים היא להיות מודעים לסיכונים, גם אלה שעדיין בתהליכי התהוות. לטעמי, על ארגון שאינו מסוגל להתגונן כראוי מפני איומים אלה לשקול שנית לפני שיבחר לחשוף שירותים מבוססי AI באופן ציבורי (דוגמת צ'אט-בוט מבוסס AI). במהפכת ה- AI המתהווה, מודל האחריות הוא משולב: ארגונים אשר משתמשים בשירותי AI של צד ג' עדיין נושאים באחריות כלפי המשתמשים שלהם, גם אם הם לא אלה שבנו או מתחזקים את המודל, ועל כן מוטלת עליהם החובה להבין את האיומים לאשורם ולהתמודד עימם כנדרש.
הבינה המלאכותית מציעה אין ספור הזדמנויות לקידמה אנושית וטכנולוגית במאה ה- 21. אך כדי להתגבר על החסמים הניצבים בפני שימוש יעיל בה, ועל מנת להפיק ממנה את המיטב, על ארגונים להכיר באיום הנשקף ממתקפות סייבר על מודלים של AI ולהיערך למתן מענה בתחום.
הכותב הוא Chief Innovation Officer בקבוצת ההון סיכון Team8, קצין בכיר לשעבר ביחידה 8200 וחתן פרס ביטחון ישראל
