לאחרונה מייחסים לבינה מלאכותית סיכונים של קץ האנושות. בעיניי יש בה יותר הזדמנויות. פרופ' יובל נח הררי כתב שהחיטה בייתה את האדם ואפשרה לאנושות להגיע לשמונה מיליארד בני אדם, אבל במחיר של תלות. כך גם הבינה המלאכותית: חיים נוחים יותר, במחיר של תלות. ישנן שלוש דרכים להתמודד:
1. אימוץ זהיר
לעשות את המיטב כדי להגן על הטכנולוגיה. לדוגמה, מוצר לאבטחת דלף מידע למודלי שפה גדולים אותו מוכרת Trellix. המוצר מאפשר לוודא שמידע רגיש לא ידלוף ליישומי צד שלישי, כגון ChatGPT. חשוב להיזהר: היו לבינה המלאכותית כבר שני "חורפים", בהם ההבטחות לא התגשמו במשך שנים. כל השקעה בתחום עלולה לרדת לטימיון כשנגיע לחורף השלישי.
2. להתנגד
כמו הלודטים שהתנגדו למכונות הטוויה במהפיכה התעשייתית, אפשר להתנגד לבינה המלאכותית. אני מפחד מכיוון זה - אני רואה את סופת האסדרה (Regulation) כסיכון של השלכת התינוק (יתרונות הטכנולוגיה) יחד עם המים. למשל, במגילת זכויות (נגד) בינה מלאכותית של הנשיא ביידן, כתוב שאין לתכנן מערכות ממוכנות בכוונה (או באפשרות נראית לעין) של גרימת נזק לאדם. זה אוסר נהיגה אוטונומית ואפילו מעליות ממוכנות משום שהן הורגות אנשים. בתחום הסייבר התנגדות לטכנולוגיה לא תעזור כשהרעים לא בוחלים בפעילות לא חוקית. מי שרוצה לסחוט אנשים ירשה לעצמו גם לפגוע באסדרות, כבסיפור תקיפת ערוץ אל-חיאת על-ידי אל-קעידה. אסדרה מוקדמת מדי עלולה גם להביא לתופעות כמו תחזית המומחים בסוף המאה ה-19 שלונדון תהיה קבורה תחת מטרים של גללי סוסים...
3. לחיות בלי
ליצור תוכנית גיבוי שתאפשר חיים ללא טכנולוגיה, כאנשי ההאמיש. זו יכולה להיות תוכנית גיבוי עבור אנשים שחוששים מהתלות בטכנולוגיה. היא לא תגן עלינו בפני נשק (שהרעים יפתחו בכל מקרה), אבל תעזור לאנושות להתאושש ממצב, כגון אחרי מלחמת עולם שלישית, שבו נאלץ לחיות ללא חשמל.
כל אסדרה חייבת להיות נייטרלית מבחינה טכנולוגית. אם אסור להפלות לקוחות, אז חוסר שימוש בבינה מלאכותית לא יפטור מחובה זו. Trellix תחקור כיצד ניתן למנוע דלף מידע אישי רגיש ששימש לאימון מודל, לגלות רושעות שמשתמשות בלמידה חישובית כדי להסתיר את יעד התקיפה (ראו DeepLocker של חברת IBM), הגנה על מערכות סיווג URL - ים שלנו בפני תקיפת זיהום מידע משחקנים רעים ועוד. לסיכום, בינה מלאכותית איננה בעיה אלא פתרון.
חברת Trellix שחיברה את FireEye ו-McAfee לכדי חברה אחת, ולה כ-50 אלף לקוחות בכל העולם, נכנסה לישראל לאחרונה ופתחה מרכז מחקר לחקר איומי סייבר, ולקידום שיתוף הפעולה עם האקו-סיסטם המקומי והעולמי. "Trellix מתמקדת ביכולותיה במעקב, זיהוי ותגובה לאיומים בצורה אקטיבית. זאת, בנוסף לשאר היכולות שלה בתחום אבטחת תשתיות של דואר אלקטרוני, אבטחת רשת ואיסוף נתונים פורנזיים, מערכות EDR ו-EPP לתחנות העבודה והשרתים", אומר יוסי טל, מנכ"ל Trellix ישראל. "החיבור לאקו-סיסטם יתרום ל-Trellix להשתפר ולעמוד בקדמת הבמה הטכנולוגית, ובמקביל יתרום לתעשייה באמצעות קידום טכנולוגיות לטובת לקוחות Trellix בעולם".
הכותב הוא אחראי על מדעי נתונים וחדשנות במרכז המחקר המתקדם של Trellix
לאתר >>> Trellix
בשיתוף Trellix Advanced Research Center
