עודף ביטחון מזיק - מגזין TheMarker - TheMarker
 

אתם מחוברים לאתר דרך IP ארגוני, להתחברות דרך המינוי האישי

טרם ביצעת אימות לכתובת הדוא"ל שלך. לאימות כתובת הדואל שלך  לחצו כאן

תיק מניות

רשימת קריאה

רשימת הקריאה מאפשרת לך לשמור כתבות ולקרוא אותן במועד מאוחר יותר באתר,במובייל או באפליקציה.

לחיצה על כפתור "שמור", בתחילת הכתבה תוסיף את הכתבה לרשימת הקריאה שלך.
לחיצה על "הסר" תסיר את הכתבה מרשימת הקריאה.

לרשימת הקריאה המלאה לחצו כאן
בינה מלאכותית

עודף ביטחון מזיק

אם יש משהו שאפשר ללמוד מהקמת מערך הסייבר הוא שאין צורך שהרשות החדשה שמוקמת בימים אלה תהיה בעלת אוריינטציה ביטחונית. אסור שמערכת הביטחון תהיה קטר האסדרה בתחום הבינה המלאכותית

מי אחראי לתאונות ברכב אוטונומי? איך אפשר לדאוג שמערכת מתן שירותים מבוססי קול שמשמשת בנקים וחברות ביטוח לא תפלה בין עשירים לעניים? האם באמת רק ה"לא מוכשרים" יאבדו את עבודתם בגלל מערכות של בינה מלאכותית? האם שימוש בבינה מלאכותית לחיזוי פשיעה יוצר שיטור יתר כלפי אוכלוסיות מוחלשות? האם מנהיגים פוליטיים יוכלו לתרץ שינוי בהחלטות או בעמדות בכך ש"המכונה" שינתה את דעתה? האם צריך לתת אישור לעסוק ברפואה לרובוט שיודע לנתח אפנדיציט לגמרי בעצמו?

כל אלה הן שאלות הנוגעות לאתגרים בעולם של בינה מלאכותית ומערכות לומדות. המכנה המשותף הנוסף שלהן הוא שהן שאלות אזרחיות לגמרי, ללא כל הקשר ביטחוני. שאלות שיש בהן היבטים של פיתוח כלכלי, זכויות אדם, משפט מנהלי, נזיקין, דמוקרטיה, מקרו־כלכלה ורגולציה.

מדוע, אם כן, כאשר הפרופ' יצחק בן ישראל, אדם עתיר זכויות, סיפר בוועדת המדע של הכנסת לפני כמה חודשים כי ראש הממשלה מינה אותו, יחד עם ראש מערך הסייבר לשעבר ד"ר אביתר מתניה, לעמוד בראש צוות להקמת רשות שתעסוק בתחום הבינה המלאכותית – הוא דיבר על חזון הרשות כ"העצמת חוסנה של ישראל כמעצמה מדעית טכנולוגית בראיית הביטחון הלאומי והבטחת שגשוגה הכלכלי"? מדוע הדגיש כי האסטרטגיה בנוגע להקמת רשות הבינה המלאכותית היא כפולה: גם ביטחונית וגם כלכלית? מדוע השאיפה, כפי שאמר בן ישראל ל"גלובס", היא "לקבע את המשימה כבעלת חשיבות ביטחונית ראשונה במעלה"?

בתוך פחות מ־30 שנה מתרחשות בעולם שלוש מהפכות, קשורות ותלויות אך גם שונות. הראשונה היא מהפכת החומרה וכוח המחשוב; השנייה היא מהפכת האינטרנט, האינטרנט של הדברים, ולכן גם אבטחת הקישוריות, כלומר – סייבר; השלישית, שלפנינו, היא מהפכת הבינה המלאכותית. בהקשר של מדיניות, היתרון במהפכות כה תכופות הוא היכולת להפיק לקחים וללמוד מטעויות של הבנת תהליכי מדיניות ופרקטיקות אסדרה מיטביות.

ממהפכת האינטרנט אפשר ללמוד שחלק חשוב מהמחקר והפיתוח הטכנולוגי, בייחוד בשלבים ראשוניים, נעשה בתוך מערכות ביטחון וצבא. רשת האינטרנט הוקמה מתוך דארפ"א (הסוכנות הצבאית לפרויקטים מחקריים מתקדמים בארצות הברית). גם חלק ניכר מההייטק הישראלי מבוסס על יוצאי מערכת הביטחון ועל המיומנויות והרעיונות שנולדו בתוכה. בנוסף, אין ספק שצריך להגן מפני גורמים עוינים שינצלו לרעה מהפכות טכנולוגיות. אבל האם זה אומר שמערכת הביטחון, ברמת התפישה, היא זאת שצריכה לחלוש על אסטרטגיית הטכנולוגיה הישראלית?

אפשר לדבר גם על טעויות ולקחים. באוגוסט תיאר אמיתי זיו ב־TheMarker תמונה עגומה של מערך הסייבר. הוא תיאר תהליך שתחילתו ברצון לתת מענה למגזר העסקי מול איומי סייבר אזרחיים, אבל המשכו בהפיכת המערך לזרוע ארוכה של השב"כ. זיו מצטט מקור הטוען כי הגיעו למערך אנשים מהתחום הביטחוני. "הביאו מישהו שהוא בוגר שב"כ ומשמש בעצם זרוע של השב"כ", אמר המקור. "אתה יושב בישיבה ולידך יושבים אחד מהשב"כ, אחד מהמוסד, אחד מהמלמ"ב, אחד מהצבא — אין שם בכלל אזרחים". גם הצעת חוק הסייבר משקפת תפישה ביטחונית, הן בעיצוב מערך הסייבר וסמכויותיו הדרקוניות, והן בהגדרתו כ"גוף ביטחוני מבצעי, הפועל במשרד ראש הממשלה".

כלומר, במקום שמערך הסייבר יתמקד בהגנה על אבטחת המידע הפרטי שלנו ושל המגזר העסקי, הוא עוסק באיראן. ישראל ידועה בהשקעה בביטחון אך לא בהשקעה בבטיחות וכלכלה, וכך גם כאן – במקום להגן על עסקים בינוניים ולהגביר את ההבנה של המגזר העסקי באשר לצורך באבטחת מידע, אנחנו עסוקים באיומים ביטחוניים. זאת, בעוד שלנגד עינינו נחשפות עוד ועוד דליפות של מידע בקרב חברות מובילות במשק כמו איתוראן, כביש 6 וישראכרט.

הלקח מהקמת מערך הסייבר ברור. כשהאיומים הם אזרחיים וטכנולוגיים, לא תמיד מערכת הביטחון או מערכות הבנויות בצלמה הן המענה המיטבי. יתרה מזאת, בעולם אבטחת המידע אכן קיים גרעין ביטחוני משמעותי, אך עולם הבינה המלאכותית מביא אתגרים חדשים והנזקים שהוא יכול לגרום שונים מאלה של מתקפות סייבר. בעתיד נתמודד עם סמכויות של עוזרים דיגיטליים ואחריותם על הכסף שלנו או על חיינו (למשל ברכב אוטונומי). נצטרך לתת מענה לשקיפות ולחשיפת תהליכי הלמידה של המכונות כדי לגלות אם הם משפיעים לרעה על חיינו. אלה סוגיות אזרחיות מובהקות, אפילו בהקשרים האבטחתיים שלהן.

כפי שהדברים נראים כרגע, במקום גופים שעובדים דרך החברה האזרחית, האקדמיה ועולם העסקים, נקבל רגולציה מעולמות ישנים, שמקדמת אינטרסים ביטחוניים בעיקר. העולם של מערכות לומדות מאתגר את רשויות המדינה במגוון הקשרים – מרגולציה ופיקוח והכשרה מקצועית, דרך מחקר טכנולוגי ועידוד חדשנות, ועד שמירה על זכויות אדם כמו הזכות לפרטיות. אם יש משהו שאפשר ללמוד מהקמת מערך הסייבר הוא שאין צורך שהרשות החדשה שמוקמת בימים אלה תהיה בעלת אוריינטציה ביטחונית. אסור שמערכת הביטחון תהיה קטר האסדרה, ובוודאי לא שביטחון יהיה המטרה של הרשות לאסדרת הבינה המלאכותית.

הכותבת היא עמיתה בכירה וראש התוכנית לדמוקרטיה בעידן המידע במכון הישראלי לדמוקרטיה



תגובות

דלג על התגובות

בשליחת תגובה זו הנני מצהיר שאני מסכים/מסכימה עם תנאי השימוש של אתר TheMarker

סדר את התגובות

כתבות ראשיות באתר

כתבות שאולי פיספסתם

*#