יומיים בחודש מארס הפכו את 2018 כציון דרך ביחסי אדם-מכונה - אלכס שילמן - הבלוג של אלכס שילמן - TheMarker
 

אתם מחוברים לאתר דרך IP ארגוני, להתחברות דרך המינוי האישי

טרם ביצעת אימות לכתובת הדוא"ל שלך. לאימות כתובת הדואל שלך  לחצו כאן

תיק מניות

רשימת קריאה

רשימת הקריאה מאפשרת לך לשמור כתבות ולקרוא אותן במועד מאוחר יותר באתר,במובייל או באפליקציה.

לחיצה על כפתור "שמור", בתחילת הכתבה תוסיף את הכתבה לרשימת הקריאה שלך.
לחיצה על "הסר" תסיר את הכתבה מרשימת הקריאה.

לרשימת הקריאה המלאה לחצו כאן

יומיים בחודש מארס הפכו את 2018 כציון דרך ביחסי אדם-מכונה

סחר במידע אישי, מכוניות שבוחרות להרוג וודאות לגבי אי הוודאות שתתלווה אלינו ככל שהמוצרים שנבנה יהיו חכמים יותר ■ 2018 היתה שנת מפנה ביחסי האנושות עם הטכנולוגיה

כדור בדולח
ללא קרדיט

2018 היתה שנת מפנה ביחסים שלנו עם הטכנולוגיה מהרבה בחינות. חוקי הפרטיות האירופים נכנסו לתוקף וגרמו למהומה רבתי בעולם שבו כל חברת שרותים מחזיקה בהררי דאטה. פייסבוק התמודדה כמעט מדי חודש עם משברים מחמירים והולכים, ובראשם התפוצצות פרשיית קמברידג׳ אנליטיקה והמעורבות בהטיית מערכת הבחירות לנשיאות ארה"ב.

חלוץ הכלכלה הדיגיטלית, הביטקוין, פתח את השנה כשהוא נסחר בלמעלה מחמישה עשר אלף דולר, וכעת הוא בקושי מחזיק מעל שלושת אלפים דולר ולראשונה היינו עדים לתאונה קטלנית שהיה מעורב בה רכב אוטונומי לחלוטין. אפשר להגיד בבטחה ש-2018 תיזכר כציון דרך ביחסי אדם מכונה (HCI). הנה תיאור שני הימים במארס האחרון שנקבעו כרגעים החשובים של השנה מבחינה זו.

17/03/2018 | פרטיות. דמוקרטיה. תחילת הסוף.

הניו יורק טיימס מפרסם תחקיר על חברת ייעוץ בריטית עלומת שם בשם קיימברידג' אנליטיקה. התחקיר חושף כי חברת הייעוץ הפוליטי הניחה את ידה על מאגר מידע עם פרטיהם של עשרות מיליוני אמריקאים ועשתה בו שימוש להטיית הבחירות לנשיאות. בהמשך יתברר כי פירצה במדיניות האבטחה של פייסבוק אפשרה למדען בודד לדלות את פרטיהם של כמעט 80 מיליון אמריקאים, ולאחר מכן למכור אותם.

הפרסום של הטיימס פתח תיבת פנדורה עצומת מימדים. יומיים אחר כך ערוץ 4 הבריטי חשף הקלטות בהן מנכ"ל קיימברידג' אנליטיקה מונה שורה של כלים פליליים להשגת מידע, ביניהם שוחד, סחיטה ואיומים ומתרברב בכך כי הוא מחזיק באלפי פרטי מידע על כל אזרח אמריקאי, ולדבריו "הקמפיין של טראמפ כולו" נוהל על ידי קמברידג' אנליטיקה.

מהר מאוד נחשף כי המשקיעים המייסדים של קיימברידג' הם משפחת מרסר, מי שפרשו את חסותם על אידיואלוג הימין הקיצוני, סטיב באנון, ולאחר מכן על טראמפ עצמו, כאשר בנון הפך להיות ראש הסגל שלו בפועל. בארה"ב הצטברו ראיות כי רוסיה התערבה בבחירות לנשיאות דרך קיימברידג', ובבריטניה עלו חשדות דומים להטיית משאל הברקזיט.

מנכ"ל קיימברידג' אנליטיקה אלכסנדר ניקס מגיע למשרדי החברה בלונדון לאחר התפוצצות הפרשה
HENRY NICHOLLS/רויטרס

זו לא היתה פעם ראשונה שבה דלפו פרטיהם של מיליוני אמריקאים, למעשה רק לפני חודש רשת מלונות מריוט הודתה כי דלפו ממאגריה פרטיהם של חצי מיליארד (!) לקוחות. וזו אפילו לא היתה פעם ראשונה שהועלו טענות על הטיית תהליכים דמוקרטיים. אבל זו כן היתה הפעם הראשונה שבה תרחיש יום הדין נגלה לעין כל במלוא תפארתו. תחילה מידע תמים לכשעצמו דולף, בשוק הפתוח הוא מוצא את דרכו לידיים הלא נכונות, ואז בעלי עניין מפעילים בעזרתו מנוף רב עוצמה על התהליכים הדמוקרטיים. 

אבל היה כאן רובד נוסף, מזה זמן רב הגביע הקדוש של הביג דאטה היא היכולת לנבא את אופיו והעדפותיו של האדם היושב מול המסך, מעבר לתחומי עניין צרים. מומחי משא ומתן, אנשי שיווק מומלחים וחוקרי כוחות הבטחון מנוסים יודעים לספר כי לכל אדם נקודות תורפה משלו. פיצוח "הדקדוק הפנימי" הזה של כל אדם פותח צוהר בלתי מוגבל להשפעה ושכנוע. אלא שנכון להיום אף טכנולוגיה לא הוכיחה יכולת חד משמעית כזו.  

בשיחות סגורות אנשי, קיימברידג' אנליטיקה טענו ליכולות בניית פרופיל פסיכולוגי יעיל. הם אומנם לא הציגו הוכחות, והקהיליה המדעית מצידה הגיבה בסקפטיות מהולה בזלזול. אלא שעצם הטענות הדהדו עם חששות תרבותיים עמוקים שקיבלו ביטוי נרחב בתרבות הפופולרית, ובין השאר בסרט בכיכובו של טום קרוז "דו"ח מיוחד". אבל לכולם ברור כי זו רק שאלה של זמן עד שניתקל ביכולות כאלה בפעולה. למעשה עצם העובדה שהן עדיין לא קיימות הוא פרדוקס משונה.

עוד בשנות ה-50 הפסיכולוג והחוקר פול מיל עורר את חמתם של בכירי המקצוע כאשר הוכיח שמשוואות פשוטות מנבאות התנהגות טוב יותר מפסיכולוג קליני. זה היה המצב בסינון מועמדים ללימודים גבוהים, בהצלחה בעבודה, בשחרור מוקדם מהכלא ועוד מגוון תחומים. עמיתו רובין דוז הלך אפילו רחוק יותר, והראה כי הצלחת הנישואין מנובאית על ידי משוואה פשוטה: שכיחות היחסים האינטימיים פחות שכיחות הריבים - אתם לא רוצים שהתוצאה שלכם תהיה שלילית.

טכנולוגיות חדשות מאז ומעולם עוררו חשש ואפילו תנועות מחאה, ב-1727 הנזקים שגרמו פועלים מפוחדים למכונות תעשייתיות חדשות היו כה גדולים שהפרלמנט הבריטי נאלץ לחוקק חוקים מיוחדים כנגד פגיעה ברכוש תעשייתי. הטכנולוגיה תופסת מקום כה מרכזי בהתפתחות החברתית והתרבותית שלנו עד שתקופות היסטוריות נקראות על שם הטכנולוגיה המרכזית במהלכן - תקופת האבן, תקופת הברונזה ועוד.

החשש לפרטיות ולהולדת אורקל טכנולוגי לא שונה בהרבה. האירוניה היא שאחד הזרזים המשמעותיים לפיתוח המחשב היה הצורך לסייע בתהליך המפרך של איסוף נתונים על אזרחי ארצות הברית. הרמן הולרית' עובד לשעבר של לשכת מרשם האוכלוסין האמריקאית נחרד לדעת כי תהליך עיבוד ואחסון נתוני המרשם הסתאב עד כדי כך שהעיבוד של המרשם מ-1880 הסתיים רק לאחר שבע שנים, כמעט לקראת הספירה הבאה.

בתגובה, הולרית' הרכיב מכונת חישוב מבוססת כרטיסיות ניקוב שהיתה מסוגלת גם לעבד ולאחסן עשרות רבות של פרטי מידע על כל אזרח אמריקאי, וגם לשלוף את הנתונים בהתאם לקריטריון מסנן. בעזרת המחשב של הולרית' המרשם של 1890 עובד בפחות משנה. אבל הולרית' לא עצר בכך, הוא רצה לבנות מכונת חישוב לכל מטרה, כזו שלא תהיה ייחודית לצורכי המרשם אוכלוסין, ולאחר סדרה של מיזוגים ורכישות ב-1927 חברתו הפכה להיות מה שמוכר לנו היום כ-IBM.

קילובייטים רבים זרמו מאז מכונת מרשם האוכלוסין של הולרית', אבל מבחינת היכולת שלנו להגן על המידע הנאגר אנחנו נמצאים באותו המקום אם לא גרוע יותר. כל מכשיר חכם מחובר לרשת עולמית של קשרים וזו רק שאלה של זמן עד שמידע ימצא את דרכו למקום הלא נכון ברשת. בעוד במערב מנסים לשלוט בנחשול המידע, סין חסרת העכבות כבר רתמה את יכולות המעקב ועיבוד המידע לכדי מערכת ריגול אחר אזרחים בקנה מידה שאפילו ג'ורג' ארוול לא העז לדמיין.

אנשים על רקע לוגו פייסבוק
Dado Ruvic/רויטרס

האיחוד האירופי אומנם הטיל את מלוא כובד משקלו בנושא, והחל מ-2019 תחל האכיפה של חוקי פרטיות המידע החדשים ה-GDPR. פוליטיקאים אירופים למשל, כבר ניצלו את הזכות להישכח כדי למחוק 34 אלף רשומות על עצמם. פייסבוק מצידה עושה מאמצים לזהות ולעצור מניפולציות על בחירות דמוקרטיות - רק החודש דיווחה החברה על מחיקה של 15 דפים אשר נחשדו בנסיון להטות את הבחירות בבנגלדש.

ואמנם, הנסיון מלמד כי בקנה מידה גדול כל כך, כוחות השוק תמיד יגברו על נסיונות הרגולציה השונים. ההנחה הבסיסית של גופי המודיעין היא שמידע דינו לדלוף, והמאמצים מתרכזים במידור וקשיים בהפצה. או כמו שאומר ד"ר איין מלקולם, מדען הכאוס האקסצנטרי מ"פארק היורה": "אם יש משהו שההיסטוריה של אבולוציה לימדה אותנו, הרי זאת העובדה כי הטבע תמיד מוצא את הדרך"

18/03/2018 | רכב אוטונומי בוחר להרוג. סוף ההתחלה.

יום לאחר התפוצצות פרשת קיימברידג' אנליטיקה התבשרנו על תאונה קטלנית ראשונה שנגרמה על ידי רכב במצב אוטונומי מלא. רכב ניסוי של אובר דרס למוות אישה חסרת בית בשם אליין הרצברג אשר חצתה את הכביש המהיר עם עגלתה.

בהמשך יתברר כי נהגת הניסוי אשר ישבה מאחורי ההגה היתה עסוקה בלצפות בסרטון במכשיר הסלולרי שלה, והרכב מצידו הבחין בצללית של הרצברג ובחר להתעלם ממנה, כנראה כחלק מניסוי לחדד את היכולת של מערכת הליידר של הרכב האוטונומי להתעלם משקיות ואשפה אחרת המוטלת על הכביש.

דמות המפתח הישראלית במרוץ אל הרכב האוטונומי, פרופסור אמנון שעשוע, כבר התבטא כי גם אם הרכב האוטונומי יצמצם את מספר ההרוגים מתאונות דרכים פי שלוש - מ-35 אלף בשנה בארה"ב ל-10,000 - עדיין לא יהיה אקלים ציבורי שיאפשר הכנסה של רכב אוטונומי. רק כאשר השיפור יהיה פי מאה (!) להערכתו אנשים יפסיקו לחשוש מנהיגה אוטונומית.

כפי שאמר הפיזיקאי הדגול נילס בור, "ניבויים הם עסק מסוכן במיוחד אם מדובר בעתיד", אך התגובה הקשה לתאונה של אובר עם הולכת רגל שהתפרצה לכביש (אובר השביתה את כל צי הרכבים האוטונומיים שלה ל-9 חודשים) ללא ספק תומכת בדבריו של שעשוע.

תאונה במכונית אוטונומית של אובר
AP

הרשמה לניוזלטר

כל הסקירות בזירת הניתוחים של TheMarker - בתיבת המייל שלכם

ברצוני לקבל ניוזלטרים, מידע שיווקי והטבות


תגובות

דלג על התגובות

בשליחת תגובה זו הנני מצהיר שאני מסכים/מסכימה עם תנאי השימוש של אתר TheMarker

סדר את התגובות

כתבות שאולי פיספסתם

*#