מציאות קדודה: כיצד הטכנולוגיה תקבל עבורנו החלטות מושכלות? - בחזרה לעתיד - הבלוג של ד"ר תומר סיימון - TheMarker
 

אתם מחוברים לאתר דרך IP ארגוני, להתחברות דרך המינוי האישי

טרם ביצעת אימות לכתובת הדוא"ל שלך. לאימות כתובת הדואל שלך  לחצו כאן

תיק מניות

רשימת קריאה

רשימת הקריאה מאפשרת לך לשמור כתבות ולקרוא אותן במועד מאוחר יותר באתר,במובייל או באפליקציה.

לחיצה על כפתור "שמור", בתחילת הכתבה תוסיף את הכתבה לרשימת הקריאה שלך.
לחיצה על "הסר" תסיר את הכתבה מרשימת הקריאה.

לרשימת הקריאה המלאה לחצו כאן

מציאות קדודה: כיצד הטכנולוגיה תקבל עבורנו החלטות מושכלות?

עולמינו ייהפך ליותר ויותר תלוי-תוכנה ובינה מלאכותית שיתווכו עבורנו את המציאות ללא אפשרות בחירה או שיקול דעת

בשנתיים-שלוש האחרונות החלו לפרוץ קדימה שתי טכנולוגיות מעשירות מציאות – מציאות מדומה (VR) ומציאות רבודה (AR). בעוד מציאות מדומה מחייבת התנתקות מהמציאות האמיתית, מציאות רבודה מוסיפה מידע ומעשירה את חוויית המציאות האמיתית. כשאנחנו עושים שימוש בטכנולוגיות אלה אנחנו עושים זאת מבחירה מודעת.

לאור אירועים והתפתחויות של השנה האחרונה, אך בעיקר של החודשיים האחרונים, בכתבה זו אציג כיצד אנחנו כבר היום נמצאים במציאות שמוכתבת לנו על ידי תוכנה. מציאות שאין לנו דרך לדעת אם היא אמיתית או לא, אלא אם כן היא תתנפץ לנו בפנים – כפי שקרה מספר פעמים בשנה האחרונה.

לשם כך, אני מעוניין להציע מונח חדש – מציאות קדודה (Coded Reality). ההגדרה אותה אני מציע היא טכנולוגיות מידע המוטמעות בפעילויות יומיומיות שלנו, כאזרחים וכבעלי מקצוע, והמתווכות את המציאות בה אנו פועלים כך שאנחנו נסמכים עליהן בקבלת ההחלטות שלנו וביכולת שלנו להפעיל שיקול דעת.

הדוגמה הראשונה היא אותם בוטים מפורסמים שמנסים להשפיע על דעותינו הפוליטיות ברשתות החברתיות. אותם בוטים, שהם פיסות תוכנה, מפרסמים, מגיבים ומשתפים תכנים שקשה לנו לקבוע בודאות האם מדובר באמת או בשקר, ותחת הרושם שמדובר בפרופיל לגיטימי. למרות שרבים מצביעים על הסכנות הטמונות בבוטים פעולתם נשארת במרחב הוירטואלי.

רכב אוטונומי של אובר
Jared Wickerham / AP Photo

הדוגמה השניה למציאות קדודה היא פעולת הרכבים האוטונומיים המופעלים ומנוהלים כמעט באופן מוחלט על ידי תוכנה ואלגוריתמים שונים שאחראים על הפעלת הרכב והנהיגה עצמה. בחודש מארס 2018 רכב אוטונומי של חברת אובר דרס אישה למוות בנסיעת מבחן לילית. מאחורי ההגה ישב נהג של החברה שתפקידו היה לודא שהמערכות פועלות כשורה, ולקחת פיקוד במקרה של תקלה. אך, לא היה סיכוי אמיתי לבצע בלימה בזמן. התוכנה האחראית זיהתה סכנה רק 6 שניות לפני התאונה, התוכנה לבלימת חירום אוטונומית לא הופעלה, הנהג היה שקוע בנייד ורק שניה אחת לפני התאונה הוא הבין שהוא צריך לבלום. בדו"ח הראשוני של ועדת הבטיחות האמריקאית (NTSB) נקבע כי כשל תוכנה הוא שגרם לתאונה, ואף הואשמו מפתחי התוכנה עצמם (האשמה שירדה בהמשך).

למען האמת, כבר ב-2015 בפרשת הדיזל-גייט המפורסמת של חברת פולקסווגן ניתן היה לראות סנונית ראשונה לאותה מציאות קדודה. מהנדסי התוכנה של החברה תכנתו יכולת המאפשרת להציג נתוני זיהום אוויר נמוכים יותר בזמן שהרכב נמצא במכון בדיקות ורישוי, וכך להטעות את הבוחנים והרשויות.

תעשיית הרכב עוברת מהפיכה טכנולוגית של ממש בשנים האחרונות, החל מתכנון הרכב, דרך ייצורו ועד להפעלתו. כבר היום, בחברות רכב רבות מתבצע הייצור באופן אוטומטי על ידי רובוטים המבצעים אוטומציה לכ-84 עד 89% מהתהליך כולו. בנוסף, התחזית של תעשיית הרכב מראה כי עד 2020 יהיו יותר מהנדסי תוכנה מאשר מהנדסי רכבים המועסקים על ידי חברות הרכב.

דוגמה שלישית היא מהעת האחרונה ועוסקת בהתרסקות מטוס הבואינג של חברת אתיופיאן איירליינס. למרות שהחקירה נמצאת לקראת סיומה כבר ניתן לקבוע בודאות כי התאונה נגרמה בשל כשל (באג) בתוכנה. מרבית הטיסות המסחריות היום ברחבי העולם, לאלו מכם שלא ידעו זאת, הן כמעט אוטונומיות לחלוטין. תפקידם של הטייסים מצומצם ועיקרו הוא בביצוע הערכת וניהול סיכונים לטיסה עצמה. המסכים והמערכות בתא הטייס מציגים את כלל נתוני הטיסה והמטוס.

חלק ממנוע מטוס בואינג 737 מקס בזירת ההתרסקות באדיס אבבה, החודש
Tiksa Negeri/רויטרס

במקרה זה מדובר על מטוס בואינג 737-מקס מהדגם החדש ביותר שעבר שדרוגי תוכנה על מנת לסייע בשמירה על היציבות שלו, לאור שינויים מבניים שעבר. לאחר ההמראה טייסי המטוס קיבלו חיווי מאחת ממערכות המטוס על כך שהמטוס נמצא בהזדקרות, ולכך הגיבה מערכת ה-MCAS בהורדת אף המטוס כלפי מטה. אך בפועל המטוס לא היה בהזדקרות, כך שנוצר מצב בו הטייסים מנסים לבטל פעולה שגוייה של המערכת האוטמטית שהחמירה את מצב הטיסה עד להתרסקותו. למעשה, הטייסים נסמכים על מערך מורכב של חיישנים האוספים נתונים ומידע רב שנמצאים ברחבי המטוס. מערכות תוכנה אוספות את הנתונים ומעבדות אותם לכדי מידע המוצג על גבי המסכים בתא הטייס. המצב כרגע הוא שחברת בואינג ביצעה עדכון תוכנה למערכת המדוברת בכל דגמי ה-737-מקס שלה, וביקשה להוסיף הדרכות לטייסים.

תאונת מטוס זו היא דוגמה אחת בלבד לבעיה הנוצרת אצל טייסים הנסמכים על "טייס אוטומטי" ואינם יודעים כיצד לקחת שליטה חזרה על המטוס כשמערכות אלה אינן פועלות או מתנתקות. בדצמבר 2018, ועדת הכלכלה של הכנסת אישרה תיקון לתקנות הדרכות הטייסים בישראל שנכנס לתוקף ב-3 למארס 2019, שבוע לפני התאונה באתיופיה. בדיוני הועדה נאמר כי ב"שנים האחרונות התברר כי האוטומציה של כלי הטיס פוגעת ביכולת לתפעל אותם כשהיא מפסיקה את פעולתה פתאום. הוא ציין כי מקרה כזה התרחש בתאונה של מטוס אייר פראנס בטיסה 447 מברזיל, כאשר במהלך הטיסה הפסיק הטייס האוטומטי לפעול והטייסים לא ידעו איך להתמודד עם הסיטואציה."

ככל שנתקדם לתוך העידן האוטונומי נאלץ לסמוך יותר ויותר על תוכנה שתשלוט במציאות שלנו. מאחורי התוכנה עומדים המפתחים והמהנדסים של המערכות האלה, שבעצם כתיבת שורות הקוד קובעים את המציאות של רבים מאיתנו. לכן, כבר בתחילת שנת 2018, החברות הגדולות החלו לחייב את מהנדסי התוכנה שלהם לעבור קורסים באתיקה. נושא זה חשוב במיוחד לכל המפתחים של הבינה המלאכותית האחראית על קבלת ההחלטות. לצערנו, רק בשבוע שעבר חברת גוגל הכריזה על ביטול ועדת האתיקה הפנימית שלה לבחינת השפעות התוכנה שלה על חיינו. בסקר מקיף של למעלה מ-70,000 מפתחי תוכנה נמצא כי רק 22% לוקחים אחריות על קוד לא אתי שהם כותבים, בעוד 52% כלל לא ידווחו על קוד לא אתי שכתבו או שראו.

למרות כל הבעיות והחששות מחקר חדש מראה שבני אדם סומכים יותר על אלגוריתמים מאשר על בני אדם. במסגרת המחקר, שפורסם במגזין העסקים של אוניברסיטת הארווארד (HBR), שתי קבוצות של אנשים (מומחים ולא מומחים) התבקשה לייצר תחזית בנושא התמחותם של המומחים. התוצאות הראו כי תחזית של המומחים שפסלו כל מידע שהתקבל מאלגוריתם היתה פחות מדוייקת מאשר התחזית של קבוצת הלא מומחים שכן סמכו על אלגוריתמים.

בשנים הקרובות עולמינו ייהפך ליותר ויותר תלוי-תוכנה ובינה מלאכותית שיתווכו עבורנו את המציאות ויאפשרו לנו לפעול בה, אך ללא אפשרות בחירה או שיקול דעת. זו מציאות קדודה.

הרשמה לניוזלטר

כל הסקירות בזירת הניתוחים של TheMarker - בתיבת המייל שלכם

ברצוני לקבל ניוזלטרים, מידע שיווקי והטבות


תגובות

דלג על התגובות

בשליחת תגובה זו הנני מצהיר שאני מסכים/מסכימה עם תנאי השימוש של אתר TheMarker

סדר את התגובות

כתבות שאולי פיספסתם

*#