האם עדיף שרובוטים יצביעו בבחירות במקומנו?

במצבים שבהם רגש משחק תפקיד מרכזי, רובוט, אינטליגנטי ככל שיהיה, לא יוכל להוות תחליף לאינטראקציה אנושית. לכן, השיקול היחיד האם לאפשר לרובוטים להחליף פונקציות אנושיות הוא האם יש צורך ברגש כדי לקבל להחלטה

לירז מרגלית
לירז מרגלית
רובוט לבן מרים את ידו
צילום: Franck V. on Unsplash
לירז מרגלית
לירז מרגלית

לפני כשנה, באחד הכבישים הצדדיים במחוז מונמות' שבניו ג'רזי, שוחררה מכונית אוטונומית שפותחה על ידי יצרנית השבבים נבידיה לנסיעת מבחן. ממבט ראשון לא ניכר הבדל בין רכב זה ורכבים אוטונומיים אחרים שיוצרו בגוגל, טסלה או ג'נרל מוטורס, אך היה הבדל מהותי ביניהם - מנגנון קבלת ההחלטות שהוטמע ברכב לא נקבע מראש על ידי מתכנתים. לחילופין, קבלת ההחלטות ברכב, מתי לעצור, להאיץ, לפנות, התבססה על אלגוריתם שלימד את עצמו לנהוג על ידי ניטור האופן שבו אנחנו, בני האנוש, נוהגים. הבעיה במערכת מסוג זה היא שלא לגמרי ברור כיצד הרכב מקבל החלטות.

חיישני הרכב קולטים מידע מהסביבה, מידע זה מועבר לרשת עצומה של נוירונים מלאכותיים המעבדים את המידע ובתגובה מעבירים פקודה להפעיל את ההגה, הבלמים ומערכות נוספות. למרות שהתגובות ברובן תואמות נהיגה אנושית, ישנם מקרים לא צפויים כפי שקרה באריזונה לפני כמה חודשים. אישה חצתה את הכביש ונדרסה למוות כשרכב אוטונומי של אובר פגע בה. לאחר חקירת האירוע נטען שאם אדם היה נוהג ברכב הוא יכול היה למנוע את התאונה ולבלום את הרכב. אני טוענת שלא בהכרח. 

הרעיון העומד מאחורי הטכנולוגיה של Deep Learning הוא לפתח אלגוריתם שיוכל ללמוד לקבל החלטה ולהגיב למצבים מסוימים מבלי שתוכנת לכך מראש. להבדיל מלמידה מבוססת כלל החלטה (Rule based), המציינת כללים ברורים להתמודדות עם הבעיה שעל הפרק, למשל, לעצור באור אדום, בשיטה זו, המכונה למידת חיזוק (Reinforcement Learning), הרובוט לא מקבל כללים מוכתבים מראש אלא הגדרה של מה נחשב הצלחה ומה נחשב כישלון. הוא נדרש להסיק באמצעות ניסוי וטעייה אילו מפעולותיו הביאו להצלחה ואלו לכישלון. מכיוון שלא קיימים כללים מוכתבים מראש, תהליך קבלת ההחלטה אינו שקוף אף למתכנת שפיתח את האלגוריתם.

באנלוגיה, תחשבו שרובוט היה חי אותו פרק זמן שאתם חיים, לומד באמצעות ניסוי וטעייה ומשקלל את התוצאות של ההחלטות שלכם ולבסוף ומחליט על סמך ההתנסות למי להצביע. אתם סבורים שהצבעתו היתה שונה משלכם? רוב הסיכויים שכן.

באחת הדוגמאות נתנו לאלגוריתם להתאמן במשחק שבו יש לשבור בעזרת כדור את כל הלבנים בחומה. לאחר כמה שעות הוא נהפך לטוב יותר משחקן אנושי. הוא הגיע למסקנה שהדרך היעילה ביותר לנצח היא ראשית לשבור את הלבנים בצד. כך יכולה המכונה ללמד בני אדם להגיע לפתרונות בדרכים שלא חשבנו עליהן. מערכת זו מסוגלת להתמודד עם משימות כגון עיבוד תמונה, זיהוי קול וניתוח טקסט, כשהתקווה היא שבעתיד אותן טכנולוגיות יוכלו לסייע באבחון מחלות סופניות, השקעות פיננסיות בשווי מיליוני דולרים ויש המדברים אף על הפעלת נשק.

מהו החשש הגדול שלנו ממכונה הלומדת בעצמה? 

אחד החששות העיקריים כנגד בינה מלאכותית הלומדת בעצמה הוא שאין לנו גישה לגורמים העומדים מאחורי ההחלטה. הטענה היא שעד שלא נמצא דרכים לייצר טכנולוגיות המאפשרות הבנה של התהליכים שהובילו את האלגוריתם להעדיף אפשרות אחת על פני השנייה, ולקחת אחריות על הפעולות שלהן, לא ניתן לשלבן בחיינו בהשוואה לטעות אנוש שכביכול ניתן לחקור ולעלות על הגורמים שהובילו להחלטה.

רובוט של IBM
רובוט של IBMצילום: JOHN MACDOUGALL / AFP

האמנם? האם ניתן לאפיין את הגורמים העומדים בבסיס קבלת החלטות אנושיות?

צ'רלס ויטמן היה חניך מצטיין בתנועת הצופים האמריקאית, נשוי באושר ואובחן עם מנת משכל בטווח האחוזון העליון. במהלך שירותו בחיל הנחתים הוענקה לו מדליית הזהב להתנהגות מופתית. ב-1966, לאחר שרצח את אשתו ואמו בשנתן, טיפס על מגדל התצפית באוניברסיטת טקסס באוסטין, רצח 16 סטודנטים ופצע 32, עד שנורה על ידי שוטר.

בפתק שהותיר אחרי רצח אמו כתב: "אני לא יכול להצדיק או להסביר מדוע רצחתי אותה. שלא יהיה ספק לרגע, אהבתי את האישה הזו בכל לבי". בנוסף כתב כי הוא מבקש שלאחר מותו תבוצע בו נתיחה שלאחר המוות בניסיון למצוא הסבר לפעולותיו. הנתיחה הוכיחה שהאינטואיציה שלו היתה נכונה, לוויטמן היה גידול סרטני בהיפותלמוס שלחץ על אזור במוח המעורב ברגשות שליליים, בעיקר פחד ואגרסיה. 

אשליית השליטה היא Fake News

למרות הצורך הקיומי שלנו לחוש שאנו הסוכנים של החלטותינו, ממצאים מהעשור האחרון מראים שוב ושוב שמידת שליטתנו בהחלטות מועטה עד אפסית, תופעה המכונה אשליית הרצון החופשי. אחד הראשונים להראות זאת הוא בארג', בתחילת שנות השמונים. נבדקים שנחשפו תוך כדי מטלה של סידור משפטים למלים הקשורות בזקנה כמו פילדלפיה, בינגו, אפור, הלכו במובהק לאט יותר כשיצאו מהחדר, בהשוואה לנבדקים שנחשפו למילים ניטרליות. כשצפו בסרטונים שתיעדו את קצב הליכתם, טענו שהיו עייפים באותו יום או שזה מקרי לחלוטין. אף לא אחד מהנבדקים היה מוכן להכיר בכך שגורם חיצוני שלט על התנהגותו. 

מאז נאספו עוד ועוד עדויות לכך ששליטתנו בהחלטות מועטה, עד שליבט (Benjamin Libet) הוכיח מעבר לכל ספק שתחושת השליטה שאנו מייחסים להחלטותינו היא אשליה בלבד. הוא ביקש מנבדקים במעבדתו להרים את אחת מידיהם ברגע שיחפצו בכך וביקש מהם לדווח על הזמן המדויק בו קיבלו את ההחלטה. נמצאו עדויות לפעילות מוחית שאחראית על תזוזת היד, מאות מילישניות לפני שהנבדקים דיווחו על כך שקיבלו החלטה. במלים אחרות, ההחלטה כבר התקבלה ברמה לא מודעת בטרם הנבדקים "החליטו" במודע להרים את ידם. החוויה הסובייקטיבית של קבלת החלטה היא למעשה דיווח על החלטה שכבר נתקבלה ולא הגורם להתנהגותנו.

לכן השיקול שלפיו בהשוואה לרובוטים שאינם צפויים, בני אדם הם בעלי שליטה, אינו מחזיק מים. הדבר היחיד המבחין בינינו ובין רובוטים הוא אשליית השליטה. גורמים בסביבה החיצונית והפנימית משפיעים עלינו באופנים שאין לנו גישה אליהם, בדיוק כפי שאצל רובוטים קיים מרכיב של חוסר וודאות. לכן אין מניעה להחליף פונקציות אנושיות מסוימות על ידי מכונות.

רובוט חושב
רובוט חושבצילום: Getty Images IL

מה בכל זאת היתרון של בני אנוש על רובוטים?

אם יש דבר אחד המבחין בין בני אדם לרובוטים זוהי מודעות. מודעות היא היכולת לחוש, להרגיש בעוד אינטליגנציה היא היכולת לפתור בעיות. אצל בני אדם ויונקים נוספים אינטליגנציה ומודעות הולכים יד ביד כשהרגש משחק תפקיד קריטי בשניהם. כעס, כאב וברמה המאוד בסיסית הדחף להתרבות, המתווך על ידי רגשות כמו אהבה ותשוקה, הם המניעים העיקריים לפעולותינו. לעומת זאת, אצל רובוטים הרגש לא משחק תפקיד. הדחף היחיד המניע מכונה לפתור בעיות הוא שתיכנתו אותה לכך, אין לה יכולת לחוש כאב, דחף להתרבות או מוטיבציה אינטרינזית לקבלת תגמול. 

במצבים שבהם רגש משחק תפקיד מרכזי, רובוט, אינטליגנטי ככל שיהיה, לא יוכל להוות תחליף לאינטראקציה אנושית. מה שמכתיב את האנושיות שלנו היא העובדה שאנו לא לוגיים, והיא מאפשרת לנו להיות שם בשביל האחר ולהזדהות עם הסבל הלא רציונלי שלו. לכן, השיקול היחיד האם לאפשר לרובוטים להחליף פונקציות אנושיות אינו האם נוכל לעמוד על הגורמים מאחורי קבלת ההחלטה, אלא האם יש צורך ברגש כדי לקבל להחלטה. 

עכשיו נותרה רק שאלה אחת – האם לדעתכם בחירת ראש ממשלה היא החלטה שמרכיב הרגש בה צריך להיות דומיננטי? כיום המצב הוא לחלוטין כן. ההחלטה נקבעת באופן מוחלט על פי הרגשות שלנו כלפי מנהיג מסוים. כדי לנטרל את הרגש, אולי כדאי לתת לרובוטים להחליט במקומנו מיהו המועמד המתאים לראשות הממשלה.

לירז מרגלית

לירז מרגלית | |אם לפרויד היה סמארטפון

בעלת דוקטורט בפסיכולוגיה, מתמחה בקבלת החלטות וקוגניציה, מרצה בכנסים בארץ ובעולם. מכונה "הפסיכולוגית של האינטרנט" (Web Psychologist) עקב תפקידה הייחודי המוקדש לניתוח התנהגויות גולשים, והבנת תהליכי קבלת החלטות בעולם הדיגיטלי. ללירז ניסיון עשיר בניתוח והבנת צרכי הלקוח מזווית ייחודית המשלבת את חקר המוח, תהליכים קוגניטיביים ואינטראקציית אדם מחשב.

תגובות

הזינו שם שיוצג כמחבר התגובה
בשליחת תגובה זו הנני מצהיר שהינני מסכים/ה עם תנאי השימוש של אתר הארץ