תיק מניות

רשימת קריאה

רשימת הקריאה מאפשרת לך לשמור כתבות ולקרוא אותן במועד מאוחר יותר באתר,במובייל או באפליקציה.

לחיצה על כפתור "שמור", בתחילת הכתבה תוסיף את הכתבה לרשימת הקריאה שלך.
לחיצה על "הסר" תסיר את הכתבה מרשימת הקריאה.

לרשימת הקריאה המלאה לחצו כאן

לסמוך על ספידי מקווין

לכתבה
Entertainment Pictures / Alamy S

מכוניות אוטונומיות ישלטו בעתיד בכבישים, אך הדילמות המוסריות שעמן מתמודדים כיום נהגים אנושיים לא ייעלמו. האם ניתן ללמד מכונית להביא בחשבון שיקולים של מוסר?

תגובות

מכונית המרוץ ספידי מקווין, גיבור סרט האנימציה של אולפני דיסני ופיקסאר, "מכוניות" (2006), חייב להגיע לתחרות המכרעת בלוס אנג'לס, אך לצערו, כשל מערכת (עייפות עצומה) של מק, משאית התובלה שלו, מביא אותו לעמק רדיאטור ספרינגס, שם הוא גורם לצרות רבות ונאלץ לתקן את הכביש שהרס. בזמן שהוא מקטר ומנסה לברוח משם, מקווין מכיר את מטור, רכב גרר ישן וחלוד שאמור לשמור עליו, אך נהפך להיות חברו הנאמן והקרוב ביותר. ביום שבו משתחרר ספידי מהכבלים שהושמו על גלגליו, בכדי להקל על עבודתו, כולם חוששים שהוא ינצל זאת כדי לברוח. רק למטור קשה להאמין שזה אכן יקרה, שהרי הם חברים וחברים לא בוגדים באמון ההדדי ביניהם.

הזוי ככל שזה יישמע, הסיטואציה של אמון בין מכוניות עומדת להתממש בעתיד הקרוב. ייתכן שבעוד שנים לא רבות גם אנחנו נצטרך לשאול את עצמנו כמה אמון אנו נותנים במכוניות שלנו, ובאיזו מידה אנו יכולים לסמוך עליהן שינהגו, תרתי משמע, כראוי.

כדי להבין את הסוגיה המסובכת שעומדת להעסיק אותנו בשנים הקרובות, צריך לשאול קודם מהו בכלל אמון – שאלת מפתח בהבנת היחסים האנושיים. בבסיסו, אמון הוא הביטחון שהאחר יפעל כמצופה ממנו או כפי שאנו מניחים שהוא אמור לפעול, בהתאם להיכרות המוקדמות שלנו עמו. ולא רק זאת, אלא שאנו גם חושבים שהוא יפעל לטובתנו, מתוך שיקול דעת ואחריות כלפי סובביו ועצמו, ושלא יפגע בנו במזיד. תחושת האמון מפחיתה את הצורך לחשוב בכל פעם מחדש על אופני פעולתו של האחר, ובעיקר על הסכנות שבו. במקום זאת, אנו יוצרים כללים מנטליים הפועלים ברקע של הכרתנו, ולאורם אנו מקבלים את ההחלטות שלנו ביחס לאחרים. על רקע כללים אלה שמעניקים לנו ביטחון, אנו בוטחים ברופא שלנו שיקבל את ההחלטה הנכונה מתוקף תפקידו, מאמינים שהטייס יודע את עבודתו ולא יסכן את עצמו ואת האנשים במטוס וסומכים על הנהגים האחרים בכביש, שמתוך דאגתם לעצמם, ינהגו כראוי. במידה מסוימת, אנו יוצרים את דמותו של האחר בהכרתנו, וכשאנו אומרים שאנו מאמינים שהאחר יפעל בדרך מסוימת, אנו בעצם מסיקים מדמות משתקפת זו על העתיד. זאת, אף כי ייתכן שאין דבר בין דמות זו לבין האדם הממשי שלו אנו מייחסים אותה.

לתוך מורכבות זו נכנסת כעת סוגיית האמון במכונות. אין זו סוגיה חדשה. כבר כיום אנו מצפים שהמכונות שלנו יעשו את מה שהן אמורות לעשות – שהמחשב יפעל ללא תקיעות, שהטלפון יהיה מחובר כל הזמן לרשת, שמכונת הכביסה תוציא את הבגדים נקיים ושמערכת האזעקה במפעל תעבוד בזמן אמת. אנו מאמינים (ואולי רק מקווים) שכל זה יקרה מאחר שאלו מכונות אוטומטיות. כלומר, מכונות אלו, יהיו משוכללות ככל שיהיו, פועלות על בסיס רצף חוקים שניתן להן על ידי בני האדם שיצרו ותכנתו אותן, וכל "חייהן" הן אמורות לעשות את אותן הפעולות כאשר לוחצים על אותם כפתורים שאמורים להפעיל אותן. כאשר זה לא קורה, אנחנו בדרך כלל אומרים שהמכונה מקולקלת ושיש "תקלה", אבל אנו בוודאי לא אומרים שהמכונה אכזבה אותנו ופגעה באמון שרחשנו לה.

"אמינות" היא מילת מפתח בפיתוחם ושיווקם של מוצרים טכנולוגיים, ובכלל זה מכוניות מתקדמות. הלקוח של מכונית חדשה כיום לא רק מצפה שהמכונית שרכש תיסע ללא תקלות, אלא גם שמחשב הרכב יידע להחליט לבד ובמדויק על צריכת הדלק המתאימה לנהיגה בעיר או בכביש בין־עירוני, שיידע לכוון את רמת התאורה בהתאם לאור שיש בחוץ, ושידע לזהות באופן אמין וללא שום תקלה את זווית ההטיה של הרכב בפנייה ולתקן בהתאם את המהירות ואת הנהיגה האנושית.

צילום מסך חשבון ה

כל זה עומד להשתנות עם כניסתן לשוק של מכוניות שאינן רק אוטומטיות אלא גם אוטונומיות, כלומר ביכולתן לנהל ללא התערבות את כל פעולות הרכב, לרבות הנהיגה עצמה, ולהחליט על דרכי פעולתן בהתאם לסיטואציות השונות שאליהן הן נקלעות. לשאלת האמון משמעות מהותית לעניין התפתחותה של טכנולוגיה זו, שכן אין זו עוד טכנולוגיה שניתן לצפות את מהלכה והתנהגותה, אלא טכנולוגיה שבהחלט אפשר לומר עליה שהיא בעלת צורה מסוימת של מודעות, שכן שהיא בוחנת אפשרויות ומקבלת החלטות מורכבות הרבה יותר מתיקון זווית הסיבוב.

ייתכן שמכוניות אוטונומיות יקבלו החלטות בדומה לבני האדם, עם תוצאות סבירות (אפשר לעקוף בכביש כאשר הוא פנוי ואין פס הפרדה רציף), אולם ייתכן גם שלהחלטותיהן יהיו השלכות מוסריות עמוקות מאוד. כך לדוגמה, במקרה של הדילמה המוכרת הבאה. במקרה שבו לא ניתן לעצור מכונית דוהרת, מהי הבחירה המוסרית יותר מבין שתי האפשרויות הבאות: לדרוס ארבעה בני אדם זרים שחוצים את הכביש, או לסטות מהנתיב, להתנגש בגדר או להתהפך בשוליים ולהרוג את הילד שלך, שיושב איתך ברכב? בעוד שכמעט כל נהג אנושי יעדיף להציל את חיי ילדיו, גם במחיר חייהם של זרים, מכונית אוטונומית עשויה לחשוב אחרת – חייהם של ארבעה אנשים עדיפים על חייו של ילד אחד. כיצד, אם כן, נוכל להאמין שהמכונית שלנו תקבל את הבחירה הנכונה בשבילנו? (ראו שאלון מוסר בעמ' 62).

 

מוות למכונות

סוגיות כאלו הן עדיין בגדר ספקולציות על העתיד, אך העתיד הזה אינו רחוק. מהר מאוד המכוניות האוטונומיות יהוו חלק מהיומיום שלנו ונצטרך ללמוד לחיות איתן ולתת אמון בכך שהן יקבלו החלטות נכונות. "ייתכן שנחשוב שהמכונית היא אחר־דמוי־אנושי, ומכאן נצטרך להסדיר את היחסים הציבוריים עם כללים דמוי־אנושיים", אומרת גלית ולנר, עו"ד וד"ר לפילוסופיה של הטכנולוגיה מהמרכז האקדמי ויצו חיפה והתוכנית הרב־תחומית למדעי הרוח של אוניברסיטת תל אביב. אולם, מי יישא באחריות המוסרית של ההחלטות של המכונית ומי יהיה המושא של האמון שלנו כבני אדם? זו שאלה שלא ניתן לתת לה תשובה מראש, אלא רק עם התפתחות הטכנולוגיה עצמה, וייתכן שאין לנו עדיין את המושגים או התורות המוסריות והחברתיות המסוגלות להתמודד עם שאלות אלו.

יעקב גילת

ד"ר גלית ולנר, אוניברסיטת תל אביב: "ייתכן שיהיו מקרים שמכונית תתפתח להיות מכונית שלמדה להתנהג 'לא יפה', וגם לאחר למידה מחדש היא לא תשנה את דרכיה. במקרה כזה נצטרך להשבית אותה, להוריד אותה מהכביש ולמחוק את ה'אישיות' שלה, כלומר - לגזור עליה גזר דין מוות"

עד שתהיה תשובה לשאלות המוסריות, הפן המשפטי כבר מצריך היערכות. וכמו בכל פיתוח טכנולוגי חדשני שמשנה את האופן שבו אנו חיים, גם במקרה של המכוניות החכמות נראה שהרגולטורים עדיין לא מוכנים לעולם העתידי. אין ספק שבעתיד תוטל רגולציה מסוימת על תחום המכוניות האוטונומיות, אך השאלה איזו צורה תלבש רגולציה זו עודנה פתוחה. "החוק יצטרך להביא בחשבון את מעורבותה של הטכנולוגיה בכביש", אומרת ולנר. "אין ספק בכלל שחובת הזהירות המופעלת כיום על נהגים, לרבות הנחות היסוד שקובעות מה נחשב לנהיגה רשלנית (למשל נהיגה תחת השפעת סמים), תצטרך להתעדכן בהתאם".

ולנר משרטטת שני כיוונים אפשריים לעדכון המערכת החוקית. "האחד – הרחבת חובת הזהירות מנהגים גם לעבר מפתחי טכנולוגיות. כפי שמתכנני דרכים מודעים לחובת הזהירות שחלה עליהם, כך מפתחי הטכנולוגיות השונות במכונית האוטונומית צריכים להיות מודעים לסיכונים ולסכנות האפשריות. הייתי מייעצת לחברה כמו מובילאיי לחשוב כיצד להגן מבחינה משפטית על מפתחי טכנולוגיות שקובעות, למשל, מתי מכונית תסטה ממסלולה באופן אוטומטי".

כל הדרך למכונית ללא נהג

הכיוון השני, לדבריה, הוא הטלת אחריות על הטכנולוגיות עצמן. כאן אפשר ללמוד מהחקיקה בנוגע לבעלי חיים מסוכנים, הנושאים בסוג של אחריות להתנהגותם, יחד עם בעליהם. גם מכונית אוטונומית יכולה להיות אחראית אם היא מתוכנתת לנהוג בפראות, או שהאלגוריתם המותקן בה למד לנהוג כך. "ייתכן שנקבל מודל של אחריות מבוזרת", אומרת ולנר. "כשם שבמקרה של כלב נושך, בעלי הכלב נושאים באחריות וגם הכלב עצמו מוכנס להסגר או מוגבל באפשרות לנוע ברחוב, כך גם במקרה של מכוניות חכמות או אוטונומיות, כאלה שבוחרות את ההתנהגות שלהן. מי שיישא באחריות על החלטות פוגעניות יהיו מגוון הגורמים המעורבים בהפעלה שלהן: היצרן, המתכנת, הנהג/בעלים, וכן, גם המכונית עצמה. ייתכן שיהיו מקרים שמכונית תתפתח להיות מכונית שלמדה להתנהג 'לא יפה', וגם לאחר למידה מחדש היא לא תשנה את דרכיה. במקרה כזה נצטרך להשבית אותה, להוריד אותה מהכביש ולמחוק את ה'אישיות' שלה, כלומר – לגזור עליה גזר־דין מוות".

לאחרונה אכן ראינו כיצד "הורגים" אינטליגנציה מלאכותית. TAI, צ'אט־בוט שפיתחה מיקרוסופט, ושתוכנת ללמוד כך שיפעל כמו נערה מתבגרת ברשת, נהפך בהשפעת עוקביו בטוויטר לדמות אנטישמית ואנטי־פמיניסטית הדוברת ניאו־נאצית שוטפת. רצף הציוצים שטופי השנאה של TAI כלפי כל העולם הביא את המתכנתים של מיקרוסופט "להרוג" אותה לאחר 16 שעות חיים בלבד, בכדי לבחון את מחדש את החינוך שניתן לה, כלומר להכניס אותה להקפאה עד שתלמד להיות "בנאדם". עכשיו נשאר לחשוב מה יהיה אם מכונית אוטונומית תלמד להיות "רעה". אין ספק שאם TAI היא פתח לעתיד, אז גם התגובה האנושית לה היא היא סוג של פתרון עתידי לטכנולוגיות חכמות שלא יפעלו כמצופה מהן, או שהפרו את האמון שבני האדם נתנו בהן.

 

סכנת הגורם האנושי

אפשרות נוספת שיש להביא בחשבון היא שאמינותן של המכוניות העתידניות האלו תהיה גדולה בהרבה מזו של בני האדם. כיום, הנהג האנושי צריך לראות בעיניו את אורות הבלמים של הנהג שלפניו בכדי לדעת שעליו להאט או לעצור, ולעתים כלל לא בטוח שהוא אכן עושה זאת או שומר על מרחק שמספיק לבלימה. המכונית האוטונומית תימנע מכשלים כאלו, אומרת ולנר: "היא תדבר במהירות עם כל מה שאפשר לתת לה לדבר איתו – עם המחשב של הרכב השני, עם מעבר החצייה, עם התמרור ואפילו עם המכשיר הסלולרי של הילד שעומד להתפרץ לכביש. היא תזהה ותביא בחשבון דברים שנמצאים באופק ההתרחשות שלה, ותקבל החלטה לבלום או לא בהתאם לכך מבלי לסמוך או לתת אמון יתר בהחלטתו של הנהג האנושי ברכב שמלפנים. הבעיה היא שלא תמיד נדע על סמך מה היא קיבלה את ההחלטה או איזה החלטה היא תקבל בעתיד. מכונית כזו 'תיוולד' עם היכולת ללמוד, והיא תלמד לבד מהן ההחלטות המתאימות לכל סיטואציה. היא תלמד מניסיון של מכוניות אחרות וממאגר נתונים עצום שיהיה לה ושלא זמין לנו, והיא תלמד מהתיקונים שיעשו לה בני אדם (נניח, מנגיעה בהגה לכוון אותו במקרה שהיא תפספס דברים בכביש)".

בלומברג

ולמה שהמכונית תאמין לאדם? דברים אלה מובילים באופן טבעי אל הפן השני והלא פחות משמעותי של סוגיית האמון במכוניות אוטומטיות – האמון שהן ירחשו לגורם האנושי שבכביש. שהרי אם כל המכונות והמכוניות החכמות ידברו זו עם זו ויקבלו החלטות מושכלות בהתאם לאינסוף המידע שיהיה זמין להן, הרי הגורם שעשוי להיות המשבש יהיה דווקא האדם – שמקבל החלטות באופן ספונטני וללא שיקול דעת, לעתים באינסטינקט, לעתים בהיסח דעת, לא מעט פעמים מתוך עצלות וחוסר חשיבה ובמקרים מסוימים גם מתוך סערת רגשות. במצב שבו כל שאר הגורמים הם 'יצורים' שפועלים על בסיס ההחלטה הטובה ביותר שהם למדו לקבל בסיטואציות מסוימות, דווקא האדם הוא הגורם שיקשה על המכונית החכמה לקבל החלטות.

כבר כיום הטכנולוגיה מגבשת מנגנונים ליצירת אמון בבני אדם. גוגל, אמזון, אאוטבריין וחברות אינטרנט רבות יוצרות ב"הכרתן" את הדמות של כל משתמש ומניחות, על פי אלגוריתם מסוים, שאם קנינו ספר בנושא טכנולוגיה של סופר מסוים, אולי גם נאהב את הספר של מחבר אחר, או שאולי נתעניין גם בחקר החלל. כיצד הם יודעים זאת? מהיכן נוצרה דמות פיקטיבית זו? כמו אצל בני האדם, מקורה בניסיון – המנוע של אמזון, לדוגמה, יוצר קטגוריות של משתמשים בהתאם לאינסוף דפוסי פעולה שהוא אסף על כלל המשתמשים באתר, ובהתאם לתבניות אלו הוא יכול להציע לכל משתמש מה שנראה לו תואם את הפרופיל שלו. לא יהיה זה מוגזם לומר שהמנגנון "מאמין" שכך המשתמש רוצה לפעול.

ייתכן שיום אחד, בכדי למנוע כשלים וסכנות בכבישים שעלולים לנבוע מהחלטות שרירותיות או לא מושכלות של האדם (למשל, במקרה שבו יבחר להיות צודק אך לא חכם), החקיקה שתיווצר תתייחס בעיקר לבני האדם ולא למכונות: החוק יתיר או ימנע מהאדם להשתמש בכבישים שיהיו מיועדים רק למכוניות עצמאיות, או יביא להפרדה מרחבית בין מכוניות רגילות לאוטונומיות, מתוך הבנה שבני האדם מהווים סיכון למהלך התקין של הדברים וכי יש לתת למכונות החכמות את כל התנאים כדי לייעל את התהליכים החברתיים. יש מי שיקרא לזה – שלטון המכונות.

ייתכן שבעתיד נחיה בחברה היברידית, שבה בני אדם תבוניים ומכונות תבוניות חיים זה לצד זה. השאלה לא תהיה רק כיצד המכוניות האוטונומיות נוהגות, אלא גם עד כמה הן ובני האדם לומדים ביחד לחיות זה לצד זה ומקיימים חברה אמינה ובטוחה

לעומת תרחיש זה, שנשען על החשש המתמיד של בני האדם מהמכונות, סביר להניח שמה שנראה בעתיד הוא חברה היברידית, שבה בני אדם תבוניים ומכונות תבוניות חיים זה לצד זה. כך שהשאלה לא תהיה רק כיצד המכוניות האלה נוהגות וכמה אמון בני אדם יכולים לרחוש להם, אלא גם עד כמה הן ובני האדם לומדים ביחד לחיות זה לצד זה ומקיימים חברה אמינה ובטוחה. לשם כך יהיה עלינו, הצד האנושי של החברה העתידית הזו, לפתור כמה דברים אצלנו לפני שאנו פונים לפתור אותם מול הצד המכני – ובעיקר את שאלת האמון בין בני האדם, ואולי אפילו משהו עמוק יותר: את שאלת האנושיות של בני האדם.

כבר עם ניצניה הראשונים של המהפכה התעשייתית בסוף המאה ה־18, זיהה הפילוסוף אדם סמית' את החשש הגדול מהטכנולוגיה שמעצבת את העולם: הפיכתו של האדם לבורג במכונה הגדולה. כשהוא בחן את תהליך חלוקת העבודה המתבקש מהעולם התעשייתי החדש, הוא העלה את החשש שהאדם מאבד מהאוטונומיה שלו והופך להיות אוטומטי, כזה שעושה פעולה אחת הרבה מאוד פעמים ללא כל יכולת בחירה, מה שמוביל אותו להשיל מעצמו את האנושיות שלו. ייתכן שכעת אנו רואים את הצד השני של המשוואה: בעוד בני האדם נהפכים לאוטומטיים – מה שמקשה עליהם לקבל החלטות מוסריות ביום יום – המכונות האוטומטיות הופכות לאוטונומיות, והן יידרשו לקבל החלטות מוסריות במקום בני האדם.

זוהי אולי הנקודה האמיתית שעלינו לחשוש ממנה: לא שאלת האמון במכוניות ולא אופן קבלת ההחלטות שלהן, אלא שאלת האמון באדם האחר ואופן קבלת ההחלטות שלו. במילים אחרות, לפני שעלינו לחשוש מהמכונות שהופכות להיות אנושיות יותר ויותר ודורשות את האמון שלנו בהן, עלינו לחשוש מבני האדם שמאבדים צלם אנוש ומאבדים כל סיבה שנאמין בהם.

 

הכותב הוא ד"ר לפילוסופיה של העסקים והכלכלה ומרצה ויועץ לארגונים בנושאי אתיקה וכלכלה

 

הרשמה לניוזלטר

הירשמו עכשיו: הסיפורים החשובים של מגזין TheMarker ישירות למייל

ברצוני לקבל ניוזלטרים, מידע שיווקי והטבות


תגובות

דלג על התגובות

בשליחת תגובה זו הנני מצהיר שאני מסכים/מסכימה עם תנאי השימוש של אתר TheMarker

סדר את התגובות