"עדיף שאלגוריתמים יקבלו החלטות. הם טובים בזה יותר מבני אדם"

בגיל 88, חתן פרס נובל פרופ' דניאל כהנמן מביט קדימה עם ספר חדש ויעד שאפתני: לשפר את העולם באמצעות מערכות שיהיו נקיות מרעשים של שיקול דעת אנושי פגום, ויקבלו החלטות במקומנו - כולל, ואולי בעיקר, במערכת המשפט

פרופ' דניאל כהנמן. "כדאי לרחוץ ידיים לפני שמקבלים החלטות"
פרופ' דניאל כהנמן. "כדאי לרחוץ ידיים לפני שמקבלים החלטות"
נדן פלדמן
נדן פלדמן
ניו יורק
נדן פלדמן
נדן פלדמן
ניו יורק

ברגע מסוים בראיון, פרופ' דניאל כהנמן חוזר 67 שנה אחורה. השנה היא 1955, וכהנמן הוא חייל סדיר ביחידה לפסיכולוגיה של צה"ל. זה זיכרון רחוק, בזמן ובמקום, שזורק אותנו באחת מהפנטהאוז המהודר של כהנמן בלב מנהטן לצריף קטן בתל השומר, שם העביר את שירותו הצבאי. "אני הוא זה שהגה את הראיון האישי בלשכת הגיוס, שנשאר מאז כמעט ללא שינוי", הוא אומר בגאווה לא מוסתרת. "הייתי בן 21. עד אז, עשו ראיון שנועד לקבל התרשמות כללית מן המועמד לגיוס. אני הצעתי לראיין כל מועמד על תכונות נפרדות, בזו אחר זו, כי כך אתה מפרק את המקרה למרכיבים ושופט כל מרכיב בנפרד. אם אתה רוצה לבחון דייקנות – אתה מראיין את האיש אם הוא דייקן; אם אתה רוצה לבדוק אחריות – אתה שואל שאלות לגבי אחריות, וכך הלאה עם תכונות כמו חברתיות ופעלתנות. אנחנו יודעים ששיטת הריאיון הזאת יעילה יותר מהשיטה של התרשמות כללית, כי הרעיון העיקרי בה הוא לדחות את האינטואיציה. כשאתה דוחה את האינטואיציה ומנסה לעסוק בבעיות צרות, בנפרד, כשהן אינן תלויות זו בזו, התוצאה מוצלחת הרבה יותר מאשר בהתרשמות כללית. אינטואיציה מגיעה מהר מאוד, לרוב לפני שיש אינפורמציה מספקת, אבל האינטואיציה היא מקור לרעש".

"רעש" הוא שם ספרו החדש של כהנמן, שיוצא כעת לאור במהדורה עברית בהוצאת מטר. את הספר חיבר כהנמן עם הכלכלנים פרופ' אוליביה סיבוני מבית הספר הגבוה ללימודי תעשייה וניהול בפריז (HEC), ופרופ' קאס סאנסטיין מאוניברסיטת הרווארד, שהקים בה את התוכנית לכלכלה התנהגותית. "יש לי סיפוק אישי שבסוף הקריירה שלי אני חוזר למשהו שיצרתי בגיל 21", אומר כהנמן, שזכה בפרס נובל לכלכלה בדיוק לפני 20 שנה, אף שמעולם לא לקח קורס אחד בכלכלה. גם בעשור התשיעי לחייו נראה שכהנמן לא עוסק בעבר. הוא טרוד בעיקר בעתיד, בעתיד של כולנו, ובספרו החדש מבקש לפתור בעיה אוניברסלית שכולנו מתמודדים איתה מדי יום – איך לנקות את ההפרעות בקבלת ההחלטות שלנו.

רוב ההחלטות, רוב הזמן, עבור רוב האנשים, אינן הרות גורל. כולנו מקבלים כל הזמן החלטות לא נכונות, אבל אין להן השפעה מהותית על חיינו. אם הנסיעה שלנו תתארך כי לקחנו בטעות את האוטובוס הלא נכון או אם קיבלנו בטעות עודף גדול מדי בבית הקפה, ההשפעה היא קטנה ובטווח הקצר. אבל מה קורה כשאנשים מקבלים החלטות הרות גורל על אנשים אחרים? החלטות שמכריעות את עתידו של האדם? ומה קורה כשההחלטות האלה שגויות, כי הן התקבלו בגלל רעש ששיבש את כושר השיפוט של מקבל ההחלטה? זה יכול להיות נאשם שגזרו עליו עונש מאסר ממושך אף שהוא חף מפשע; חולה שקיבל טיפול רפואי מוטעה שהוביל למותו; או עובד יעיל שפוטר מעבודתו בגלל גחמה של מעסיק.

"מקור הרעש הוא שיקול הדעת האנושי. אם יתנו לאלגוריתמים בעלי בינה מלאכותית להכריע בתיקים פליליים, אפשר יהיה לצמצם כך גם את הפשיעה וגם את בתי הסוהר. שופטים הם רועשים נורא מבחינת קבלת החלטות"

פרופ' דניאל כהנמן

"רעש: הפגם בכושר השיפוט האנושי וכיצד אפשר להתגבר עליו", כשמו המלא של הספר, מפרק למרכיבים את תהליך קבלת ההחלטות האנושי, מבודד אותם כדי לאתר את הרעש, מסביר כיצד הרעש פוגע בהחלטות – של אנשים ושל מערכות – ושואף לספק לו פתרונות. ממש כמו השיטה שהגה כהנמן הצעיר אי־אז לראיון הצה"לי. "הרעש שעליו אנחנו מדברים הוא רעש במדידה – המילה שאוּלה מתחום המדידה", מסביר כהנמן, וממחיש את ההבדל בין רעש לבין הטיה באמצעות דוגמה פשוטה: "כשאתה מודד משהו ובכל פעם מקבל תוצאה קצת שונה – זה רעש. למשל, בכל פעם שאני עולה על המשקל האלקטרוני לשקול את עצמי התוצאה שונה מעט, אף שאני שוקל אותו דבר. לעומת זאת, כשאתה מודד משהו ובכל פעם מקבל אותה התוצאה, אבל התוצאה עצמה היא שגויה, זאת הטיה. למשל סרגל שהסימון בו לא מדויק לגמרי".

למה עדיף להיות פליט בחורף

"אפשר לחשוב על הרבה מערכות בתור פס ייצור של קבלת החלטות", מסביר כהנמן. "היינו רוצים שכל 'המוצרים' ייצאו אותו דבר, ושכל השיפוטים יתקבלו באותם תנאים. לכן אפשר לראות רעש בתור כישלון באיכות הייצור של שיפוטיות. זה נכון במערכות כמו מערכת המשפט – כששופטים נותנים פסקי דין וגזרי דין שגויים, זה נכון בהחלטות רפואיות לא נכונות, וזה נכון בחברות ביטוח כששמאים לא נותנים אותה הערכה: קח שני שמאים באופן אקראי, ותמדוד את ההבדל בין ההערכות שלהם על אותו מקרה. אתה מחשב את הממוצע בין שני השיפוטים ומעריך בכמה יסתכם הפער ביניהם. מתברר שלאנשים יש ציפיות ברורות לגודלו של פער כזה, הם מעריכים שהוא יגיע לכ־10%, וזה נשמע סביר. אבל הפער במחקר שלנו היה 55%! כל אלה הן מערכות שיוצרות שיפוטים באמצעות בעלי תפקידים. המערכת לא מדברת בקול אחד. וזה רעש. והוא מקור לטעויות".

בספר מובאות דוגמאות שונות לרעש הזה. כמה מהן משעשעות ומלמדות על האופי האנושי – אפילו אנושי מדי – גם של בעלי תפקידים חשובים שמכריעים גורלות. כך למשל, מחקר שנערך בצרפת ובדק 6 מיליון החלטות של שופטים על פני 12 שנה, הראה כי שופטים גילו יחס סלחני יותר כלפי נאשם אם ההחלטה התקבלה ביום הולדתו. מחקר אחר בדק יותר מ־200 אלף החלטות של בתי משפט להגירה על פני ארבע שנים, ומצא שהטמפרטורה בחוץ משפיעה על גזרי הדין: כשחם, הסיכוי של מבקשי מקלט לקבל מקלט הוא נמוך יותר. "זה מעניין, גם כי בתי המשפט ממוזגים יותר", מציינים כהנמן ושותפיו בספר. "אם אתם סובלים מרדיפה פוליטית בארץ המוצא שלכם ומבקשים מקלט במקום אחר, עליכם לקוות ואולי אפילו להתפלל שהדיון בעניינכם בבית המשפט ייערך ביום קריר". כהנמן מביא דוגמה נוספת: "מצאו ששופטים מחמירים יותר בהחלטות אם קבוצת הפוטבול של עירם הפסידה ערב קודם", הוא אומר.

שלג בירושלים. גם מזג אוויר חריג עלול לייצר רעשצילום: אוהד צויגנברג

"אפשר לחשוב על הרבה מערכות בתור פס ייצור של קבלת החלטות. היינו רוצים שכל 'המוצרים' ייצאו אותו דבר, ושכל השיפוטים יתקבלו באותם תנאים. רעש הוא כישלון באיכות הייצור של שיפוטיות"

עבור נאשמים, ההחלטות האלה בטח לא משעשעות. זו כבר לא קומדיה אלא טרגדיה, וזו ברוב המקרים מנת חלקם של החלשים, העניים, שגדלו במצוקה ונחשפו מגיל צעיר לאלימות ופשיעה, לא זכו לגדול בסביבה נורמטיבית ולא קיבלו תמיכה רגשית, כלכלית ומקצועית לבעיותיהם. "אנחנו רואים פערים גדולים בחומרת ההרשעות על עבירות שונות", אומר כהנמן. "למשל שוד מזוין. אתה רואה שהממוצע של אורך המאסר הוא שבע שנים, אבל על אותו מקרה אתה יכול לדגום שני שופטים באופן אקראי, שופטים פדרליים מנוסים מאוד, ויהיה שם פער של ארבע שנים בין גזרי הדין שהם נתנו. זה פער מדהים. זה אומר שמה שיקרה לנאשם נקבע למעשה על ידי הגרלה. הנאשם לא יכול לדעת לפי מה ייגזר גורלו. וזה בלתי מתקבל על הדעת". הוא מביא דוגמה נוספת: "יש גם השפעה מעניינת מאוד של ההחלטה הקודמת. כששופט, שמאי או רופא רואה כמה מקרים – אם הוא החמיר במקרה אחד, הוא נוטה להקל במקרה הבא, אפילו שזה יכול להיות אותו מקרה בדיוק. כלומר אנשים מתקנים את עצמם מסביב לממוצע האישי שלהם. וזה יוצר רעש. כך, הגורל שלך כנאשם תלוי גם במי היה שם לפניך. ואתה לא יכול לדעת את זה. ואתה חסר אונים. המסקנה היא שבכל מקום שבו יש שיפוט יש רעש – אבל יש הרבה יותר רעש מכפי שאנחנו חושבים. כתבנו את הספר כדי למשוך את תשומת הלב לכך".

צדק הוא עניין של מזל

הממצאים שמביא כהנמן נשענים גם על עבודתו פורצת הדרך של המשפטן האמריקאי מרווין פרנקל, שבשנות ה־70 נלחם בנחישות ובאומץ נגד חוסר הצדק במערכת המשפט הפלילי. פרנקל, שלפני מינויו לשופט הקים את ארגון "ועד הפרקליטים למען זכויות אדם", קרא למאמץ מתמשך להפחתת הרעש במערכת הענישה. הוא הדגיש את חוסר הצדק שברעש, אבל גם הסב את תשומת הלב להטיות – כולל הפליה גזעית. הוא קרא לקונגרס האמריקאי לשים קץ לפסיקות האכזריות, שהן תוצאה של רעש בענישה. "נאשמים בבית דין פדרלי שמורשעים בשוד בנק, יכולים לקבל עונש מרבי של 25 שנות מאסר. פירוש הדבר הוא בין אפס ל־25 שנה. עד מהרה התחוור לי שהבחירה במספר השנים תלויה פחות במקרה הנדון, או בנאשם המסוים, והרבה יותר בשופט המסוים, כלומר בהשקפות, בנטיות האישיות ובהטיות של השופט", כתב פרנקל בספרו "משפט פלילי: חוק ללא סדר" (Criminal Sentences: Law without Order), שיצא ב־1973 ונהפך לאחד הספרים המשפיעים בהיסטוריה של המשפט הפלילי. "אותו נאשם, באותו מקרה, יכול לקבל גזרי דין שונים לחלוטין, וזה נקבע בהתאם לשופט המקבל את התיק".

פרנקל סיפק שורה של מקרים המעידים על חוסר צדק ביחס לבני אדם שונים. כך למשל, שני גברים, שניהם ללא תיקים פליליים, הורשעו בפדיון המחאות מזויפות בסך 40.58 דולר ו־20.35 דולר בהתאמה. הראשון נידון ל־15 שנות מאסר, השני ל־30 ימי מאסר. כן, 15 שנה לעומת 30 יום. במקרה אחר, על שני מעשי מעילה דומים נידון נאשם אחד ל־20 שנות מאסר, והשני ל־117 ימי מאסר. ב־1981 נערך מחקר שהקיף 208 שופטים פדרליים. כולם נחשפו לאותם 16 מקרים היפותטיים של עבירות. הממצאים הראו שרק בשלושה מתוך 16 מקרים הסכימו השופטים פה אחד שיש להטיל עונש מאסר. אבל גם כשהם הסכימו על כך, התגלו פערים גדולים באורך עונשי המאסר שעליהם המליצו. במקרה אחד, משך המאסר הממוצע היה 1.1 שנים, אבל שופט אחד המליץ על תקופת מאסר של 15 שנה.

בית המשפט העליון של ארה"ב, בוושינגטוןצילום: בלומברג

המחקרים האלה נעשו לפני עשורים, אבל הפערים קיימים גם כיום, פשוט מאחר שמי שמקבל את ההחלטות הם בני אדם. "יש שופט שמחמיר ביותר עם פושעים צעירים ואחרים דווקא מקלים. יש שופט שאם עבריינית צעירה מזכירה לו את הבת שלו אז הוא יקל בעונש שלה, וזה לא יקרה עם שופטים אחרים. אנשים שונים מסתכלים על אותו דבר אבל רואים משהו אחר לגמרי. לכן שופטים לא מדרגים את המקרים באותה חומרה. זה קורה גם במקרי אונס: יש שופטים שמקלים במקרים של אונס וגם מנהלים חקירה אגרסיבית נגד הקורבן. כל אחד רואה את העולם בצורה אחרת, ואנחנו לא יודעים את זה. אבל זה חלק מהרעש במערכת. ואת הרעש הזה חייבים לפתור".

כאן מגיע כהנמן לפתרון המרכזי שמוצע בספר. המטרה היא להגיע למה שהמחברים קוראים "היגיינה בקבלת החלטות" (Hygiene Decisions). "כשאתה רוחץ ידיים, אתה לא יודע מהם החיידקים שאתה משמיד, ולעולם לא תדע – אבל אתה יודע שאתה משמיד אותם. כלומר, אתה לא יודע מהן הבעיות שהפעולה שנקטת פתרה, אבל אתה יודע שהפעולה פתרה אותן, ולמעשה מנעה אותן".

לדברי כהנמן, המכונות צריכות להחליף את בני האדם בקבלת החלטות – גם במערכת המשפט, ואולי במיוחד. "מקור הרעש הוא שיקול הדעת האנושי", הוא אומר. "לכן, אם רוצים לנטרל את הרעש צריך לנטרל את שיקול הדעת האנושי. הדיוק של אלגוריתמים בשיפוטים הוא מדויק הרבה יותר מאשר של בני אדם, כולל אלגוריתמים פשוטים מאוד. אם יתנו לאלגוריתמים בעלי בינה מלאכותית להכריע בתיקים פליליים, אפשר יהיה לצמצם כך גם את הפשיעה וגם את בתי הסוהר. שופטים הם רועשים נורא מבחינת קבלת החלטות".

כהנמן לא ממצמץ כשהוא קורא להחליף שופטים ברובוטים. אולי כי הקביעה שלו נשענת על מחקרים שנעשו בשנים האחרונות, ומוצגים בספר. מחקר מ־2018 בהובלת חוקר ה־AI סנדיל מולאינתן אימן אלגוריתמים לבחון החלטות בנוגע לשחרור בערבות. הם הריצו את האלגוריתמים על יותר מ־758 אלף החלטות של שופטים בשחרור בערבות, כולל המידע שעמד לרשות השופטים בכל מקרה ומקרה, כמו העבירה הנוכחית של הנאשם, העבר הפלילי שלו ואי־התייצבות קודמת למשפט (74% מכל הנאשמים שוחררו בערבות, 26% מהם נעצרו בשנית). האלגוריתמים חישבו סף סיכון שמטרתו להפחית את שיעור הפשיעה מחדש, ומצאו שאם סף הסיכון הזה היה מיושם בפועל, שיעור הפשיעה היה פוחת בשיעור של עד 24%, מאחר שהאנשים שהיו נשארים במעצר הם האנשים בעלי הסיכוי הגבוה ביותר לחזור לפשוע. "במילים אחרות, מודל למידת המכונה טוב בהרבה משופטים אנושיים בזיהוי נאשמים עם סיכון גבוה", מציינים המחברים בספר.

סין. "ישנם כבר ניסויים במערכת המשפט שבהם מופעלת בינה מלאכותית"צילום: Ng Han Guan/אי־פי

פרופ' כהנמן, עדיף שאלגוריתמים יקבלו החלטות הרות גורל על חיי אדם?

"אין ספק שזאת המגמה. ישנם כבר ניסויים בסין, במערכת המשפט שלה, שבהם מופעלת בינה מלאכותית. לשם העולם צועד. אלגוריתמים מוצלחים יותר מבני אדם בהרבה מאוד תפקידים".

אבל זה קורה בסין הדיקטטורית, שם אף אחד לא שואל את האזרחים מה דעתם. האם הסינים לא מחליפים דיקטטורה של משטר בדיקטטורה של אלגוריתמים?

"אני לא חושב שיש קשר בין דיקטטורה של משטר לדיקטטורה של אלגוריתמים. אני כן חושב שיש התנגדות אנושית לאלגוריתמים. אנשים לא אוהבים אלגוריתמים. אנשים יעדיפו שרופא ייתן להם דיאגנוזה ולא תוכנה, אפילו אם התוכנה עושה פחות טעויות, כי אנשים אוהבים יחס טבעי אנושי יותר מאשר משהו מלאכותי. יש להם העדפה ברורה שיהיה איש בתוך המערכת. אבל ההתנגדות פוחתת בהדרגה".

כשאתה משקיף מחלון דירתך אל ניו יורק של העתיד, מה אתה מקווה לראות בעוד 10־15 שנה? איך היית רוצה שיתקבלו החלטות בעיר ניו יורק, בארצות הברית, בעולם כולו?

"הייתי רוצה לראות מגמה גוברת של שימוש באלגוריתמים בקבלת החלטות. היגיינת החלטות תביא להחלטות טובות יותר ולשיפוטים טובים יותר, שיספקו מערכות איכותיות יותר לאנשים. בקיצור, כדאי לרחוץ ידיים לפני שמקבלים החלטות".

כתבות מומלצות

ליאור וייס. "אנשים לא יודעים עד כמה גדילה של עסק היא כואבת"

"אנשים אמרו לי - סיימת תואר בהצטיינות בטכניון וזה מה שאתה הולך לעשות?"

שירות נסיעה לפי קריאה של חברת ויה בניו יורק

חברות ההיי־טק שמפסידות מיליארדי דולרים מצאו דרך להישאר בחיים

פרופ' אמיר ירון, נגיד בנק ישראל. ייתכן שזו הזדמנות עבורו לפעולות שיקררו את הביקושים לדירות

מחדל מחירי הדיור: כך התייקרה דירה ממוצעת ב-280 אלף שקל בשנה

גילעד אלטשולר

אלטשולר שחם חזר להוביל - ומי בתחתית? תשואות קרנות ההשתלמות לחודש יולי

תגובות

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר TheMarker

כתבות שאולי פספסתם

סוחר בוול סטריט. יכול להיות שזעזוע האינפלציה הנוכחי הוא רק ראשון מני רבים

מציאות חדשה או תקלה היסטורית? אסטרטגיית השקעות בת 20 שנה בסכנה

יש ענפים שבהם עליית השכר מחווירה בהשוואה לביקוש

לזה אתם קוראים העלאת שכר? המעסיקים שימשיכו לרעוב לעובדים