בוחרים בינה מלאכותית: איך נתמודד עם הפייק ניוז?

מרבית ההחלטות הלא מודעות שאנחנו מקבלים מדי יום מקורן באינטלגנציה החברתית ולא הפרטית ■ מה עושים אם אי אפשר יותר לסמוך על הידע שמשדרת כביכול החברה? מה קורה אם חברים קרובים בפייסבוק עשויים בקלות לשתף או להדהד עובדות שאין להם אחיזה במציאות?

אלכס שילמן
אלכס שילמן
שלטי בחירות בדימונה, בשבוע שעבר
שלטי בחירות בדימונה, בשבוע שעברצילום: אליה הרשקוביץ
אלכס שילמן
אלכס שילמן

ביום חמישי האחרון, בשעות הבוקר המוקדמות' תחקירנית של תוכנית "העולם הבוקר" פנתה אל מתי, יזם ישראלי ומומחה בוטים, וביקשה לראיין את אחד מבכירי מפלגת "הבינה". "הכי טוב את היושב ראש - הראל שרביט"' היא אמרה, "אבל גם הגברת עו"ד לוטם שטיינברג ירושלמי נשמעת סבבה", מתי סירב בנימוס וניתק.

במקביל תחקירני Ynet מצאו את דרכם אל אייל, מומחה למידת מכונה, ושאלו על תפקידו במפלגת ״הבינה״ - שהרי הוא לא מופיע על הפוסטר שלה או במצע המפורט. אייל המופתע מהשיחה השיב לאחר הרהור קצר שהוא ככל הנראה "פילוסוף הבית" של המפלגה ודווקא לא יתנגד לראיון.

הבעיה היתה שמפלגת "בינה לישראל" לא היתה קיימת, ויתרה מכך: המועמדים לא היו אמיתיים, השמות בדויים, ומצע המפלגה מפוברק - פייק מוחלט. הכל, החל מדמויות המתמודדים דרך שמותיהם ותאריהם וכלה במצע של המפלגה - כל זה נוצר על ידי רשתות נירונים ממוחשבות ששיננו את פרצופיהן ושמותיהם של פולטיקאים אמיתיים ויצרו יש מעין פרסונות חדשות בעלות מאפיינים זהים ככל הניתן לאלו האמיתיים. 

המפלגה המזויפת שיצר המחשב
המפלגה המזויפת שיצר המחשבצילום: מר. מתי מריאנסקי, אדי גולדנברג, ד״ר אייל גרוס, רועי רוקח, ניב הרצברג

תרגיל בחירות

תמונה מלאכותית שייצר המחשב
תמונה מלאכותית שייצר המחשבצילום: מר. מתי מריאנסקי, אדי גולדנברג, ד״ר אייל גרוס, רועי רוקח, ניב הרצברג

כמה ימים קודם לכן מתי, אייל ועוד זוג חברים פרסומאים, החליטו שזה יהיה תרגיל מעניין להרכיב באמצעות למידת מכונה רשימה חדשה מאפס, ללא כל התערבות אנושית. הם נתנו למחשב "להתאמן" על תמונותיהם של 100 פוליטיקאים ישראליים אמיתיים ולהציע בתורו דמויות חדשות.

תמונה שייצרה מפלגת בינה לישראל
תמונה שייצרה מפלגת בינה לישראלצילום: מר. מתי מריאנסקי, אדי גולדנברג, ד״ר אייל גרוס, רועי רוקח, ניב הרצברג

חלקן היו לא הגיוניות בעליל, וסבלו מפגמים חזותיים בולטים, בכל זאת המחשב לא הודרך בשום צורה על מבנה נכון של פנים אנושיות אלא ניחש על סמך הפנים שהראו לו. לאחר ברירה קצרה החברים נותרו עם חמישה מועמדים משכנעים בהחלט. במקביל רשת נוירונים אחרת המתמחה בטקסט שיננה שמות ומצעים אמיתיים כדי להציע שמות למועמדים ומצע חדש ואותנטי למפלגה המפוברקת.

התוצאה המשעשעת הוצגה בפייסבוק, בפרט בקבוצת "עליית המכונות" המונה כמעט 20 אלף איש ועוסקת בהתפתחויות האחרונות בעולם הבינה המלאכותית. חיש קל קיבלה המפלגה המפוברקת חיים משל עצמה. יצירי כפיו של המחשב היו אותנטיים עד כדי כך עד שלבסוף צפו בראדר של תחקירני החדשות. הנה קטע מהמצע של המפלגה:

"בצד הפוליטי, נילחם למען הקמת חברה אזרחית חזקה ודמוקרטית בישראל, מכיוון שזו הדרך היחידה שיכולה לפעול בתוך המציאויות החדשות שהתעוררו, ומשום שהתנאים שנוצרו לאנשים לממש את זכויותיהם תחת עקרונות הצדק הבסיסיים. ושוויון, אשר בישראל נוצר באמצעות פעולות עירוניות יומיומיות, מספקים במה מקורית לתכנון החברתי והדמוקרטי - כמו מערכת הרכבות המהירה ברכבת הקלה, רשתות חשמל לרשת החשמל, הקמת פרויקטים של אנרגיה ירוקה וכו'".

באווירה המחושמלת של רגע-לפני-בחירות, המפלגה הפיקטיבית הציתה שלא במכוון שרשרת תגובות שחיש קל הובילה לכמעט הכרה. אבל לו רצו יוצריה לקדם אג'נדה מסוימת, להשפיע באופן כזה או אחר על הבחירות או פשוט לשבש את התהליך הדמוקרטי, הם יכלו בקלות להמשיך ולתחזק את הסיפור ש - שימו לב שוב! - אין לו כל ארטיפקט ממשי ביקום, בדיה של מכונה.

זו אילסטורציה מצוינת לכך שאנחנו כל כך עסוקים בהתקוטטויות הפומביות של המנהיגים שלנו והתבצרות סביב לעמדות עד שהמהפכה השקטה אשר מתרחשת בימים אלה ממש, חולפת כמעט בלתי מורגשת. ובמהפכה הזו הפייק הוא אפילו לא הבעיה הוא רק הסימפטום.

רכב אוטונומי של אובר
רכב אוטונומי של אוברצילום: Jared Wickerham / AP Photo

שועטים קדימה

הרכבים האוטונומיים הפכו להיות במידה רבה הפנים של מהפכת הבינה המלאכותית, ויש לכך סיבה עיתונאית טובה: הם יפים, הם מוחשיים והם מייצרים כותרות משובחות. כל העולם עוקב בהתרגשות - מי בחדווה ומי בזעם - אחר קומץ הרכבים הממותגים גומע מרחקים הולכים וגדלים, ומזדעזע עמוקות מכל טעות שרכב אוטונומי או אוטונומי-למחצה מבצע. וכמו בכל סיפור טוב, בעלילה הזו יש גיבורים, יש נבלים ויש המון כסף.

אלא שרכבים אוטונומיים רחוקים מאוד מהנקודה הקריטית שבה בינה מלאכותית תאחז בהגה באופן מלא. על אף שלא פחות מ-63 קבוצות שונות מתחרות ביניהן המרוץ אל הרכב האוטונומי בדרגה 5 - נהיגה עצמאית מלאה - כמעט כולן נתקלו בקשיים משמעותיים. ג'נרל מוטורס דיווחה כי אחת למייל הנוסעים חשים אי נוחות משמעותית מסגנון הנהיגה, וזמן הנסיעה של המערכת האוטונומית ארוך ב-80% ממקבילה האנושי.

השאפתניים ביותר - טסלה ו-GM - שלפי התוכניות היו אמורים לחצות את הנקודה הקריטית עוד השנה, ככל הנראה כבר לא יעמדו בלוח הזמנים שהכריזו, והבאה בתור - פורד, שהיתה אמורה להגיע לרכב אוטונומי בדרגה חמש אי שם ב-2021 כבר תיקנה את התחזית לדרגה 4 בלבד.

הרבה אפשר ללמוד מהעובדה שסך הקילומטרים שעשו רכבים אוטונומיים בקליפורניה (חלוצת החקיקה והתשתית בתחום) ב-2018 היה 0.00066% מהקילומטראז׳ הכללי שגמעו הנהגים האנושיים בקליפורניה עצמה, שבריר זעום שלא מייצר מספיק דאטה כדי להקיש בצורה מושכלת על התמונה הגדולה באמת.

ובינתיים, תוך שהפרזנטורים של התחום נתקלים בקשיים טכניים ורגולטוריים, הבינה המלאכותית סגרה פערים עצומים ביכולות יצירת ועריכת תוכן. רק לפני כמה חודשים מערכות עיבוד הוידיאו וסאונד הבשילו עד כדי כך שלאחר שפייסבוק סירבה להוריד סרטון ערוך שבו יושבת ראש בית הנבחרים ננסי פלוסי נשמעת מבולבלת או שיכורה, פעילים חברתיים יצרו סרטון מזויף שבו מארק צוקרברג מתאר בציניות את השלטון שלו במידע של מיליארדי אנשים.

זאת אחרי שבאפריל הסטארטאפ הישראלי Canny-AI (שבאמצעות הטכנולוגיה שלו נוצר הסרטון של צוקרברג מתוודה) שיחרר סרטון שבו מנהיגי כל העולם נראים שרים את Imagine של ג'ון לנון, בשלב מסוים נתניהו ורוחאני נראים בדואט זה לצד מסכו של זה.

במקביל מערכות כתיבת טקסט כבר דילגו בקלילות על הפער שבין האקדמיה והתעשייה ויוצרות כתבות של ממש עבור משרדי יחסי ציבור ויצרני תוכן בינוניים וקטנים. אתם יכולים לבקש מהמחשב לכתוב על נושא מסוים, לכתוב בסגנון של סופר מסוים ואפילו לבחור את הנימה של הכתיבה.

נכון לרגע זה, לא רק שהמחשב מסוגל לייצר תוכן איכותי אמין ובעל מאפיינים זהים כמעט לגמרי לתוכן האותנטי עליו הוא התאמן, הוא גם מסוגל להתאים את המסר לכל אחד ואחת מאיתנו - לפסיכולוגיה אישית, לסביבה התרבותית והחברתית המדויקת שבה אנחנו חיים.

אנשי הניאקה בהודו
שבט ציידים-לקטים בהודוצילום: דניאל נוה

הבעיה והסימפטום

הבעיה הגדולה נעוצה באופן שבו פועל המוח האנושי. אחת הסגולות הכי משמעותיות שלנו כבני אדם היא היכולת ללמוד מניסיונם של אחרים. למעשה יהיה זה לא מוגזם לומר שהאינטלגנציה האנושית מקורה בחברה האנושית ולא בפרט. בדומה לסופר-אורגניזם של כוורת הדבורים אשר אוצר ידע עצום על הסביבה הקרובה לכוורת ועל בנייה, תחזוקה, הגנה ורבייה. בעוד שאף אחת מן הדבורים בנפרד לא מסוגלת לשרוד אפילו יום אחד.

כבר למן השבטים המוקדמים של ציידים-לקטים בני אדם החלו לפתח התמחויות. היו כאלה שהיטיבו לצוד והיו כאלה שהפכו למומחים בעיבוד העוד לצרכי היום יום, היה צורך שחברים מסוימים יקדישו את כל זמנם לחקירת הצמחים והסגולות התזונתיות שלהם, ומן העבר השני היה צורך בבנאים מוכשרים שיוכלו להרכיב מסתור בחורף וכלי ציד ולחימה קלים ואמינים.

מהר מאוד למדנו להסתמך על השבט במציאת מקום לינה, מתוך הבנה שמישהו אחר בשבט מחזיק ככל הנראה בידע העדכני ביותר מהו המקום המוצלח לשם כך; להימנע מאכילת פירות שאחרים נמנעים מהם, מתוך הבנה שככל הנראה יש לכך סיבה טובה; לחקות את טקסי החיזור של הבוגרים יותר, בלי להבין לעומק את הכלכלה של היצע וביקוש והמדע המורכב של הישרדות המתאימים ביותר. בתמורה כאשר ניצב בפני הקבוצה אתגר בתחום המומחיות הצרה של הפרט הוא הוביל את כולם אחריו.

ככל שהחיים השתכללו והאתגרים שעמדו בפני החברות האנושיות הפכו למורכבים יותר ויותר, משקלה של ההתמחות הפך למרכזי וחיוני יותר ליכולת של הקבוצה לשגשג ולהתפתח. כבר לפני אלפי שנים אף רומאי לא החזיק בכל הידע והמיומנות הדרושים בכדי לסלול את הדרכים, לבנות את המקדשים ולצייד את החיילות בנשק ואסטרטגיה מתוחכמים - היה זה פרי שיתוף פעולה של אלפי מומחים.

מרבית ההחלטות הלא מודעות שאנחנו מקבלים מדי יום מקורן באינטלגנציה החברתית ולא הפרטית. היכן על הרציף לחכות לרכבת, לאיזו מסעדה מבין הפונות אל הרחוב להיכנס, כיצד להתנהג במסיבה וכיצד להתנהג בהלוויה, אנחנו לומדים מאחרים שכבר היו בנסיבות דומות או שמחזיקים במומחיות מיוחדת לגבי האתגר התורן וחוסכים שנים של למידה ופיתוח מיומנות.

היכולת האנושית לתחזק קשרים חברתיים ולהשתייך אל קבוצה כל כך מרכזית לקיום האנושי שהאנתרופולוג הבריטי רוברט דונבר הצליח לנבא את מספר החברים המרבי שלנו מתוך גודל המוח. הניחוש שלו היה שהמעגל הרחב ביותר של אנשים עמם אנחנו מסוגלים לתחזק קשר הוא סביב 150 איש. ברגע שהמספר הזה נוסח הוא החל לצוץ בכל מקום, החל מהפלוגה הרומאית וכלה במספר החברים הקרובים בפייסבוק. חברות מסחריות החלו לפצל צוותים ברגע שמספר החברים בהם עבר את ה-150 איש.

"חברים". ידעו מה הם עושים כששתלו צחוקים פעם בכמה שניות
היכולת האנושית לתחזק קשרים חברתיים ולהשתייך אל קבוצה כל כך מרכזית לקיום האנושי שהאנתרופולוג הבריטי רוברט דונבר הצליח לנבא את מספר החברים המרבי שלנו מתוך גודל המוחצילום: ASSOCIATED PRESS

הצביעו בעד, לא נגד

אבל מה עושים אם אי אפשר יותר לסמוך על הידע שמשדרת כביכול החברה? מה קורה אם חברים קרובים בפייסבוק עשויים בקלות לשתף או להדהד עובדות שאין להם אחיזה במציאות? המשבר גדול בהרבה מחדשות מזויפות או מטעויות עובדתיות מביכות של כתבי חדשות. היות והחשיבה שלנו מבוססת במידה רבה על מיקור חוץ אל החברה הקרובה אלינו, ברגע שאנחנו לא יכולים לסמוך על האותות המגיעים מהחברה אנחנו במשבר שהוא לא פחות מקו פרשת המים.

מה עושים? עדיין מוקדם לומר, נייר עמדה שהוציא לאחרונה המכון למחקרי ביטחון לאומיים מתאר כשל שוק שבו כרגע אין אינטרס מובהק לאף אחד מהכוחות המשמעותיים בשוק לטפל בתופעה. מה שבטוח שבינתיים עלינו להתייחס בחשדנות לכל פיסת מידע סנסציונית או יוצאת דופן.

ויש עוד דבר, קל בהרבה לייצר פייק שלילי מאשר פייק חיובי. כמו כל דבר אחר בחיים הרבה יותר קל להרוס ולהשחיר מאשר לבנות ולתקן. שערוריות הן צבעוניות, מושכות קוראים וקשות להפרכה, ולכן מקדם ההפצה שלהן גבוהה בהרבה. לא כן סיפורים חיוביים. הפעם האחרונה שהיה לנו פייק מחיובי כאן היו התארים של יאיר לפיד. לכן, הטו אוזן לחיובי, בהקשר של הבחירות היום - הצביעו בעד, לא נגד. כך במחי יד תנקו ממערכת השיקולים כמות עצומה של רעש שבחלקו הגדול פייק. 

אלכס שילמן | |אלכס שילמן

אלכס שילמן הוא פסיכולוג ויזם המתמחה בכלכלה התנהגותית. הוא מכהן כ-Chief Behavioral Officer בחברת mmcubit ושותף מייסד של חברת הייעוץ The Human Factor. הוא מקדיש 10% מזמנו להרצאות וסדנאות על התפר שבין טכנולוגיה, התנהגות ועיצוב.

תגובות

הזינו שם שיוצג כמחבר התגובה
בשליחת תגובה זו הנני מצהיר שהינני מסכים/ה עם תנאי השימוש של אתר הארץ