הסוף לטינופת ברשת? הפיתוח שעשוי להעלים את הטוקבקים הפוגעניים

פרויקט חדש של אלפאבית (חברת האם של גוגל) משתמש בבינה מלאכותית במטרה לנטר תגובות בעייתיות ולסנן אותן

אלירן רובין
אלירן רובין
נעל עקב מרסקת סמארטפון
נעל עקב מרסקת סמארטפוןצילום: ללא קרדיט
אלירן רובין
אלירן רובין

בינה מלאכותית היא לא רק מכוניות אוטונומיות, או מערכות להמלצה אוטומטית לרופאים. למעשה, מערכות המבוססות למידה חודרות ליותר ויותר יישומים בחיי היומיום שלנו מבלי שנרגיש. עכשיו בגוגל מסמנים יעד נוסף - הטוקבקיסטים.

מנהלי אתרי חדשות מכירים זאת היטב. אלפי הודעות מגיעות בכל יום אל מערכת לניהול התגובות של גולשים, אחוז גבוה מהן אינן ראויות, אותן צריכים העורכים לסנן בצורה סיזיפית, מייגעת, וכמעט תמיד - לא מושלמת. זו הסיבה לחסימת האפשרות לחלוטין בכמה אתרים בעולם, שהיו מעוניינים במערכת סינון אוטומטית.

המוצר שנקרא פרספקטיב (Perspective) מפותח על ידי גוגל ביחד עם ו-Jigsaw חממה טכנולוגית של החברה האם אלפאבית. המוצר הושק השבוע ונמצא עדיין בשלבים מוקדמים, כאשר את הפיילוט ביצעו המפתחים יחד עם הניו יורק טיימס, הגרדיאן, האקונומיסט וויקיפדיה.

איך זה עובד?

בעזרת שימוש במערכת המבוססת למידה, פרספקטיב נותנת ציון לכל התבטאות תוך שקלול ההשפעה של אותה תגובה - והאם היתה גורמת לאדם לעזוב את השיחה. עד כה בדקה המערכת 100 אלף טוקבקים בדרגת “רעילות” שונה. מפתחיה מסבירים שהיא לומדת כל הזמן ומשתפרת. אותה מערכת יכולה לתת משוב למי שכותב את התגובה בזמן שבה היא נכתבת ומספקת כלי לאתרי החדשות דרכו יכולים לבחור עד כמה קשוח יהיה הסינון.

אולם, היכולת להבנת משמעות מתוך שפה טבעית היא עדיין משימה מורכבת. במאמר שפורסם בבלוג של המגזין הטכנולוגי של MIT, בתגובה לפרסומים של פרספקטיב, דווח כי הציון שנותנת המערכת לא מראה הבנה של הטוקבק שנכתב. כך למשל מעיד הכותב כי כתיבת תגובה כמו: "כמה מוסלמים הם איום טרור", הראה ציון של 79% לטוקבק רעיל (Toxic) בעוד הטוקבק: "מלחמת גזע עכשיו", הניב 29% בלבד. דוגמא נוספת היא: "היטלר היה אנטישמי הניבה 70% אולם המשפט - "היטלר לא היה אנטישמי", הביאה ל53% בלבד.

אך הפרויקט הנוכחי של Jigsaw אינו חסר משמעות. ייתכן כי הוא נמצא ממש בשלבים המוקדמים, אבל ככל שהמערכת תתאמן על יותר ויותר טוקבקים, ייתכן כי תצליח להבין שפה, שפחות מבוססת על חוקים, אלא על דיבור חופשי. אתגר לא פשוט בכלל.

תגובות

הזינו שם שיוצג כמחבר התגובה
בשליחת תגובה זו הנני מצהיר שהינני מסכים/ה עם תנאי השימוש של אתר הארץ