איך חוקרים את התקשורת בין אנשים לאינטליגנציה מלאכותית - ולמה זה חשוב? - Unsupervised - הבלוג של שיר מאיר לדור וענבר נאור - TheMarker

טרם ביצעת אימות לכתובת הדוא"ל שלך. לאימות כתובת הדואל שלך  לחצו כאן

תיק מניות

רשימת קריאה

רשימת הקריאה מאפשרת לך לשמור כתבות ולקרוא אותן במועד מאוחר יותר באתר,במובייל או באפליקציה.

לחיצה על כפתור "שמור", בתחילת הכתבה תוסיף את הכתבה לרשימת הקריאה שלך.
לחיצה על "הסר" תסיר את הכתבה מרשימת הקריאה.

לרשימת הקריאה המלאה לחצו כאן

איך חוקרים את התקשורת בין אנשים לאינטליגנציה מלאכותית - ולמה זה חשוב?

במהלך לימודי הדוקטורט במדעי המחשב בהרווארד פיתחה עפרה מערכת לעריכת מסמך משותף על ידי מספר אנשים. כחלק מהפרויקט פותח אלגוריתם שמראה לכל עורך את השינויים הרלוונטיים ביותר לו, ונמצאו דרכים למדוד את ביצועי המערכת ■ מחקרים נוספים של ד"ר עמיר עוסקים בדרכים להסביר לבני אדם החלטות של סוכנים חכמים, ישות שמקבלת החלטות באופן אוטומטי כמו למשל מכונית אוטונומית

תגובות
עפרה אמיר
ללא

שיטות בינה מלאכותית מתבגרות ומתפשטות במהירות, ולאפליקציות שלהן יש השפעה מכרעת על חיינו ביום יום. כבר היום מערכות המלצה משפיעות על מה שאנחנו קוראים וצופים, רכבים אוטונומיים חולקים את הכביש עם נהגים אנושיים ומערכות מבוססות AI לוקחות חלק בהחלטות רפואיות.

בעוד מאמץ רב מושקע בשיפור הדיוק ויכולת ההכללה של אלגוריתמי בינה מלאכותית, אנחנו מתעלמים מחלק חשוב במערכות הללו - האינטראקציה שלהן עם אנשים.

בפרק זה דיברנו עם עפרה עמיר, חברת סגל מהפקולטה לתעשייה וניהול מהטכניון המתמחה בבינה מלאכותית וממשקי אדם-מחשב על האינטראקציה בין מערכות לומדות לאנשים ועל דרכים למדוד את התרומה של המערכות האלו למשתמשים שלהם.

רובוט שיוצר בסין. "אני מתמלא בפחד מהמחשבה על רובוטים שישלטו לי בבית"
JASON LEE/רויטרס

במהלך לימודי הדוקטורט במדעי המחשב באוניברסיטת הרווארד פיתחה עפרה מערכת לעריכת מסמך משותף על ידי מספר אנשים. כלים סטנדרטים כמו "עקוב אחר שינויים" מראים לכל אחד מהעורכים את כל השינויים שנעשו במסמך, אך עקב עומס המידע, אנשים רבים מבצעים את העריכה מבלי להתייחס לשינויים שכבר נעשו. כחלק מהפרויקט פותח אלגוריתם שמראה לכל עורך את השינויים הרלוונטיים ביותר לו על ידי בניית גרף שלומד את הקשרים בין פסקות שונות במסמך והאנשים העורכים אותם.

אחד האתגרים הגדולים בפיתוח מערכת כזו הוא להבין כיצד למדוד את הביצועים שלה. כשמדעני נתונים בונים אלגוריתמים כדי לפתור בעיה מסוימת הם מודדים את יעילות הפתרון באמצעות מדדים מקובלים כמו אחוזי דיוק, אחוזי כיסוי, כמות שגיאות, גודל השגיאות וכו'. כאשר המטרה היא לשפר ביצועים של אנשים במטלה מסוימת באמצעות אלגוריתם לומד לא ניתן למדוד את האלגוריתם באופן עצמאי מבלי להתייחס לשיפור בביצועי המשתמשים. אם כך, כיצד ניתן למדוד את השיפור בתפקוד האדם שנעזר באלגוריתמים הנ"ל?

תהליך ההערכה של המערכת במקרים כאלה הוא מורכב וכולל תכנון ניסוי עם בני אדם, הגדרת מדדים שונים לבדיקת איכות התוצרים ודרכים למדוד אותם וכן הגדרת קבוצות בקרה מתאימות כדי למדוד את השיפור לפי אותם המדדים.

כדי למדוד את השיפור ביעילות עקב השימוש באלגוריתם עפרה ערכה ניסוי מבוקר עם שש קבוצות של אנשים שבו כל קבוצה ערכה שלוש כתבות בדרגת קושי דומה. בכתבה אחת ראו המשתתפים את כל השינויים שנעשו על ידי האחרים בקבוצה. בכתבה שנייה כל משתתף ראה רק חלק מהשינויים באופן רנדומלי ובכתבה שלישית כל משתתף ראה רק את השינויים שנבחרו כרלוונטיים אליו על ידי האלגוריתם.

השיפור בביצועים של המשתתפים נקבע על ידי מדידת איכות הכתבות שנוצרו בשלושת המקרים, הפרודוקטיביות של המשתמשים (כמות המידע שנוספה לכתבה בזמן נתון) וכן העומס הקוגניטיבי שאנשים דיווחו עליו בכל מקרה באמצעות שאלונים פסיכולוגים. שלושת תנאי הניסוי אפשרו לחוקרים לבודד את ההשפעה של צמצום השינויים שכל אדם רואה מהיכולת של האלגוריתם לבחור את השינויים הרלוונטיים ביותר ולבחון את האפקט של שניהם בנפרד.

מכונית אוטונומית של גוגל
אי־פי

בנוסף סיפרה לנו עפרה על מחקרים שהיא עורכת בימים אלו ועוסקים בדרכים להסביר לבני אדם החלטות של סוכנים חכמים. סוכן חכם הוא ישות שמקבלת החלטות באופן אוטומטי על בסיס למידה היסטורית כמו למשל מכונית אוטונומית. כדי להסביר התנהגות של מכונית אוטונומית נוכל לדוגמה להציג סרטון עם  מצבים "חשובים" שיעזרו לנו להבין כיצד היא מתנהגת בסיטואציות שונות. הבנה טובה של התנהגות מודל יכולה לסייע הן לחוקרים המפתחים אותו והן לאנשים שבאים איתו באינטראקציה. כך לדוגמא במערכת שעוזרת לרופא לקבל החלטות יש חשיבות גדול שהרופא יוכל להבין מדוע האלגוריתם מציע לו לפעול בצורה כזו או אחרת.

אחד מכיווני המחקר של עפרה הוא להבין כיצד להחליט מהם המצבים החשובים אותם יש להראות בסרטון. לשם כך היא משתמשת בטכניקות של למידת חיזוקים (Reinforcement learning). למדנו ממנה על הנעשה בתחום והגישות השונות לפתרון הבעיה.



תגובות

דלג על התגובות

בשליחת תגובה זו הנני מצהיר שאני מסכים/מסכימה עם תנאי השימוש של אתר TheMarker

סדר את התגובות

כתבות שאולי פיספסתם

*#