הרווארד ואוניברסיטאות היוקרה ישמרו עלינו מהצד האפל של הטכנולוגיה

במשך שנים רבות מדי, אנשי הטכנולוגיה נעו קדימה במהירות מבלי להקדיש מחשבה נוספת להשלכות האתיות והחברתיות של המצאותיהם ■ הגיע הזמן לשינוי

לוגו ניו יורק טיימס
ניו יורק טיימס
שתפו כתבה במיילשתפו כתבה במייל
מעבר לטוקבקים
מימין לשמאל: רוב רייך, מהראן סהאמי הילרי כהן וג'רמי ויינשטיין, המפתחים קורס באתיקה עבור הפקולטה למדעי המחשב באוניברסיטת סטנפורד צילום: כריסטי האם קלוק / ניו יורק טיימס
מימין לשמאל: רוב רייך, מהראן סהאמי הילרי כהן וג'רמי ויינשטיין, המפתחים קורס באתיקה עבור הפקולטה למדעי המחשב באוניברסיטת סטנפורד צילום: כריסטי האם קלוק / ניו יורק טיימס

הכלל האתי הראשון של מקצוע הרפואה הוא: "קודם כל, אל תגרום נזק"; לעמק הסיליקון יש אתוס: "קודם תבנה, אחר כך בקש סליחה". כעת, לאור תופעת החדשות המזויפות ובעיות אחרות שעמן מתמודדות חברות הטכנולוגיה, מנסות האוניברסיטאות - שבהן צמחו הטובים שבאנשי הטכנולוגיה - להביא את האתיקה של תחום הרפואה אל תחום מדעי המחשב. 

אוניברסיטת הרווארד והמכון הטכנולוגי של מסצ'וסטס (MIT) מציעים במשותף קורס חדש שיעסוק באתיקה וברגולציה של בינה מלאכותית (AI). באוניברסיטת טקסס באוסטין מתקיים הקורס "היסודות האתיים של מדעי המחשב", שאותו מתעתדת האוניברסיטה להפוך לקורס חובה עבור כל הסטודנטים למדעי המחשב. באוניברסיטת סטנפורד, שלושה פרופסורים ועוזר מחקר מפתחים קורס באתיקה של מדעי המחשב עבור שנת הלימודים הבאה. הם מקווים כי כמה מאות סטודנטים יירשמו אליו.

הרעיון המרכזי הוא ללמד את הדור הבא של מומחי טכנולוגיה ומנהלים כי לחדשנות יש השלכות – כמו במקרים של נשק אוטונומי או מכוניות אוטונומיות – לפני שהמוצרים מוצעים כבר בשוק. 

"המטרה היא לזהות סוגיות שאנו יודעים כי הסטודנטים שסיימו ללמוד כאן ייאלצו להתמודד עמן בשנתיים, שלוש, חמש או עשר השנים הבאות", אומר מהראן סהאמי, פרופסור למדעי המחשב בסטנפורד, שעוזר בפיתוח הקורס. הוא ידוע ברחבי הקמפוס כמורה שהצליח לגרום למארק צוקרברג להגיע לשיעורים. "טכנולוגיה אינה דבר טבעי", ממשיך סהאמי, שעבד בעבר בגוגל כמדען מחקר בכיר. "לבחירות שנעשות במהלך פיתוח הטכנולוגיה יש השלכות חברתיות". 

קורסים אלה צצים בתקופה שבה חברות הטכנולוגיה הגדולות מתקשות להתמודד עם תופעות כמו העלייה בתפוצת חדשות מזויפות בפייסבוק, עוקבים מזויפים בטוויטר וסרטונים פוגעניים ביוטיוב המגיעים לעיניהם של ילדים. כל אלה מאתגרים את ההשקפה המסורתית של עמק הסיליקון, שבדרך כלל רואה באתיקה מכשול. 

"אנו צריכים לכל הפחות ללמד אנשים שיש צד אפל לרעיון שצריך לנוע מהר ולשבור דברים", אומרת לורה נורן, שותפה במרכז למדעי הדאטה באוניברסיטת ניו יורק, המלמדת בסמסטר הנוכחי קורס על אתיקה בתחום. "זוז מהר ושבור דברים" (Move fast and break things), היה המוטו של פייסבוק בשנותיה הראשונות. "תוכנה אפשר לתקן, אבל את האדם או את התדמית שנפגעה אי־אפשר לתקן", מוסיפה נורן.

נהג המכונית האוטונומית של אובר שדרסה למוות אישה בחודש שעבר
נהג המכונית האוטונומית של אובר שדרסה למוות אישה בחודש שעברצילום: יוטיוב

שבועת ההיי-טקיסט

תוכניות ללימוד מדעי המחשב נדרשות להבטיח כי הסטודנטים מבינים את הסוגיות האתיות הקשורות למחשוב, כדי לקבל את אישור הוועדה הבינלאומית להערכת איכות הלימודים בתחום הנדסת מכונות (ABET). עד לאחרונה, אתיקה לא נראתה כתחום רלוונטי בעיני סטודנטים רבים. "בהשוואה לתחבורה או רפואה, הקשר היומיומי עם מוות, כאב או נזק פיזי אינו מטריד את הסטודנט שכותב תוכנה או אפליקציה חדשה", אמר ג'וי איטו, מנהל מעבדת המדיה של MIT. 

האוניברסיטאות מעוניינות כעת ללמד אתיקה טכנולוגית בעקבות הפופולריות הגואה של כלים רבי עוצמה כמו למידה חישובית – אלגוריתמים שיכולים ללמוד באופן אוטונומי איך לבצע משימות, באמצעות ניתוח כמויות עצומות של דאטה. מאחר שכלים אלה מסוגלים בסופו של דבר לשנות את החברה האנושית, האוניברסיטאות ממהרות לעזור לסטודנטים להבין את ההשלכות הפוטנציאליות, אומר איטו, המלמד בקורס האתיקה של הרווארד־MIT. 

"אנו מתחילים כבר לראות את החידושים, כמו מכונית אוטונומית, שיש להם יכולת להציל אנשים, אך גם לגרום נזק. יש תחושה של צורך דחוף לבנות מערכת אתית בתחום", הוא מוסיף. 

בסתיו שעבר השיקה אוניברסיטת קורנל קורס למדעי הדאטה, שבו לומדים הסטודנטים להתמודד עם אתגרים אתיים – כמו מאגרי נתונים מוטים, שמקיפים מעט מדי משקי בית בעלי הכנסה נמוכה מכדי לייצג את האוכלוסייה כולה. הסטודנטים גם דנים בשימוש באלגוריתמים במקרים של החלטות משמעותיות שעשויות לשנות חיים, כמו גיוס עובדים או קבלה לקולג'. 

"הקורס מתמקד בניסיון לעזור לסטודנטים להבין מהי המדיניות היומיומית שעמה יידרשו להתמודד בתור מדעני מידע", אומר סולון ברוקס, פרופסור למדעי המידע שמעביר את הקורס. 

לורה נורן, המלמדת קורס אתיקה באוניברסיטת ניו יורק. "אתה יכול לתקן תוכנה, אבל לא מוניטין של אדם שפגעת בו" צילום: סם הודג'סון / ניו יורק טיימס
לורה נורן, מלמדת קורס אתיקה באונ' ניו יורקצילום: סם הודג'סון / ניו יורק טיימס

בקורס אחר בקורנל, קארן לוי, פרופסורית למדעי המידע, מלמדת את הסטודנטים שלה להתמקד באתיקה של חברות הטכנולוגיה. "פעמים רבות, ההחלטות הטעונות מבחינה אתית קשורות לבחירות שחברה עושה: אילו מוצרים לפתח, ואיזו מדיניות לאמץ בסוגיית נתוני המשתמשים", אומרת לוי. "אם הקורסים על האתיקה של מדעי המידע מתמקדים באחריות האינדיבידואלית של המדען, קיים סיכון שהתפקיד של התעשייה כולה יישכח".

הקורס של הרווארד־MIT, שאליו נרשמו 30 סטודנטים, מתמקד בהשלכות האתיות והמשפטיות של בינה מלאכותית. הוא גובש ומומן בחלקו על ידי קרן המחקר לאתיקה של הבינה המלאכותית, שעם התורמים לה נמנים רייד הופמן, מייסד שותף של לינקדאין, ואומידיאר נטוורקס, חברת ההשקעות הפילנתרופית של פייר אומידיאר, מייסד איביי. 

הקורס כולל גם אומדני סיכון אלגוריתמיים מגוונים, שמיוצרים כתוצאה מהשימוש בדאטה – למשל, האם אדם כלשהו הושעה מבית הספר, או האם הוא או חבריו נעצרו – כדי להעריך מהי הסבירות לכך שאותו אדם יבצע פשע. איטו מקווה שהקורס יעודד את הסטודנטים לשאול שאלות אתיות בסיסיות כמו האם הטכנולוגיה הוגנת, כיצד אפשר להבטיח שהמידע אינו מוטה או האם מכונות צריכות לשפוט בני אדם.

כמה אוניברסיטאות מציעות תוכניות כאלה במחלקות למדעי המחשב, למשפטים ולפילוסופיה. בסטנפורד, המחלקה למדעי המחשב תציע קורס אתיקה חדש, ששמו "אתיקה, מדיניות ציבורית ומדעי המחשב". הציפיות מהקורס גבוהות גם בשל הפופולריות של סהאמי בקמפוס. כ־1,500 סטודנטים לומדים בכל שנה את קורס המבוא שלו למדעי המחשב.

הקורס החדש יכלול נושאים כמו בינה מלאכותית ומכונות אוטונומיות; זכויות אזרח ופרטיות; ופלטפורמות כמו פייסבוק. רוב רייך, פרופסור למדעי המדינה בסטנפורד שעוזר בגיבוש הקורס, אמר כי הסטודנטים יתבקשו להתייחס לנושאים האלה מנקודת המבט של מהנדסי תוכנה, מעצבי מוצר ומחוקקים. על הסטודנטים תוטל המשימה לתרגם פתרונות אידיאליים לקוד. 

"לסטנפורד יש אחריות למלא את התפקיד המנהיגותי בשילוב ההשקפות השונות, אך גם לקארנגי מלון ולקלטק, לברקלי ול־MIT", אמר ג'רמי ויינשטין, פרופסור למדעי המדינה בסטנפורד ומפתח שותף של הקורס לאתיקה. "המוסדות שמייצרים כעת את הדור הבא של מנהיגים במגזר הטכנולוגיה יצטרכו להצטרף למאמץ".

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר TheMarker

על סדר היום