סע בעקבות הרכב שלפניך: מי האשם בתאונה שעושה רכב אוטונומי?

להבדיל ממהפכות טכנולוגיות אחרות, בשוק הרכב אין גישוש, שינוי והתפתחות תוך כדי תנועה, אלא יהיה צורך ברגולציה עוד טרם עליית הרכבים האוטונומיים על הכביש

שתפו כתבה במיילשתפו כתבה במייל
שתפו כתבה במיילשתפו כתבה במייל
מעבר לטוקבקים
מכונית אוטונומית של טסלה
מכונית אוטונומית של טסלה. האדם הסביר או הרכב הסביר?צילום: בלומברג

תעשיית הרכב האוטונומי נמצאת בצומת הדרכים שבין החזון לבין העיצוב והייצור ההמוני. לכל השחקנים, יצרנים וגם ממשלות, ברור שמסגרת רגולציה תהיה תנאי הכרחי – ולחלופין, מוקש עיקרי – בפני היכולת לממש את החזון. להבדיל ממהפכות טכנולוגיות אחרות, למשל מהפכת הרשתות החברתיות, בשוק הרכב לא ניתן יהיה לגשש, לשנות ולהתפתח תוך כדי תנועה, אלא יהיה צורך ברגולציה עוד בטרם יעלו כלי הרכב האלה על הכביש.

אכן, בשנים האחרונות מתקיימים תהליכי חשיבה. כדאי להקדים ולומר: אנחנו כבר מזמן לא נמצאים בשאלה המוסרית של "דילמת הקרונית" – אם הרכב האוטונומי יעדיף להציל את הנוסע שלו על פני מי שנמצא ברכב המגיע ממול. עכשיו הדגש הוא על סוגיות כמו אבטחת סייבר, פרוצדורות רישוי, היבטי פרטיות (הרי הרכב יתעד היכן היה, ויוכל לצפות לאן בכוונתנו לנסוע, שלא לדבר על חיישנים אחרים שיהיו בו), ממשק בין חקיקה של מדינות שונות ועוד. אבל, כל הסוגיות האלה מתגמדות מול הפיל שבחדר: שאלת הבטיחות והביטוח, כלומר הגדרת החבות בנזיקין לתאונות שייגרמו על ידי רכב אוטונומי.

בקרב מי שכותבים על התחום אפשר לראות כל מיני הצעות. יש מי שמנסים לפרק את קטגוריות הפעילות של הרכב ולאסדר בנפרד את החלק המכני, החיישנים, האלגוריתם של הנהיגה, הקישוריות והדרך שבה יתקשר עם כלי רכב מסביב. אחרים מציעים להתאים את האסדרה למידת האוטונומיות של הרכב. למשל, לחלק אחריות בין נהג אנושי למערכת האוטונומית, במיוחד כשהמכונה רק מסייעת ועיקר העבודה הוא של הנהג, או לפחות כשיש לנהג אפשרות להחזיר לעצמו את השליטה ברכב. השאלה היא מה יקרה במערכת אוטונומית לחלוטין, שבה לא יהיו בכלל דוושות והגה. אפשרות אחרת היא לחלק את האחריות לפי שרשרת האספקה והשימוש, למשל, יצרני תוכנה, חומרה, מעצבים, חברות הפצה ומשתמשים – ולעצב פוליסות ביטוח מתאימות שיפזרו את עלויות הביטוח בין כולם.

אפשרות יצירתית במיוחד היא ליצור "האנשה" של המכונית האוטונומית: לראות בה אדם שיש לו חובות, "כוונה" או "אשם"; להניח שהיא "שליח" של מי שפיתח אותה, ולבטח אותה בביטוח עצמאי.

מגוון ההצעות האלה מלמד על המבוכה של מי שמנסים לדבוק בתפישות משפטיות מוכרות ולהחיל אותן על היצור העלום שנקרא "רכב אוטונומי". מומחי משפט לא יודעים, לאמיתו של דבר, איך להתמודד עם חוסר ההבנה כיצד פועלת מערכת לומדת ועם "הקופסה השחורה" של קבלת ההחלטות שלה. הם מקווים שיווצר סטנדרט זהירות שיוכל להוכיח שהמכונה פועלת כמו אדם סביר. באופן מסוים, זו גם השאיפה של המתמטיקאים, מתכנני האלגוריתמים של הרכב האוטונומי, המבקשים לזכות באמון הרגולטורים והציבור.

רכב אוטונומי של אובר המעורב בתאונה. אנחנו כבר מזמן לא ב"דילמת הקרונית"צילום: HANDOUT/רויטרס

לצורך כך, המתמטיקאים מנסים ללמד מכונות לחשוב בצורה סמנטית, כלומר, באמצעות כללים מבוססי מילים. הוראות כמו: "סע בעקבות הרכב שלפניך", "עקוף את הרכב משמאל", הן הוראות שגם משפטנים יבינו. אבל כשהמתמטיקאים מנסים לעצב "נהג אוטונומי סביר" וללמד את המכונות כללים: לא לדפוק מישהו מאחור, לא לחתוך ללא סיבה, למנוע תאונה בלי לגרום לתאונה אחרת – נוצר מתח בינם לבין המשפטנים. המתמטיקאים מבקשים ליצור כללים לוגיים, מספר קטן ככל האפשר של חוקים ועקרונות, שיסבירו כמה שיותר תופעות, ויתנו בכולן תשובה חד־ערכית. חוקים כאלה אמורים להיות זהים בכל סיטואציה, ללא שינויים או מרחב שיקול דעת. המשפטנים, לעומת זאת, מאמינים שאי אפשר להקיף את כל המקרים במציאות באמצעות כמה חוקים פשוטים. איך אפשר לא להשאיר שיקול דעת לשופט, שהוא זה שיקבע בדיעבד את החלת החוק על הנסיבות?

אסדרת הרכב האוטונומי עובדת לשני כיוונים. היא זאת שתאפשר למפתחים לדעת מהם כללי המסגרת הנדרשים לעיצוב פעילות המכוניות החכמות. במקביל, היא תיתן לרגולטורים מספיק ביטחון לאשר את עליית כלי הרכב על הכביש. לכן חשיבותה כה רבה. כך, עוד לפני המלחמה על האינטרסים הכלכליים, עשוי להיווצר מצב שבו דווקא המשפטנים שלא יצליחו להיפטר מהקיבעונות המוכרים, אלה שמעדיפים חוקים עמומים ומרחב שיקול דעת בדיעבד, יהיו אלה שיפריעו ליצירת כללים מותאמים לעולם של מכונות. בעת הזאת, נדרש מצד המשפטנים ניסיון לשנות פרדיגמה: מצד אחד להתעקש על הבנת הכללים ומצד אחר לוותר על מרחבי שיקול הדעת בדיעבד. זה לא פשוט ולא טריוויאלי, אבל אחרת נמשיך לחפש פתרונות עוקפים שעשויים להתגלות כלא מספיקים כבר בעתיד הקרוב.

מימוש האתגר של מציאת המרחב המשותף בין המשפטנים והמתמטיקאים בנוגע לרכב האוטונומי, על מאפייניו הייחודיים, יהיה קריאת כיוון לאופן שבו עולם הרגולציה יבין שימושים נוספים ורחבים של בינה מלאכותית. זאת כדי שלא נמצא את עצמנו בעוד עשור מוקפים בקופסאות שחורות שאין לנו הבנה, יכולת ואומץ להתמודד איתן. אז כמו שאומרים באנגלית ביחס למכוניות, Let’s Put the Pedal to the Metal.

ד"ר תהילה שוורץ אלטשולר היא עמיתה בכירה במכון הישראלי לדמוקרטיה

תגיות:

תגובות

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר TheMarker