אם רופאה משתמשת באינטואיציה כדי לטפל בחולה - כיצד המחשב יידע להחליף אותה?

האם למידת מכונה עדיפה על מערכות חוקים? האם כדאי ללמוד את מה שכבר ידוע? ■ אם במקרים רבים רופאים מתקשים להסביר כיצד הם מקבלים החלטה לגבי אבחון חולה, מה בעצם אנחנו מצפים ממערכת המומחה האומללה? ■ מותר המכונה על האדם - חלק א'

יעקב רימר
ד"ר יעקב רימר
רופאה משתמשת בממשק חכם
יעקב רימר
ד"ר יעקב רימר

בפוסט הזה אתחיל לסקור את אחת המחלוקות הקשות בתחום: האם למידת מכונה עדיפה על מערכות חוקים. דרכה אנסה להסביר יתרונות וחסרונות נוספים של שיטות שונות בעולם הביג-דאטה. על למידת מכונה כתבתי מספר פעמים, כאשר הכוונה בעיקר לשיטות הסיווג השונות.

אם כן, מהן מערכות חוקים? אחת הטכנולוגיות המובילות בשנות ה-80 של המאה הקודמת נקראה מערכת מומחה. מדובר בתהליכים שמורכבים מאוסף כללים וחוקי היסק, שאמורים לקבל החלטות בדומה למומחה אנושי, למשל רופא. החשיבה בזמנו הייתה שניתן ללמד את המערכת את כל מה שרופא יודע (או צריך לדעת) כדי לאבחן מחלות. לדוגמא, אם אדם מגיע עם תלונות על כאב גרון וחום, התבונן לו בגרון ובצע לו משטח גרון. אם משטח הגרון נותן תוצאות חיוביות (כלומר, יש דלקת שנגרמת ע"י חיידק) - רשום לו אנטיביוטיקה. אחרת, שלח אותו לדרכו עם המלצה למנוחה ולחפיסת סוכריות מציצה (גילוי נאות: אני לא רופא). היו שטענו שמדובר בטכנולוגיה מבטיחה שתחליף תוך מספר שנים את הרופאים, בדומה לרובוטים שהחליפו פועלי יצור. ובכן, אני מניח שמי שביקר לאחרונה בקופת חולים לא ממש הופתע למצוא שם עדיין רופאים ורופאות, גם כעבור 40 שנה.

מדוע הטכנולוגיה של מערכות מומחה נכשלה? האם היא נכשלה? אלו שאלות מורכבות ואנסה לפשט את התשובה. ראשית, כמו כל טכנולוגיה חדשה, רף הציפיות (או החלומות) של חלק מבעלי העניין הרקיע שחקים. וכגודל הציפיה גודל האכזבה. שנית, בנייה של מערכת כללים שתחקה את מגוון ההחלטות שמקבל רופא ממוצע היא משימה מורכבת עד בלתי אפשרית. אחת הסיבות המרכזיות לכך היא שבמקרים רבים מאוד, אנחנו לא באמת יודעים כיצד רופאים מקבלים החלטות. רופאה צעירה, מוכשרת ככל שתהיה, עלולה להתבונן למשל בצילום רנטגן, או רישום אקג, ולא לאבחן שום בעיה. לעומתה, רופאה ותיקה שתתבונן באותו מידע בדיוק, תגיע למסקנה אחרת לחלוטין. את זה כולנו יודעים. הבעיה היא שהרופאה הוותיקה תתקשה לא פעם להסביר מה משך את תשומת לבה. היא תגדיר זאת כתחושת בטן*, או אינטואיציה, בלי יכולת לשים את האצבע על מערכת השיקולים (או התכונות) שהביאו אותה למסקנה הזו.

תוכנת מחשב

אחת הדרישות המרכזיות שהיתה ועודנה ממערכת מומחה היא שתספק הסברים הגיוניים למסקנותיה. בלי להיכנס לצדדים הטכניים של הנושא, מובן שהסבר כזה נחוץ כדי לשכנע אנשים במסקנות המערכת. למשל, בהמשך לדוגמה למעלה, המערכת תסביר את המסקנה לתת לחולה אנטיביוטיקה תוך שימוש בכלל "אם משטח הגרון נותן תוצאות חיוביות - רשום לו אנטיביוטיקה". אבל אם במקרים רבים רופאים מתקשים להסביר כיצד הם מקבלים את ההחלטה, מה בעצם אנחנו מצפים ממערכת המומחה האומללה? ואם אתם תמהים (או חלילה כועסים) על כך שרופאים אינם מסוגלים תמיד להסביר את החלטתם, אני רוצה להזכיר לכם שאתם לא יודעים להסביר אפילו כיצד אתם מבדילים בין תמונות של כלבים וחתולים.

הבעיה היא ש"מומחי" ביג-דאטה רבים, שבנו (ועדיין בונים) מערכות מומחה, מסרבים להכיר באמת הפשוטה הזו. במקום זאת, רבים סבורים שאם רק נוסיף עוד ועוד כללים, או נשכלל את מנגנוני ההחלטה, המערכות יעבדו מצוין. הם טועים. התוצאה של הוספת עוד כללים וחוקים היא מערכת חוקים מסורבלת, שקשה מאוד לשלוט בה או להבין אותה (קצת דומה לחוקי מס הכנסה). דוגמא מצוינת לתופעה הזו היא מערכות הגנת סייבר מבוססות חוקים שמפותחות כיום. הן מסורבלות מאוד ומציפות את המשתמשים בהם בכמויות בלתי נסבלות של התרעות שווא. המשתמשים האלו ניצבים נבוכים אל מול המערכת, לא באמת יודעים איך "לכוונן" אותה, ובדרך כלל מתייאשים.

מסקנה, מערכות חוקים/מערכות מומחה הן כישלון מוחלט ולכן למידת מכונה תמיד עדיפה. נכון? זהו, שלא נכון! ללמידת מכונה יש יתרונות, אבל כמו כל דבר בחיים, גם חסרונות. ראשית, כבר כתבתי שכדי לבנות מודל סיווג באמצעות למידת מכונה יש צורך באיסוף דוגמות רבות, ענין לא פשוט, שגם לא תמיד אפשרי. יתרה מכך, אם אני רוצה למשל לחזות האם לקוח בנק יהיה מסוגל להחזיר הלוואה, האם באמת צריך לאסוף דוגמות רבות של הלוואות מהעבר ולאמן מודל, כדי להבין שלקוח קשיש, תפרן ומובטל יתקשה להחזיר הלוואה של מיליון שקל? זו דוגמה אחת למקרים בהם ראוי לשאול האם נכון להתאמץ וללמוד מחדש את מה שכבר ברור לחלוטין. עם השאלה של "מותר המכונה על האדם" נמשיך להתמודד בפוסט הבא.

* למי שמתעניין בנושא, מומלץ לקרוא את הספר המצוין של מלקולם גלדוול "ממבט ראשון (Blink)"

לחצו על הפעמון לעדכונים בנושא:

כתבות מומלצות

בנייני דירות בסין. המחירים יצאו משליטה - הגיע זמן לתיקון?

האוויר מתחיל לצאת משוק הדיור ברחבי העולם. להלן חמש דוגמאות

קומת המסחר בבורסת ניו יורק. נדרש אומץ לב גדול כדי לקנות כשהשווקים נופלים

אחרי נפילה של יותר מ-20%, הגיע הזמן לקנות מניות? זה המדד שצריך לבדוק

מטוס של וויז אייר. החברה הציעה פיצוי של 600 יורו

אל על מובילה בביטולים, המטוס של וויז אייר "קיבל מכת ברק": קיץ כאוטי בנתב"ג

רכבת תחתית בספרד. הקמת המטרו בישראל מוערכת בעלות של 150 מיליארד שקל

מיליארדים מהפקעות קרקע, סמכויות אגרסיביות, ופוליטיקה קטנה: המלחמה על חוק המטרו

תגובות

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר TheMarker

כתבות שאולי פספסתם

סטודנטים באוניברסיטה העברית בירושלים. שיעורי התעסוקה עולים בהתמדה עם העלייה ברמת ההשכלה

איך מטפסים לעשירון השכר העליון — ומי מצא דרך עקיפה כדי להגיע אליו

גמר אקס פקטור. הוחלט שלא תשמש יותר לבחירת הנציג לאירוויזיון

"הכל זה הוא": שורת עזיבות ורייטינג צונח - למה רשת מובסת בקרב מול קשת?