אם רופאה משתמשת באינטואיציה כדי לטפל בחולה - כיצד המחשב יידע להחליף אותה?

האם למידת מכונה עדיפה על מערכות חוקים? האם כדאי ללמוד את מה שכבר ידוע? ■ אם במקרים רבים רופאים מתקשים להסביר כיצד הם מקבלים החלטה לגבי אבחון חולה, מה בעצם אנחנו מצפים ממערכת המומחה האומללה? ■ מותר המכונה על האדם - חלק א'

יעקב רימר
ד"ר יעקב רימר

בפוסט הזה אתחיל לסקור את אחת המחלוקות הקשות בתחום: האם למידת מכונה עדיפה על מערכות חוקים. דרכה אנסה להסביר יתרונות וחסרונות נוספים של שיטות שונות בעולם הביג-דאטה. על למידת מכונה כתבתי מספר פעמים, כאשר הכוונה בעיקר לשיטות הסיווג השונות.

אם כן, מהן מערכות חוקים? אחת הטכנולוגיות המובילות בשנות ה-80 של המאה הקודמת נקראה מערכת מומחה. מדובר בתהליכים שמורכבים מאוסף כללים וחוקי היסק, שאמורים לקבל החלטות בדומה למומחה אנושי, למשל רופא. החשיבה בזמנו הייתה שניתן ללמד את המערכת את כל מה שרופא יודע (או צריך לדעת) כדי לאבחן מחלות. לדוגמא, אם אדם מגיע עם תלונות על כאב גרון וחום, התבונן לו בגרון ובצע לו משטח גרון. אם משטח הגרון נותן תוצאות חיוביות (כלומר, יש דלקת שנגרמת ע"י חיידק) - רשום לו אנטיביוטיקה. אחרת, שלח אותו לדרכו עם המלצה למנוחה ולחפיסת סוכריות מציצה (גילוי נאות: אני לא רופא). היו שטענו שמדובר בטכנולוגיה מבטיחה שתחליף תוך מספר שנים את הרופאים, בדומה לרובוטים שהחליפו פועלי יצור. ובכן, אני מניח שמי שביקר לאחרונה בקופת חולים לא ממש הופתע למצוא שם עדיין רופאים ורופאות, גם כעבור 40 שנה.

מדוע הטכנולוגיה של מערכות מומחה נכשלה? האם היא נכשלה? אלו שאלות מורכבות ואנסה לפשט את התשובה. ראשית, כמו כל טכנולוגיה חדשה, רף הציפיות (או החלומות) של חלק מבעלי העניין הרקיע שחקים. וכגודל הציפיה גודל האכזבה. שנית, בנייה של מערכת כללים שתחקה את מגוון ההחלטות שמקבל רופא ממוצע היא משימה מורכבת עד בלתי אפשרית. אחת הסיבות המרכזיות לכך היא שבמקרים רבים מאוד, אנחנו לא באמת יודעים כיצד רופאים מקבלים החלטות. רופאה צעירה, מוכשרת ככל שתהיה, עלולה להתבונן למשל בצילום רנטגן, או רישום אקג, ולא לאבחן שום בעיה. לעומתה, רופאה ותיקה שתתבונן באותו מידע בדיוק, תגיע למסקנה אחרת לחלוטין. את זה כולנו יודעים. הבעיה היא שהרופאה הוותיקה תתקשה לא פעם להסביר מה משך את תשומת לבה. היא תגדיר זאת כתחושת בטן*, או אינטואיציה, בלי יכולת לשים את האצבע על מערכת השיקולים (או התכונות) שהביאו אותה למסקנה הזו.

אילוסטרציה לתוכנת מחשב
תוכנת מחשב

אחת הדרישות המרכזיות שהיתה ועודנה ממערכת מומחה היא שתספק הסברים הגיוניים למסקנותיה. בלי להיכנס לצדדים הטכניים של הנושא, מובן שהסבר כזה נחוץ כדי לשכנע אנשים במסקנות המערכת. למשל, בהמשך לדוגמה למעלה, המערכת תסביר את המסקנה לתת לחולה אנטיביוטיקה תוך שימוש בכלל "אם משטח הגרון נותן תוצאות חיוביות - רשום לו אנטיביוטיקה". אבל אם במקרים רבים רופאים מתקשים להסביר כיצד הם מקבלים את ההחלטה, מה בעצם אנחנו מצפים ממערכת המומחה האומללה? ואם אתם תמהים (או חלילה כועסים) על כך שרופאים אינם מסוגלים תמיד להסביר את החלטתם, אני רוצה להזכיר לכם שאתם לא יודעים להסביר אפילו כיצד אתם מבדילים בין תמונות של כלבים וחתולים.

הבעיה היא ש"מומחי" ביג-דאטה רבים, שבנו (ועדיין בונים) מערכות מומחה, מסרבים להכיר באמת הפשוטה הזו. במקום זאת, רבים סבורים שאם רק נוסיף עוד ועוד כללים, או נשכלל את מנגנוני ההחלטה, המערכות יעבדו מצוין. הם טועים. התוצאה של הוספת עוד כללים וחוקים היא מערכת חוקים מסורבלת, שקשה מאוד לשלוט בה או להבין אותה (קצת דומה לחוקי מס הכנסה). דוגמא מצוינת לתופעה הזו היא מערכות הגנת סייבר מבוססות חוקים שמפותחות כיום. הן מסורבלות מאוד ומציפות את המשתמשים בהם בכמויות בלתי נסבלות של התרעות שווא. המשתמשים האלו ניצבים נבוכים אל מול המערכת, לא באמת יודעים איך "לכוונן" אותה, ובדרך כלל מתייאשים.

מסקנה, מערכות חוקים/מערכות מומחה הן כישלון מוחלט ולכן למידת מכונה תמיד עדיפה. נכון? זהו, שלא נכון! ללמידת מכונה יש יתרונות, אבל כמו כל דבר בחיים, גם חסרונות. ראשית, כבר כתבתי שכדי לבנות מודל סיווג באמצעות למידת מכונה יש צורך באיסוף דוגמות רבות, ענין לא פשוט, שגם לא תמיד אפשרי. יתרה מכך, אם אני רוצה למשל לחזות האם לקוח בנק יהיה מסוגל להחזיר הלוואה, האם באמת צריך לאסוף דוגמות רבות של הלוואות מהעבר ולאמן מודל, כדי להבין שלקוח קשיש, תפרן ומובטל יתקשה להחזיר הלוואה של מיליון שקל? זו דוגמה אחת למקרים בהם ראוי לשאול האם נכון להתאמץ וללמוד מחדש את מה שכבר ברור לחלוטין. עם השאלה של "מותר המכונה על האדם" נמשיך להתמודד בפוסט הבא.

* למי שמתעניין בנושא, מומלץ לקרוא את הספר המצוין של מלקולם גלדוול "ממבט ראשון (Blink)"

תגיות:

יעקב רימר

ד"ר יעקב רימר | |מיסטר ביג ומר דאטה

יועץ בכיר ומרצה בנושאי סייבר, ביג דאטה ומדעים, בעל דוקטורט ממכון ויצמן למדע. עוסק בעשור האחרון במחקר מדעי במקביל לייעוץ לחברות היי-טק ומשרדי ממשלה. בעבר שימש בתפקידים בכירים בהיי-טק ובמשרד ראש הממשלה. מרצה משופשף ומנוסה, שמתמחה בהמחשת נושאי מדע וטכנולוגיה "קשים לעיכול" בגובה העיניים. משלב בכתיבתו והרצאותיו את הניסיון ארוך השנים בתעשיית ההיי-טק ובאקדמיה, יחד עם העברת מסרים ברורה והומור.

הבלוג ינסה להמחיש לקורא המתעניין (וגם הלא-מקצועי) מה כוחם האמיתי של ניתוח נתונים, למידת מכונה או ביג דאטה. מה אפשר (או אי אפשר) לעשות באמצעות שיטות אלו ואיך כל זה נוגע לפרטיות שלנו.

LinkedIn 

Home Page

תגובות

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר TheMarker