אם רופאה משתמשת באינטואיציה כדי לטפל בחולה - איך המחשב ילמד כיצד לעשות זאת? - מיסטר ביג ומר דאטה - הבלוג של ד"ר יעקב רימר - TheMarker
 

אתם מחוברים לאתר דרך IP ארגוני, להתחברות דרך המינוי האישי

טרם ביצעת אימות לכתובת הדוא"ל שלך. לאימות כתובת הדואל שלך  לחצו כאן

תיק מניות

רשימת קריאה

רשימת הקריאה מאפשרת לך לשמור כתבות ולקרוא אותן במועד מאוחר יותר באתר,במובייל או באפליקציה.

לחיצה על כפתור "שמור", בתחילת הכתבה תוסיף את הכתבה לרשימת הקריאה שלך.
לחיצה על "הסר" תסיר את הכתבה מרשימת הקריאה.

לרשימת הקריאה המלאה לחצו כאן

אם רופאה משתמשת באינטואיציה כדי לטפל בחולה - כיצד המחשב יידע להחליף אותה?

האם למידת מכונה עדיפה על מערכות חוקים? האם כדאי ללמוד את מה שכבר ידוע? ■ אם במקרים רבים רופאים מתקשים להסביר כיצד הם מקבלים החלטה לגבי אבחון חולה, מה בעצם אנחנו מצפים ממערכת המומחה האומללה? ■ מותר המכונה על האדם - חלק א'

בפוסט הזה אתחיל לסקור את אחת המחלוקות הקשות בתחום: האם למידת מכונה עדיפה על מערכות חוקים. דרכה אנסה להסביר יתרונות וחסרונות נוספים של שיטות שונות בעולם הביג-דאטה. על למידת מכונה כתבתי מספר פעמים, כאשר הכוונה בעיקר לשיטות הסיווג השונות.

אם כן, מהן מערכות חוקים? אחת הטכנולוגיות המובילות בשנות ה-80 של המאה הקודמת נקראה מערכת מומחה. מדובר בתהליכים שמורכבים מאוסף כללים וחוקי היסק, שאמורים לקבל החלטות בדומה למומחה אנושי, למשל רופא. החשיבה בזמנו הייתה שניתן ללמד את המערכת את כל מה שרופא יודע (או צריך לדעת) כדי לאבחן מחלות. לדוגמא, אם אדם מגיע עם תלונות על כאב גרון וחום, התבונן לו בגרון ובצע לו משטח גרון. אם משטח הגרון נותן תוצאות חיוביות (כלומר, יש דלקת שנגרמת ע"י חיידק) - רשום לו אנטיביוטיקה. אחרת, שלח אותו לדרכו עם המלצה למנוחה ולחפיסת סוכריות מציצה (גילוי נאות: אני לא רופא). היו שטענו שמדובר בטכנולוגיה מבטיחה שתחליף תוך מספר שנים את הרופאים, בדומה לרובוטים שהחליפו פועלי יצור. ובכן, אני מניח שמי שביקר לאחרונה בקופת חולים לא ממש הופתע למצוא שם עדיין רופאים ורופאות, גם כעבור 40 שנה.

מדוע הטכנולוגיה של מערכות מומחה נכשלה? האם היא נכשלה? אלו שאלות מורכבות ואנסה לפשט את התשובה. ראשית, כמו כל טכנולוגיה חדשה, רף הציפיות (או החלומות) של חלק מבעלי העניין הרקיע שחקים. וכגודל הציפיה גודל האכזבה. שנית, בנייה של מערכת כללים שתחקה את מגוון ההחלטות שמקבל רופא ממוצע היא משימה מורכבת עד בלתי אפשרית. אחת הסיבות המרכזיות לכך היא שבמקרים רבים מאוד, אנחנו לא באמת יודעים כיצד רופאים מקבלים החלטות. רופאה צעירה, מוכשרת ככל שתהיה, עלולה להתבונן למשל בצילום רנטגן, או רישום אקג, ולא לאבחן שום בעיה. לעומתה, רופאה ותיקה שתתבונן באותו מידע בדיוק, תגיע למסקנה אחרת לחלוטין. את זה כולנו יודעים. הבעיה היא שהרופאה הוותיקה תתקשה לא פעם להסביר מה משך את תשומת לבה. היא תגדיר זאת כתחושת בטן*, או אינטואיציה, בלי יכולת לשים את האצבע על מערכת השיקולים (או התכונות) שהביאו אותה למסקנה הזו.

אילוסטרציה לתוכנת מחשב

אחת הדרישות המרכזיות שהיתה ועודנה ממערכת מומחה היא שתספק הסברים הגיוניים למסקנותיה. בלי להיכנס לצדדים הטכניים של הנושא, מובן שהסבר כזה נחוץ כדי לשכנע אנשים במסקנות המערכת. למשל, בהמשך לדוגמה למעלה, המערכת תסביר את המסקנה לתת לחולה אנטיביוטיקה תוך שימוש בכלל "אם משטח הגרון נותן תוצאות חיוביות - רשום לו אנטיביוטיקה". אבל אם במקרים רבים רופאים מתקשים להסביר כיצד הם מקבלים את ההחלטה, מה בעצם אנחנו מצפים ממערכת המומחה האומללה? ואם אתם תמהים (או חלילה כועסים) על כך שרופאים אינם מסוגלים תמיד להסביר את החלטתם, אני רוצה להזכיר לכם שאתם לא יודעים להסביר אפילו כיצד אתם מבדילים בין תמונות של כלבים וחתולים.

הבעיה היא ש"מומחי" ביג-דאטה רבים, שבנו (ועדיין בונים) מערכות מומחה, מסרבים להכיר באמת הפשוטה הזו. במקום זאת, רבים סבורים שאם רק נוסיף עוד ועוד כללים, או נשכלל את מנגנוני ההחלטה, המערכות יעבדו מצוין. הם טועים. התוצאה של הוספת עוד כללים וחוקים היא מערכת חוקים מסורבלת, שקשה מאוד לשלוט בה או להבין אותה (קצת דומה לחוקי מס הכנסה). דוגמא מצוינת לתופעה הזו היא מערכות הגנת סייבר מבוססות חוקים שמפותחות כיום. הן מסורבלות מאוד ומציפות את המשתמשים בהם בכמויות בלתי נסבלות של התרעות שווא. המשתמשים האלו ניצבים נבוכים אל מול המערכת, לא באמת יודעים איך "לכוונן" אותה, ובדרך כלל מתייאשים.

מסקנה, מערכות חוקים/מערכות מומחה הן כישלון מוחלט ולכן למידת מכונה תמיד עדיפה. נכון? זהו, שלא נכון! ללמידת מכונה יש יתרונות, אבל כמו כל דבר בחיים, גם חסרונות. ראשית, כבר כתבתי שכדי לבנות מודל סיווג באמצעות למידת מכונה יש צורך באיסוף דוגמות רבות, ענין לא פשוט, שגם לא תמיד אפשרי. יתרה מכך, אם אני רוצה למשל לחזות האם לקוח בנק יהיה מסוגל להחזיר הלוואה, האם באמת צריך לאסוף דוגמות רבות של הלוואות מהעבר ולאמן מודל, כדי להבין שלקוח קשיש, תפרן ומובטל יתקשה להחזיר הלוואה של מיליון שקל? זו דוגמה אחת למקרים בהם ראוי לשאול האם נכון להתאמץ וללמוד מחדש את מה שכבר ברור לחלוטין. עם השאלה של "מותר המכונה על האדם" נמשיך להתמודד בפוסט הבא.

* למי שמתעניין בנושא, מומלץ לקרוא את הספר המצוין של מלקולם גלדוול "ממבט ראשון (Blink)"

הרשמה לניוזלטר

כל הסקירות בזירת הניתוחים של TheMarker - בתיבת המייל שלכם

ברצוני לקבל ניוזלטרים, מידע שיווקי והטבות


תגובות

דלג על התגובות

בשליחת תגובה זו הנני מצהיר שאני מסכים/מסכימה עם תנאי השימוש של אתר TheMarker

סדר את התגובות

כתבות שאולי פיספסתם

*#