בין אפס לאחד: האם המחשב יכול למצוא לנו את הזיווג המושלם? - מיסטר ביג ומר דאטה - הבלוג של ד"ר יעקב רימר - TheMarker
 

אתם מחוברים לאתר דרך IP ארגוני, להתחברות דרך המינוי האישי

טרם ביצעת אימות לכתובת הדוא"ל שלך. לאימות כתובת הדואל שלך  לחצו כאן

תיק מניות

רשימת קריאה

רשימת הקריאה מאפשרת לך לשמור כתבות ולקרוא אותן במועד מאוחר יותר באתר,במובייל או באפליקציה.

לחיצה על כפתור "שמור", בתחילת הכתבה תוסיף את הכתבה לרשימת הקריאה שלך.
לחיצה על "הסר" תסיר את הכתבה מרשימת הקריאה.

לרשימת הקריאה המלאה לחצו כאן

בין אפס לאחד: האם המחשב יכול למצוא לנו את הזיווג המושלם?

כמו כל שיטת למידה אחרת, למידה עמוקה אינה מתכון קסמים לכל דבר ■ על רשתות נוירונים, למידה עמוקה ומה שביניהן – חלק ב'

תגובות
תמונת נישואין 2
Getty Images IL

בפוסט הקודם הסברתי על רגל אחת מהי "למידה עמוקה" (Deep Learning). מדובר בקאמבק מרשים של רשתות הנוירונים המלאכותיות שכיכבו בסוף המילניום הקודם. ציינתי שיש יתרון משמעותי בשימוש בפרמטרים רבים בלמידה עמוקה, אבל זה מאריך מאוד את משך הלמידה של הרשת. הפוסט הסתיים באמירה שצריך לתת את הקרדיט לקאמבק של רשתות הנוירונים לשיפור המשמעותי בטכנולוגית המחשוב, אבל לא רק.

יש עוד מהפכה דרמטית שהתרחשה בין שנות ה-80 להיום – האינטרנט. אני מזכיר שוב שכדי ללמוד מתוך דוגמות, צריך דוגמות רלוונטית, והרבה. אם חוקר בשנות ה-80 רצה לבנות רשת נוירונים שתדע ללמוד להבדיל בין תמונות של כלבים לחתולים, הוא היה צריך לצלם תמונות בעצמו או לאסוף תמונות מתוך ספרים. היום צריך רק להקליד כמה מילים בגוגל. כולם הרי יודעים שרשת האינטרנט נוצרה בעיקר כדי לשתף תמונות וסרטים של חתולים. וברצינות, ניתן להשיג כיום מאגרי דוגמות בתחומים רבים ומגוונים, חלקם באיכות גבוהה מאוד, שאפילו לא ניתן היה לחלום עליהם לפני כ-40 שנה.

כל מה שצריך לדעת על קריירה בהייטק
כנסו למתחם

ואם כבר באינטרנט עסקינן, יש עוד גורם משמעותי שנולד עם האינטרנט. לחברות ענק כמו גוגל, יש לא רק מאגרי מידע עצומים, אלא גם כמות מדהימה של "עבדים" מודרניים שעובדים עבורן. בכל פעם כשאנחנו מחפשים משהו, משתמשים בשירות התרגום של גוגל, או מחפשים תמונות, אנחנו עוזרים לגוגל לשפר עוד קצת את מודלים הלמידה שלהם באמצעות הפידבק שאנחנו נותנים, במודע או לא. בשירות התרגום למשל, יש אפשרות להציע תרגום אחר. גם אם לא תשתמשו בה, העובדה שתנסו לתרגם שוב, או למשל לחפש שוב עם שינוי קל, כבר מעבירה מסר חשוב ללמידה. גורם זה נותן עוד קפיצה משמעותית ללמידת מכונה, שלא היתה אפשרית ללא האינטרנט.

ובחזרה ללמידה עמוקה. בשל עושר הפרמטרים שיש ברשתות נוירונים עמוקות (כפי שהוסבר בפוסט הקודם), מקובל בשיטות למידה שמיישמות למידה עמוקה לוותר על שלב בחירת התכונות, או הנדסת התכונות. זאת מתוך הנחה שמתממשת במקרים רבים, שאם נזין לרשת עמוקה נתונים גולמיים, היא כבר תלמד לבד את התכונות המתאימות ביותר למודל - ללא מגע יד אדם.

קפסולה עם מוח
Getty Images IL

ציינתי בפוסט הקודם כי למידה עמוקה עושה פלאים בכל התחומים הקשורים לראייה ממוחשבת או זיהוי תמונות. קל להבין מדוע. מצד אחד, כל המידע הנדרש ללמידה הוא הייצוג הממוחשב של התמונות באופן דיגיטלי (פיקסלים בעגה המקצועית) בתוספת כל מיני פונקציות מתמטיות שמחושבות על הפיקסלים האלו. בדיוק מה שרשתות עמוקות נועדו לחשב. מצד שני, למרות שמוח האדם מתמחה בעיבוד תמונות, האדם עצמו מתקשה להצביע במפורש על התכונות ולהסביר במילים באיזה אופן זה נעשה. כן, שוב חוזרת הדוגמה הקלאסית שאני מרבה להשתמש בה - הקושי להסביר כיצד אנחנו מבדילים בין תמונות של כלבים וחתולים.

אבל יש כמובן גם דוגמות אחרות. נניח ואני רוצה לבנות מודל שידע לשדך בהצלחה בין גברים לנשים, באופן שיבטיח שיחיו יחד באושר ועושר במשך עשור לפחות. בהנחה שזו משימה אפשרית, האם לדעתכם מספיק לתת למכונה תמונות של זוגות שנשואים זמן רב, אל מול כאלו שהתגרשו, ולהניח לה ללמוד לשדך בין גברים לנשים רק על סמך התמונות האלו? אפשר לנסות, אבל לא הייתי מהמר על הצלחה רבה. מדובר בבעיה קשה (כמו כל בעיה המסורה ללב) וכנראה שהמידע הנדרש לשידוך בין אנשים חורג מעבר לתמונות של זוגות מאושרים, או מאושרים פחות. כנראה שבמקרה הזה אין מנוס מהנדסת תכונות אנושית, כמו גם בשורה ארוכה של בעיות למידה מעשיות יותר.

לסיכום, למידה עמוקה היא הבאזוורד החדש לרשתות נוירונים מלאכותיות. הן עושות עבודה מצוינת בתחומים מסוימים, בעיקר תודות לשפע הדוגמות שניתן למצוא בעידן האינטרנט ולהתפתחות המטאורית בכוח המחשוב שהתרחשה בעשורים האחרונים. אבל בדיוק כמו רשתות הנוירונים הקלאסיות (ה"רדודות"), רשתות עמוקות אינן פתרון קסם לכל בעיה.

אם יש לכם קושי לאסוף דוגמות רבות, תתקשו להשתמש בלמידה עמוקה. יתרה מכך, כמו כל שיטות הלמידה, קיימים תחומים שלמידה עמוקה אינה מצליחה בהם (מסיבות שונות). אולי גם בבעיה שלכם. מכיוון שלא תמיד קל לחזות מראש איזו שיטה תצליח במקרה מסוים, הגישה שלי היא לנסות מספר שיטות למידה שונות ולבחור את המוצלחת מבניהן עבור בעיית הלמידה שעל הפרק. ותמיד, גם במקרה של רשתות עמוקות, כדאי להכיר את עולם הבעיה אותה מנסים לפתור ולחשוב היטב לפני שאוספים דוגמות ובונים מודל. כזכור, סוף מעשה במחשבה תחילה.

כלב וחתול עם משקפיים
Michael Pettigrew | Dreamstime.com


תגובות

דלג על התגובות

בשליחת תגובה זו הנני מצהיר שאני מסכים/מסכימה עם תנאי השימוש של אתר TheMarker

סדר את התגובות

כתבות שאולי פיספסתם

*#