היכולת של טכנולוגיית הבינה המלאכותית היוצרת Generative AI) GAI) לחקות דיאלוג אנושי וקבלת החלטות העניקה לנו את נקודת הפיתול האמיתית הראשונה של AI. האופן שבו אנו חושבים, עובדים ומתקשרים עם טכנולוגיה ישתנה משמעותית וכפועל יוצא, גם מערכת היחסים של הארגון עם הנתונים תשתנה.
לפני כשני עשורים, החיפוש שינה כמעט את כל מה שהוא נגע בו. השינוי הנ"ל יצר הזדמנויות חדשות כגון מודעות ואופטימיזציה למנועי חיפוש (SEO), יצר שיטות חדשות להנגשה וגילוי מוצרים ועוד. עפ"י מחקרים עולה כי כמעט 70% מכלל התנועה באתר מסוים מתחילה בחיפוש. כעת, עם הופעת טכנולוגיית GAI, האינטרקציה של אנשים עם נתונים מבצעת קפיצת מדרגה משמעותית נוספת. מודל "הספרן/נית" פינה את מקומו למודל "טייס משנה" חדש. האופן שבו אנשים ניגשים לנתונים ומקיימים איתם אינטראקציה יבוצע באמצעות שפה טבעית ובהתאם כל ארגון יידרש להתאים את יכולות הליבה שלו. השינוי הזה הוא קריאת השכמה עבור כל חברה.
הפעילות העסקית של רוב הארגונים מתבססת במידה רבה מאוד על אינטרקציות מרובות במגוון ערוצים עם הלקוח, משלבת נתונים רבים ומבוצעת במגוון שיטות עבודה ועם זאת לקוחות ו/או עובדים עדיין נאבקים בחלק הבסיסי ביותר: למצוא את המידע שהם צריכים. עפ"י מחקר של Gartner שנערך לאחרונה עולה כי 47% מהעובדים הדיגיטליים, במגוון היחידות העסקיות בארגון, נאבקים למצוא מידע או נתונים הדרושים לביצוע יעיל של עבודתם. לכן המעבר מחיפוש לשאלות בשפה טבעית כל כך מפתה.
נדרשת קפיצת מדרגה
כמובן, זה לא פשוט כמו ללחוץ על כפתור. ארגונים יידרשו להתאים את אסטרטגיית הליבה הטכנולוגית בכלל ואסטרטגיית המידע בפרט בהתאם לשינוי תפיסתי זה. ארגונים מסוימים כבר נקטו בצעדים למודרניזציה של תשתית הנתונים שלהם. אבל האמת הקשה היא שרבים אחרים עדיין נאבקים, ומערכות ניהול המידע והידע שלהם עדיין לא עשו את קפיצת המדרגה הנדרשת.
אסטרטגיית המידע נדרשת לתמוך בראש ובראשונה בבסיס נתונים מבוסס הקשרים (Knowledge Graph) וייצוגים וקטוריים (Vector DB) בעלי מימד גבוה להסקת יחסים ודמיון. גרף הידע מהווה מודל נתונים גרפי הכולל ישויות והיחסים ביניהן באופן שמאפשר לנהל קשרים והמשמעות שלהם בצורה יותר רחבה. גרף ידע יכול לא רק לצבור מידע ממקורות מידע רבים ולתמוך בהתאמה אישית טובה יותר, אלא הוא גם יכול לשפר את הגישה לנתונים באמצעות חיפוש סמנטי. מודלי LLMs יכולים לחלץ את הנתונים האלה מטקסטים גולמיים והפיכת התהליך לאוטומטי, ליצור סכימה וקשרים בהתבסס על האונטולוגיה, כמו גם לאכלס את מסד הנתונים הגרפי ולאפשר תחזוקה קלה ועדכנית כאחד. אירוע מבית Cisco Systems הינו דוגמא טובה לכך. לאחר השינוי הארכיטקטוני והיישום הטכנולוגי, מאמצי איתור המידע פחתו ב-50%, וסיסקו חסכה לאנשי המכירות שלה יותר מכארבע מיליון שעות בשנה.
חברות יכולות לבנות מודל LLM משלהן מאפס, אם כי גישה זו נדירה בהתחשב במשאבים המשמעותיים הנדרשים ורלוונטי בעיקר לענקיות הטכנולוגיה. עם זאת, גם בלומברג נקטה בגישה זו, תוך שימוש בבסיס הידע העצום שלה על מנת לפתח מודל LLM של 50 מיליארד פרמטרים עבור התעשייה הפיננסית (BloombergGPT). עם זאת, האפשרות הסבירה יותר לרוב הארגונים תהיה אחת מהשתיים: עדכון מודל ייעודי עבור הארגון (Fine Tuning) לגירסה פרטית של מודל היסוד (Foundation Model) או מינוף הדאטה הארגוני בעבודה מול מודל היסוד (RAG). עדכון המודל דורש הרבה פחות משאבים מאשר אימון LLM מאפס, אולם הוא עדיין לא מבטיח שלמודל החדש יש את המידע העדכני ביותר. לכן, בחירה באפשרות זו אפשרית למקרים ספציפיים בהם אין צורך במידע בזמן אמת. ואריציה נוספת לגישה זו הינה פיתוח מודלי שפה ייעודיים קטנים יותר (SLMs) בהינתן השיקולים העיקריים הבאים: צמצום משאבי המחשוב, אפשרות שימוש שלהם במכשירי קצה קטנים, הקטנת תקופת האימון והקטנת טביעת הפחמן משיקולי רגולציה.
הגישה השנייה, RAG, שואפת "לאלץ" מודל יסוד לעשות שימוש במידע רלוונטי ועדכני בהתאם להקשר ולצורך הספציפי למשימה באופן שאינו מצריך מומחיות בבניה ו/או עדכון מודל יסוד, מאפשר מענה עדכני, הקטנת משאבי המחשוב ומתן ביצועים מהירים במקרים רבים. כך המידע המשולב (שאילתה+מידע ארגוני רלוונטי ועדכני) מועברים למודל השפה על מנת לבצע את המשימה (למשל עריכה/ סיכום).
לפיכך, ארגונים נדרשים לבחון מחדש את אסטרטגיית המידע כבר בשלב שבו הארגון מתחיל לקדם את הצעדים הראשונים שלו בעולם ה-GAI באמצעות Ideation או ביצוע ניסויים וכמובן להתחיל ליישם אותה במעבר לשלב ה-SCALE UP עם גיבוש והתנעה של מפת הדרכים בראי האסטרטגיה העסקית של הארגון.
ד"ר לוי שאול הוא Data & AI Lead, Accenture Israel
