השלב הבא במהפכת ה-AI יהיה שלב ה- Agentic AI- סוכנים חכמים שיודעים לבצע משימות מורכבות ללא מגע יד אדם, כך העריכה שחר דניאל, מובילת צוות המומחים לפתרונות ארכיטקטורה ב-AWS בכנס Design the Future – Deep Tech & AI של TheMarker Labels, שנערך בשיתוף Cadence. "יש לנו פוטנציאל אדיר בידיים, אבל אנחנו צריכים להבין איך אנחנו בונים את האמון הנדרש כדי לאמץ את הטכנולוגיה בצורה הטובה ביותר", אמרה דניאל.
לדבריה, השינוי המרכזי שסוכני הבינה המלאכותית מכניס לחיינו הוא המעבר מביצוע משימות על פי דרישה ליכולת עבודה עצמאית. זוהי ההבטחה הגדולה של התחום - מודלים המסוגלים לתכנן ולבצע כמה מהלכים קדימה. נתונים שהוצגו בכנס העלו כי אנליסטים חוזים כי 33% מהיישומים עד שנת 2028 יהיו יישומים של Agents, וכי 15% מההחלטות היומיומיות בעבודה יתקבלו באופן אוטונומי על ידי סוכנים. אבל החסם הגדול שעומד בפני השינוי הזה הוא עדיין נושא האמון.
"בחברת מקינזי מצאו כי כ-75% מהמנהלים עדיין צריכים לסמוך על הטכנולוגיה", אמרה דניאל, והסבירה כי כדי ליישם אוטונומיה מלאה לצד אמון, חייבים לשמור על הגורם האנושי - כך ניתן יהיה לייצר סוכנים שונים עם דרגות שונות של חופש. "למשל, סוכן פיננסי שיכול לטפל בכספים עד רף מסוים, ומעביר את הטיפול בהמשך לאיש מקצוע אנושי", הסבירה.
אפשרות אחת שהציגה דניאל היא שימוש ב-Agent משימתי, שפועל על פי הנחיות ברורות ולא לוקח חירויות נוספות. חלופה אחרת היא תיחום עבודת הסוכן בתוך מידע סגור. הדרך לעשות זאת היא באמצעות Context window. "אם נלעיט את הסוכן במידע זה יגרום לבלבול, ולכן הרחבת העבודה של סוכנים עם מידע עומדת להיות מקצוע בפני עצמו", הסבירה.
לצד עדכון אסטרטגיית ה-DATA והתאמתן למערכות AI, נדרש לפתח מערכות שיציגו מידע איכותי ובמקביל ישמרו על מידע מוצפן. "אנחנו קוראים לזה Trust but verify - כלומר, אפשר לסנן נושאים אסורים כך שמידע חסוי לא ידלוף", הסבירה דניאל, והוסיפה כי לאחרונה הושק Agent core - מודל שמאפשר להגדיר מראש מהן היכולות של הסוכן ולהגביל פעולות אחרות.
גורם נוסף שיסייע לבסס אמון, הוא שיקוף מלא של הפעילות, כך לא נוותר על גורם השליטה בתהליך. "בסופו של יום, העולם הולך לכיוון מערכות מרובות סוכנים. יהיו מיליארדי agents שיעבדו לצד בני אדם", סיכמה דניאל, "ולכן חשוב שנלמד להתאים את דרגת החופש עם מעורבות אנושית, מערכות איזונים שיאפשרו לנו להגיע לאמון בעולם הסוכנים".
