בחגי הקניות של סוף שנה, צפויים מותגים ואתרי מסחר להתמודד עם סוג חדש של לקוחות: סוכני בינה מלאכותית. הסוכנים האוטונומיים, כמו Muse של מטא, Grok dot ואינסטינקט, כבר מסוגלים לחפש מוצרים, להשוות מחירים, למלא טפסים ואף לבצע רכישות בשם המשתמשים ששלחו אותם. אלא שבעוד הטכנולוגיה מתקדמת במהירות, חלק מהחברות הגדולות בעולם, בהן אמזון, eBay ו JPMorgan Chase- דווקא מתחילות לחסום את גישתם לאתרים שלהן.
הדילמה ברורה: מצד אחד, סוכן AI עשוי להפוך ללקוח לכל דבר, כזה שמגיע לבצע עסקה. מצד שני, כיצד אתר יכול לדעת אם מדובר בסוכן לגיטימי, או בגורם זדוני שמנסה לנצל את אותן יכולות בדיוק לביצוע הונאה?
"למעלה מ-50% מהתעבורה ברשת האינטרנט כיום היא של גורמים שאינם אנושיים: בוטים וסוכני AI. אבל בניגוד לעבר, חלק משמעותי מהתנועה הזאת נועד לבצע משימות לגיטימיות עבור משתמשים אנושיים", אומר גיא טיטונוביץ', מייסד ומנכ"ל CHEQ, שמגינה על ארגונים מפני פעילות לא אנושית ברשת. "אנחנו רואים כאן התפתחות של דרך חדשה לחלוטין שבה משתמשים מתקשרים עם רשת האינטרנט".
לדבריו, קצב האימוץ של סוכני הבינה המלאכותית החדשים (AI Assistants) חריג גם במונחים של תעשיית הטכנולוגיה. "ביום אחד ראינו זינוק של אלפי אחוזים בשימוש ב-Muse באתרים של לקוחותינו ברחבי העולם. ובכל זאת, חלק מהחברות הגדולות מחליטות לחסום את הסוכנים מטעמי אבטחה, גם במחיר של אובדן עסקאות פוטנציאליות".
מבוט חשוד ללקוח לגיטימי
במשך שנים ארגונים השקיעו משאבים רבים בזיהוי ובחסימה של בוטים. תנועה אוטומטית באתרי אינטרנט נקשרה לניסיונות הונאה, התחזות, גניבת מידע וניצול לרעה של מערכות דיגיטליות. אלא שהופעת סוכני ה-AI משנה את כללי המשחק: אותן מערכות שנועדו להרחיק מכונות נדרשות כעת ללמוד כיצד לאפשר לחלקן לפעול.
"אם בעבר השאלה המרכזית הייתה Is it human or not? היום השאלה כבר אינה רק אם מדובר בבוט, אלא איזה בוט הגיע לאתר ומה הוא מנסה לעשות", מסביר טיטונוביץ'. "האם הוא נשלח לרכוש נעליים בשם לקוח אמיתי, או שהוא מנסה לבצע הונאה? חסימה גורפת של תנועה לא אנושית עלולה לפגוע בפעילות העסקית, אבל מתן גישה חופשית לכל סוכן הוא כמובן סיכון".
לדבריו, הניסיון לעצור לחלוטין את כניסת הסוכנים לאתרים הוא מאבק שספק אם ניתן לנצח בו. "בסופו של דבר, עסקים יצטרכו לאפשר לסוכני AI לפעול באתרים שלהם. השאלה היא כיצד עושים זאת בלי לוותר על אבטחה ובלי לפגוע בחוויית המשתמש".
לקבל החלטות בזמן אמת
לאור כל זאת עולה השאלה: האם אפשר לזהות את הכוונה של מכונה?
כאן נכנס לתמונה תחום פעילותה של CHEQ, המתמחה באבטחת הנכסים הדיגיטליים של ארגונים באינטרנט הפתוח. בניגוד לרבות מחברות הסייבר, שמתמקדות בהגנה על הרשת הארגונית הפנימית, CHEQ עוסקת בזיהוי ובניתוח הפעילות שמגיעה לאתרי מסחר, בנקים, אפליקציות, פלטפורמות דיגיטליות וקמפיינים שיווקיים.
הגישה שמציגה החברה מבוססת על שלוש שאלות. הראשונה היא - Entity האם הגורם שמבצע את הפעולה הוא אדם, בוט או סוכןAI ;השנייה היא Identity - מהי זהותו והאם הוא אכן מי שהוא טוען להיות ; השלישית, ואולי המורכבת מכולן, היא Intent - מה הוא מנסה להשיג.
"הבעיה היא שאותן יכולות טכנולוגיות שמשמשות צרכנים ועסקים זמינות גם לגורמים זדוניים", מחדד טיטונוביץ'. "סוכן שיודע לנווט באתר, למלא פרטים ולבצע פעולות אוטומטיות יכול לקנות מוצר עבור לקוח, אבל גם לשמש להונאה או התחזות. לכן לא מספיק לזהות את סוג המשתמש. צריך להבין את הכוונה שמאחורי הפעולה".
המטרה היא לאפשר לארגונים לקבל החלטות בזמן אמת: אילו פעולות לאשר, אילו להגביל ואילו לחסום, בהתאם לרמת הסיכון.
שישה מיליארד פעולות ביום
אחד האתגרים בזיהוי פעילות חשודה הוא שאתר בודד לא בהכרח מכיר את הגורם שמגיע אליו לראשונה. לכן, ככל שהתנועה האוטומטית מתרחבת, גם המידע המצטבר על דפוסי התנהגות הופך לנכס אסטרטגי.
הפלטפורמה של CHEQ פועלת ביותר משלושה מיליון אתרים ואפליקציות ברחבי העולם, ומנטרת כשישה מיליארד פעולות משתמשים מאומתות מדי יום. היקף הדאטה הזה שהספיקה לצבור מיום הקמתה (2018) הופך אותה לחברה הגדולה בעולם בתחום זיהוי משתמשים לא אנושיים באינטרנט הפתוח. למעלה מ-15 אלף ארגונים משתמשים בטכנולוגיה שלה, בהם חברות Fortune 50 וארגונים מתחומי הפיננסים, הקמעונאות, המסחר האלקטרוני והטכנולוגיה. המומחיות והדאטה הייחודיים שיש לחברה מציבים אותה במקום ייחודי שמאפשר לה להגן על נכסים דיגיטליים של חברות וארגונים ב-Agentic Web ועל האופן שבו סוכני AI משנים את ההתנהגות באינטרנט.
מי יקבע את כללי המשחק באינטרנט החדש?
המעבר לאינטרנט מונחה סוכנים (Agentic Web) עשוי לשנות לא רק את האופן שבו צרכנים רוכשים מוצרים ושירותים, אלא גם את הדרך שבה עסקים מגדירים אמון. בעולם שבו מכונות פועלות בשם בני אדם, הזיהוי הטכנולוגי של המשתמש הוא רק השלב הראשון.
"השאלה כבר אינה אם סוכני AI יפעלו באינטרנט, אלא כיצד נאפשר להם לעשות זאת בצורה בטוחה", מסכם טיטונוביץ'. "ארגונים יצטרכו ללמוד להבחין בין פעילות לגיטימית לפעילות זדונית, מבלי לחסום הזדמנויות עסקיות. האתגר של עולם הסייבר החדש הוא לא רק לדעת מי נכנס לאתר, אלא להבין למה הוא הגיע ומה הוא מתכוון לעשות".
