ילד מנהל שיח ממוחשב עם צ'ט בוט מבוסס מודל בינה מלאכותית. הוא כותב לו שההורים מעצבנים אותו. הבוט מגיב באומרו שהוא שמע שיש ילדים שהורגים את ההורים שלהם. ילדה מבקשת ממודל איור מבוסס בינה מלאכותית לצייר לה בובות בארבי. בתגובה המתקבלת מחזיקה אחת הבובות ברובה אוטומטי.
שני המקרים האלו אינם דימיוניים. שניהם אכן התרחשו במציאות ופורסמו בחדשות. חברת Qualifire הישראלית מפתחת טכנולוגיה שתמנע מקרים דוגמת אלו, שכבר נמצאת בשימושם של ארגוני טכנולוגיה, קמעונאות פיננסים וחינוך. "המשימה היא לאפשר לארגונים להשתמש בטכנולוגיות בינה מלאכותית גנרטיבית בצורה בטוחה", אומר מנכ"ל החברה גלעד עברי, שייסד אותה ביחד עם אחיו דרור עברי, המשמש כסמנכ"ל הטכנולוגיות. "בינה מלאכותית יכולה 'לרדת מהפסים' מסיבות שונות. מודלי שפה עלולים להפגין התנהגות בלתי צפויה ואף מסוכנת. מושקע הרבה מאמץ בתהליכי Alignment בזמן האימון ע"מ לייצר מודלים בטוחים יותר, אבל תמיד יש חריגות. אנחנו מוודאים שבכל מקרה של חריגה כזאת, היא תיחסם, תתוייג ותדווח. אנחנו לא מסננים את המידע עליו אומן המודל, אלא את התוצאות שהמודל מייצר בזמן השימוש".
איך?
"פיתחנו פלטפורמה לבקרת איכות, מודרציה ואכיפת הסטנדרטים הארגוניים על בינה מלאכותית גנרטיבית, המגינה בזמן אמת על המשתמשים. העיקרון שמנחה אותנו הוא צמצום חופש הפעולה של מודל השפה על ידי אכיפת חוקים וסטנדרטים על התוכן שהוא מייצר וזיהוי וחסימה בזמן אמת של ההפרות. אנחנו למעשה נכנסים מתחת למכסה המנוע של מערכות הלקוח ומכניסים שם שכבת מודרציה. היא נפרסת בסביבת ה-Production בזמן אמת, כשמודל השפה כבר נמצא בשימוש, וסורקת כל תוכן שהוא יוצר - לפני שהוא מגיע למשתמש. כך היא מוודאת מראש שהוא עומד בסט הדרישות הארגוניות: חוסר תוכן פוגעני, חוסר תוכן לא חוקי וכל דרישה תפורה אישית של הלקוח. הפלטפורמה בוחנת את התוצר בפרק זמן קצר מאוד של מילי-שניות וקובעת אם יש בו הפרה על הקריטריונים שהוגדרו או לא. אפשר להסתכל על זה כעל פילטר בזמן אמת, אסיסטנט שמבצע תהליך סינון מתמשך, עם תיקונים תמידיים. המוצר כל הזמן משפר את עצמו".
אילו דרישות ספציפיות הלקוח יכול להגדיר?
"אנחנו לא מספקים פתרון אחד גנרי לכולם אלא מערכת מותאמת אישית וכאמור - לומדת. הלקוח מספק לנו אוסף דרישות ודגשים, המערכת שלנו לומדת באופן אוטונומי ומייצרת הגדרות, תוך הקפדה על יעילות בשימוש. כלומר: המטרה היא לייצר שכבת הגנה שתהיה יעילה, שלא תוסיף זמן חישוב משמעותי, ושתוכל לרוץ בסקייל מאוד גדול. אז אם, למשל, יש צ'ט בוט של חברת מוצרי בישול המייעץ למשתמשים באילו כלים להשתמש - כמובן שחשוב לחברה שהבוט לא ימליץ על מוצרים של מתחרים. אף חברה מסחרית לא רוצה שהבוט שלה ייערב נושאים פוליטיים בשיח עם הלקוחות. בשימוש במערכת החינוך מורה יכול להגדיר שמודל יבנה סיפור רק ממילים שנלמדו בכיתה ולא מאלו שטרם נלמדו בה. מותגים מסחריים שמייצרים תוכן שיווקי רוצים שהוא יהיה בשפה הארגונית, על כל הנובע ממנה, וכולם רוצים שהמודל ינפיק טקסט בטון ובסגנון הנכון והרלוונטי להם. המערכת לומדת את סביבת הלקוח ודגשיה, מריצה ניסויים בסוגים שונים של מודלים ועושה התאמות עד לאיתור המודל האופטימלי ביותר".
מענק למסלול ה-Pre-Seed
ארגונים רבים שואפים להטמיע כיום מודלים של בינה מלאכותית בפעילותן. בין אם מדובר בשירות לקוחות, במכירות, בשיווק או בפונקציות עסקיות - הפוטנציאל עצום וקורץ ("כמעט בכל פונקציה עסקית ניתן לשלב בינה מלאכותית", מצהיר עברי). אך רבים מארגונים אלו חוששים מהנזקים שעלולים להתרחש במקרים בהם גבולות המודל לא יהיו ברורים מספיק. "מה שעוצר את הארגונים מהאימוץ הוא העובדה שקשה מאוד לסמוך על אמינות מודלי השפה", אומר עברי. "זה קצת כמו שכשהמציאו את המכונית לא היה אימוץ מאוד גבוה של הטכנולוגיה החדשה הזאת בהתחלה, כי היו חסרות תשתיות ומנגנונים הכרחיים. אלו התפתחו רק אחר כך ואפשרו להפיק את הערך המירבי מההמצאה. הבינה המלאכותית נמצאת במצב דומה. יש לנו את המנוע הבסיסי - מודל הליבה החזק המסוגל לייצר טקסט - אך חסרות הרבה תשתיות תומכות שביניהן יש מנגנוני בטיחות ומודרציה. החזון של Qualifire הוא לספק תשתית מקיפה לארגון, כך שיוכל לבנות יישומים מבוססי בינה מלאכותית שבאמת אפשר לסמוך עליהם".
הבינה החכמה לא מספיק חכמה כדי ללמוד עצמאית מטעויותיה ולתקנן עם הזמן?
"שואלים אותנו לא פעם למה שהמודלים לא ישתפרו עד לרמה שלא יהיה צורך במנגנוני אבטחה. לא מזמן התפרסם מאמר על כך שחוקי הסקיילינג, הגדילה, כבר נשברו ומודל גדול יותר הוא לאו דווקא חכם יותר. די מיצינו את האפיק הזה. גם התעשייה וגם האקדמיה מדברים על מנגנונים בזמן השימוש של המודל ולא בזמן האימון שלו - בדיוק מה שעושה הפתרון שלנו. ישנם ארגונים שלא יכולים לסמוך רק על למידת המודל, בעיקר כאלו הנמצאים תחת רגולציה הדוקה, כמו ארגוני בריאות, פיננסים וביטחון. אם בית השקעות מציע צ'ט בוט ללקוחותיו - עליו לעמוד תמיד בכל הכללים, מהגנת מידע ופרטיות ועד הימנעות מהמלצות ועצות פיננסיות".
האם המלחמה השפיעה על פעילות החברה?
"לשמחתנו, קיבלנו מענק ב-2024 מרשות החדשנות למסלול ה-Pre-Seed, כשנה לאחר ההקמה. מאז יצרנו שותפות משמעותית עם גוגל ושיתופי פעולה עם חברות ואינטגרטורים בארץ ובחו"ל. בפרוץ המלחמה היינו רגע לפני סיבוב גיוס ראשון, והכל הפך למשותק למשך חודשיים. גם אנחנו עזבנו את הכל, חלקנו גויס למילואים וחלקנו התנדב. בין השאר סייענו למיזם 'החיוך של לירי' - מערכת AI ומודיעין פתוח המיועדת לאיתור חטופים בעזה ולמניעת התארגנויות טרור המוניות בתוך שטחי המדינה. כך שאין ספק שהחברה נפגעה זמנית מהמצב. אמנם אף לקוח קיים או פוטנציאל לא אמר לנו שהוא מסרב לעבוד עם ישראלים, אך יש פחות משקיעים שבאים לארץ ופחות שת"פים עם חברות ישראליות - ואנחנו מניחים שזה משפיע עלינו כמו על כולם".
מה חזון החברה לעתידה?
"לאפשר למגזר העסקי לנצל טכנולוגיות בינה מלאכותית בצורה טובה ולהפוך לסטנדרט לבקרת איכות והגנת ה-AI על משתמשים וארגונים".
Qualifire
שנת הקמה: 2023.
מייסדים: גלעד עברי ודרור עברי.
תחום עיסוק: בינה מלאכותית.
מוטו מוביל: בניית אמון לבינה מלאכותית גנרטיבית.
בשיתוף Qualifire
