בשדה הקרב המודרני המידע הופך לנשק לכל דבר ועניין, מפקדים ניצבים מול מבול אדיר של נתונים מעשרות סנסורים, לרבות רחפנים, לוויינים, מכ"מים, תקשורת מוצפנת ודיווחים אנושיים מהשטח. קצב יצירת המידע הולך וגובר והעומס הקוגנטיבי מגיע לרמות אשר חוצות את מגבלת הרף האנושי, בעוד שבעבר ניתן היה לתכנן קרב על דף אחד, היום חדרי המלחמה טובעים במסכים, והתראות מכל עבר. התוצאה היא עומס מידע המקשה על קבלת החלטות בזמן אמת. על רקע זה עולה השאלה: האם הבינה המלאכותית היא המפתח להתמודדות עם פער זה?
הבעיה: עומס המידע ומגבלות השליטה והבקרה המסורתית
בשדה קרב רווי טכנולוגיה, הפער בין קצב איסוף הנתונים לבין קצב העיבוד האנושי הולך ומתרחב, מידע מתקבל ממגוון אדיר של מקורות לרבות רחפנים, חיישני סיגינט (מודיעין אותות), מכ"מים מוטסים, מושטים ויבשתיים, צילומי לווין, מצלמות מתוחכמות ועוד, מערכות השליטה והבקרה (שו"ב) המסורתיות מתקשות להתמודד עם ריבוי המקורות.כל סנסור מוצג על מסך נפרד ולעיתים צוות נפרד המפעיל אותו. תמונת הקרב המבוזרת (ללא איחוד מידע) פירושה שעיני המפקדים רואות חלקי פאזל במקום תמונה כוללת. במצב כזה קשה לתאם בין יחידות, קשה לתעדף מטרה חשובה אחת מתוך רבות וסכנת "ערפל הקרב הדיגיטלי" רק גדלה.
לבינה המלאכותית יש מקום חשוב במיזוג המידע (Data Fusion) איחוד אוטומטי של הנתונים לכדי תמונת מצב אחידה וברורה, למערכת מבוססת בינה מלאכותית פוטנציאל לקלוט במקביל את כלל החיישנים בזירה: מצלמת רחפן שמזהה רכב חשוד, מכ"ם קרקעי שקולט תנועת כלי רכב, ואיכון סלולר המצביע על מיקום טלפון מסוים, במקום להציג שלוש התראות נפרדות המערכת הממוחשבת מצליבה את הנתונים ומבינה שכולם מצביעים על אותו אובייקט ומציגה מטרה אחת עם הסתברות גבוהה לזיהוי ודאי כך שמתקבלת תמונת קרב אחודה.
יתרון זה של תמונה אחודה הוא עצום, הוא מונע כפילויות ובלבול, מקצר את הזמן הדרוש לזיהוי איומים ומאפשר לכל גורם לקבל מטרה מאומתת אחת אשר מאפשרת לו להבין את התמונה המבצעית בשטח בזמן אמת, מערכות הבינה המלאכותית מבצעות את ניתוח ומיזוג הנתונים ולאחר מכן דחיפה של המידע הנחוץ לכל אחד מהגורמים בשדה הקרב על מנת למנוע מצב שבו גורם רלוונטי רואה רק חלק מהתמונה או לחילופין כולם מקבלים את כל המידע ומתקשים לדלות ממנו את המידע הרלוונטי להם. במקום זאת, כולם ניזונים מאותו "ענן קרב" מסד נתונים משותף בזמן אמת המדבר בשפה אחת כאשר כל אחד מקבל את המידע הרלוונטי לו בזמן הרלוונטי. מודלים של למידת מכונה משמשים לסינון "רעשי רקע" ולהפחתת עומס.
בינה מלאכותית כתומכת החלטה בשדה הקרב
במערכות תומכות החלטה מבוססות AI ניתן לשקלל כמות אדירה של גורמים ולספק המלצות מהירות על מהלכי פעולה. מערכות תומכות החלטה כאלה מקטינות טעויות אנוש בתנאי לחץ. מערכות כגון אלה משולבות זה מכבר במערכות מבצעיות לתכנון משימות ומסייעות למפקדים בשטח בקבלת החלטות אשר לעיתים מהוות את ההבדל בין הצלחה לכישלון.
מערכות בינה מלאכותית מתקדמות מספקות המלצות פרקטיות: פריסה של הכוחות, מיקום סוללות, אמצעים נדרשים אל מול האיום, תזמון אופטימאלי של התקיפה או היירוט ואפילו כלכלת חימושים.
המעבר למערכות אוטונומיות
היכן עובר הגבול בין המלצה אוטומטית לביצוע אוטונומי? נושא רמות האוטונומיה בכלי מלחמה ניצב כיום בחזית הדיון הטכנולוגי והאתי. למעשה, ניתן לסווג מערכות בשלוש רמות: אדם בתוך התהליך (Man-in-the-Loop) שבה האדם חייב לאשר כל פעולה, אדם מעל התהליך (Man-on-the-Loop) שבה המערכת פועלת עצמאית אך תחת פיקוח אנושי המוסמך להתערב; אדם מחוץ לתהליך (Fire-and-Forget) מערכות הפועלות אוטונומית לחלוטין ללא התערבות שוטפת.
מערכות ליירוט טילים מייצגות כיום את הקצה של אוטומציה מלאה, המערכת מקבלת החלטת ירי בעצמה כיוון שזמן התגובה הדרוש קצר מדי למעורבות אדם. גם במערכות הגנת סייבר, תוכנות AI מזהות מתקפה ומשנות חוקים באופן אוטומטי על מנת לבלום חדירה מבלי לחכות לטכנאי שיקליד פקודה. לעומתן, מערכות אוטונומיה חלקית נפוצות במשימות בהן עדיין נדרש שיקול דעת מוסרי או מורכב: למשל רחפן תוקף יכול לטוס, לאתר מטרות ולהמליץ על תקיפה, אך את לחיצת ה"כפתור" הסופית יעשה הלוחם, כך גם בתוכנות תומכות החלטה בשדה הקרב, הן עשויות להמליץ איזה יעד לתקוף ראשון, אך המפקד הוא שמאשר סופית את התיעדוף.
הדור הבא הוא מערכות אוטונומיות מקצה לקצה "סגירת מעגל הרג" (Kill Chain) אוטונומית, פירוש הדבר שכל שלבי הפעולה מאיסוף המידע דרך ניתוחו ועד לקבלת החלטה והפעלת אמצעים קטלניים יתבצעו על ידי מכונה ללא מגע יד אדם. חזון זה שפעם היה מדע בדיוני הופך למציאות טכנולוגית אפשרית בשנים האחרונות. במובן זה, שאלת "האם ומתי יחליפו המכונות האוטונומיות את בני האדם בשדה הקרב" נענית לעיתים קרובות ב"הן יחליפו והשאלה היא רק מתי". הטכנולוגיה כבר שם, אך במקביל לקפיצה הטכנולוגית עולות השאלות: האם אנחנו מבינים את הסיכונים שבפתיחת הפקודה "אש חופשית" למכונות? האם שדה קרב עתידני שבו רובוטים חמושים מקבלים החלטות בעצמם הוא חזון רצוי או מפחיד?
סיכונים ואתגרים
לצד ההזדמנויות האדירות, שילוב בינה מלאכותית ומערכות אוטונומיות במלחמה טומן בחובו אתגרים לא מבוטלים ואף סכנות, האתגר הטכנולוגי מודיעיני הראשון הוא איכות המודלים והנתונים: מודלי AI עלולים להכיל הטיות (Bias) הנובעות מנתוני אימון לא מייצגים, במילים פשוטות האלגוריתם עלול "לחשוב" באופן מוטעה ולהעדיף מטרות מסוימות או לפסול אחרות בגלל דגימה שגויה של המציאות. כך למשל, אם מודל זיהוי מטרות אומן על בסיס לחימה בשטח מדברי ביצועיו עלולים להיות ירודים בסביבה עירונית ירוקה היות ו"המוח" שלו לא ראה מספיק דוגמאות רלוונטיות. הטיות כאלה עלולות להוביל לזיהוי שגוי סכנה של ממש כשמדובר בהבחנה בין לוחם אויב לאזרח בלתי מעורב.
אתגר נוסף הוא עמידות המערכות בפני מתקפות סייבר: ברגע שסומכים על AI לקבל החלטות לחימה המערכות הללו נעשות יעד ללוחמת סייבר, היריב יכול לנסות לשבש את פעולתן, להרעיל נתונים (Data Poisoning) או להזין למערכת קלט מטעה. למשל, האקרים יכולים לחדור לרשת חיישנים ולהזרים למערכות האיסוף מידע כוזב שיגרום לה "לראות" איום במקום שאין ובכך לבזבז תחמושת לשווא, בשדה הקרב מתקפת סייבר על מערכות מבוססות בינה מלאכותית היא קריטית ויכולה להטות תוצאות קרב ללא ירייה אחת.
כדי ליצור אמון ורמת סמך שתאפשר שילוב יכולות AI במערכות צבאיות נדרש לבצע תהליכים מורכבים של אימון, בניית רמת סמך ואשרור ((verification & validation של האלגוריתמיקה תוך התבססות על מודלים, סימולציות ותרחישים מרובים וכדי גם ליצור הבנה explainability של האלגוריתמים בכל תרחיש והבנה (XAI) מהי מעטפת התגובות הצפויות.
חזית הפיתוח הטכנולוגי - מ"ענן קרב" ועד נחילי רחפנים בישראל
מדינת ישראל ששואפת תמיד ליתרון איכותי בשדה הקרב נמצאת בעיצומה של מהפכת AI צבאית התעשיות הביטחוניות המקומיות וצה"ל משקיעים משאבים רבים בפיתוח מערכות חכמות ורבים מהפיתוחים מתרחשים ממש כאן וכבר היום ניתן לראות פירות ראשונים של מאמצים אלה. רק לאחרונה חשפה התעשייה האווירית מערכת הגנה אווירית אוטונומית רב שכבתית שנועדה להתמודד עם מתקפת נחילי כטב"מים ורחפנים. מערכת זו, שהודגמה בפני צמרת משרד הביטחון משלבת בינה מלאכותית במערכת השליטה והבקרה שלה כדי לנהל באופן אוטומטי את זירת ההגנה. לב המערכת נמצא במערכת ניהול משימה אוטונומית המשולבת בבינה מלאכותית ולמידת מכונה שמבצעת זיהוי וניתוח איומים בזמן אמת וממליצה למפעילים על שיטת היירוט האופטימלית. למעשה המערכת מסוגלת גם לבצע יירוט ונטרול מטרות באופן אוטונומי, היא סוגרת מעגל מהגילוי ועד הפגיעה, אך עושה זאת תוך כדי השארת האדם בתמונה לפיקוח. המערכת מפעילה מגוון חיישנים (אלקטרואופטיים, מכ"ם וכו') היוצרים תמונה אווירית מקיפה ומצליבה אותם עם מגוון מיירטים ואמצעי שיבוש. כך ניתן לשגר במקביל מספר מיירטים למטרה אחת כדי לוודא פגיעה או להחליט על שילוב לוחמה אלקטרונית (שיבוש) במקום ירי וכל זאת במהירות ובדיוק שרק אוטומציה מאפשרת.
רגולציה ודילמות אתיות - מי לוחץ על ההדק?
המרוץ אחר AI בשדה הקרב מתקדם מהר טכנולוגית אך המסגרת הרגולטורית והאתית מדדות מאחור. נכון להיום בישראל אין חוק או תקנה ספציפית שמסדירים שימוש בכלי נשק אוטונומיים, צה"ל מסתמך על עקרונות הדין הבינלאומי ההומניטרי (דיני מלחמה) והמוסר הצבאי הפנימי אך לא קיימת עדיין רגולציה לאומית ייעודית שמגדירה מה מותר ואסור בתחום הזה. השאלות האתיות כבדות המשקל כבר כאן, דילמות האחריות הן מהבולטות מי יישא באחריות במקרה של טעות קטלנית של AI אם רחפן אוטונומי פוגע בשוגג באזרחים, האם מפתחי האלגוריתם אשמים? המפקד שהוציא אותו למשימה? או שאולי אין כתובת ברורה? המצב כיום בעייתי למערכת הערכים והמשפט. שאלה נוספת: מה רמת האוטונומיה המותרת?
סיכום: לקראת עידן של לחימה חכמה
המציאות בשטח ברורה, הלוחמה המרושתת כבר כאן, הבינה המלאכותית כבר כאן ובגדול ומהפכת שדה הקרב הדיגיטלי צוברת תאוצה ומעצבת מחדש את אופן ניהול המלחמה, שדה הקרב העתידי יכלול בהכרח את כלל הכלים הללו ברמה הגבוהה ביותר, החל מיכולות איסוף ומיזוג מידע מתקדמות, וכלה בשליטה ובקרה ועד קבלת החלטות אוטומטית גם במצבי קיצון הכרוכים בחיי אדם. למעשה, כבר היום פועלות מערכות אוטונומיות מונעות AI בשלל תחומים מרכבים ללא נהג, דרך ניטור רפואי מציל חיים ועד מערכות נשק הגנתיות והתקפיות בלחימה.
האם פירוש הדבר שבעתיד בני האדם יצפו מהצד בעוד מכונות נלחמות במקומם? ספק אם עד כדי כך, המרכיב האנושי יוסיף להיות גורם מכריע בתכנון, בבקרה ובקביעת גבולות הגזרה המוסריים אבל ללא ספק כללי המשחק משתנים, צבאות שישכילו לאמץ בינה מלאכותית באופן מחושב וזהיר יוכלו להשיג יתרון איכותי אדיר, לרבות קצב תגובה מהיר מן היריב, קטלניות מדויקת יותר, פחות נזק אגבי וניצול אופטימלי של הכוחות בשטח.
הכותב הוא תא"ל (מיל') איתן אשל, שירת כר' מו"פ במפא"ת וכיום מכהן כסמנכ"ל טכנולוגיות, מחקר פיתוח וחדשנות (CTO) של IAI
