אנחנו מצויים בראשיתו של שינוי מהותי במערכות המידע והמחשוב בכל העולם. ארגונים וחברות רבות ברחבי העולם בוחנים, או שכבר החלו להשתמש, בכלי בינה מלאכותית (AI) במהלך הפעילות העסקית שלהן. בישראל, מספר ארגונים החלו במהלך 2023 לשלב שימוש בכלי AI, מתוך מטרה לייעל את עבודת החברה ולפתח סט חדש של כלים, שיעמוד לרשות לקוחות החברה.
שימוש בכלי AI ממומש בתחומים הבאים:
פיתוח ושימוש בכלים חדשים לחיפוש ואיתור מידע ממוקד
פיתוח וייעול קטעי קוד לפיתוח תוכנה
כתיבה והכנה של תוכן עסקי/מחקרי
תרגום טקסטים
הפעלת בוטים ומערכות מבוססות AI המסייעים במתן שירותים חדשים ללקוחות
· יצירת תמונות, סרטוני וידיאו וקטעי שמע
בשנים הקרובות, חברות רבות בעולם יפתחו ויאמצו מערכות בינה מלאכותית רבות. המהלך יכלול פיתוחים חדשים, הן לשימוש פנימי והן לפיתוח מערכות ושירותים מקוונים עבור לקוחות החברה. קצב הפיתוח חסר התקדים של כלי AI חדשים, בשילוב עם ההטמעה של כלים אלה בארגונים, מצריך התמודדות ובחינה מתמדת של הסיכון בשילוב כלי AI בארגון.
הגנת סייבר בעידן ה-AI
כלי בינה מלאכותית (AI) המפותחים בארגונים יוצרים סט חדש של איומי סייבר הכוללים איום על נושאים כמו "שמירת הפרטיות", "שמירה על המוניטין", "שמירה על נכסי הליבה של החברה" ו"שמירה והכשרה של כוח האדם בחברה".
בצד ה"תוקף", תוכנות בינה מלאכותית מסייעות ויסייעו לתוקפים בפיתוח נוזקה בזמן קצר, בפיתוח מערכות שיזהו חולשות בפרקי זמן קצרים, בהתחזות ובמשלוח פישינג מתוחכם. ואלה רק חלק מהסיכונים שעימם חברות וארגונים יצטרכו להתמודד בשנים הקרובות.
עובדים בארגונים מתקינים כבר היום מערכות בינה מלאכותית במחשבים בביתם, במחשבי החברה, במחשבים האישיים או במכשירי הסלולר שלהם. דוגמאות למערכות כאלה הן מערכות Chat GPT', Google Bard ו-Bing שמאות אלפי ישראלים כבר משתמשים בהם בכל יום. בישראל הושקו מספר תוכנות בינה מלאכותית שפותחו במיוחד לדוברי עברית, כמו תוכנת התרגום והטקסט WordTune ו-Poly. כלל מערכות ה-AI הללו עלולות לשמש כמשטח תקיפה להאקרים, לחשוף מידע רגיש ולגרום לאיבוד קניין רוחני.
מעגלי האיום והסיכון על ארגונים
אנחנו ממפים שני מעגלי איום מרכזיים שאליהם ארגון צריך להיערך:
1. איומים במעגל הפנימי - איומים שנשקפים לארגון משימוש אקטיבי/פסיבי בכלי AI על ידי העובדים ומערכות המחשוב בארגון. מאחר וארגונים מבינים שהימנעות משימוש בכלי AI משמעו הישארות מאחור, כלים אלה עתידים להיות חלק בלתי נפרד מהעבודה השוטפת של מרבית הארגונים בשנים הקרובות.
2. איומים במעגל החיצוני - איומים חיצוניים שנשקפים לארגון, כמו ניצול כלי AI על ידי תוקפים, על ידי מתחזים, על ידי מתחרים ועל ידי ספקי מערכות ה-AI.
כדאי לזכור בהקשר זה את יתרונות השימוש במערכות AI על ידי האקרים ותוקפים. הופעתן של פלטפורמות כמו FraudGPT ו-WormGPT אשר מתבססות על מודלי שפה גדולים (Large Language Models; LLMs) מהוות שינוי משמעותי ויצירת משטח תקיפה חדש עבור תוקפים. פלטפורמות אלה מאפשרות יצירה של קמפייני הונאה (BEC) מתוחכמים, כמו גם יצירה של תוכן מקצועי עבור תקיפות פישינג. מערכות בינה מלאכותית גם מסייעות ביצירת Deep Fake לטובת שיפור האמינות של מתקפות מבוססות הנדסה חברתית וקמפייני תודעה.
הנה דוגמה לכלי תקיפה מבוסס AI:
כלי תקיפה מבוסס AI בשם Business Invoice Swapper
חברת RSA פרסמה לאחרונה דוח אודות קבוצת פשיעת סייבר בשם GXC Team, אשר מתמחה ביצירת כלים לביצוע הונאות בתחום הבנקאות המקוונת, הונאות במסחר אלקטרוני (e-commerce) והונאות אינטרנט. ראש הקבוצה, אשר פועל תחת הכינוי googleXcoder, הציג בסוף 2023 כלי ניהול ותקיפה חדש, שמשלב בינה מלאכותית, שיצר חשבוניות מזויפות לביצוע הונאות עסקיות.
תיאור הכלי והמחיר המבוקש להפעלתו
ב-30.12.23, קבוצת GXC Team חשפה בערוץ הטלגרם שלה את הגרסה המעודכנת של כלי ה-AI שלה בשם Business Invoice Swapper. הכלי מוצע להשכרה עם "תוכניות מנויים" החל מ-2000 דולר לשבוע, או לחילופין, תשלום חד-פעמי בסך 15,000 דולר עבור גישה בלתי מוגבלת למערכת ההונאות.
המערכת עושה שימוש באלגוריתם שבוחן מיילים בתיבות דואר על מנת לזהות הודעות בהן מוזכרות חשבוניות או כוללות צרופות עם פרטי תשלום. לאחר הזיהוי, הכלי משנה את פרטי הבנק של הנמען המיועד (למשל, ספק של הקורבן) לפרטים שנקבעו על ידי התוקף. לאחר מכן, החשבונית ששונתה מוחלפת בתוך ההודעה המקורית, או נשלחת לרשימת אנשי קשר שנקבעה מראש. במקרים רבים, רואי חשבון ועובדים בחברות המותקפות לא בוחנים באופן מלא את החשבוניות אשר נראות אמיתיות, מה שמוביל לתשלומים ישירות לגנבים בסכומים של מאות מיליוני דולרים בשנה.
הממשק של כלי ה- AI כולל אפשרות לקביעת הגדרות לשליחת מיילים עם החשבוניות שהוא יוצר. בנוסף לכך, הכלי שולח דיווחים לערוץ בקרה וניהול - ערוץ טלגרם ייעודי, המשמש לתקשורת שליטה ובקרה. הערוץ מספק בנוסף פרטים על החשבוניות שנוצרו על ידי הכלי.
על מנת להפעיל את הכלי, התוקף צריך להכניס רשימה של חשבונות מייל לסריקה על ידי המערכת. תהליך זה כולל ציון של פרטי הזדהות כמו קודי העברה בנקאית חדשים - IBAN ו-BIC - אשר ישמשו להונאה על ידי "החלפה" (Swapping) בתוך המסמכים. רוב חשבונות הקורבנות שהותקפו היו מבריטניה ומדינות האיחוד האירופי, ביניהן ספרד, צרפת, פולין, איטליה, גרמניה ושוויץ.
לאחר שרשימת הקורבנות מועבדת, הכלי מתחיל בסריקה של כל חשבון מייל לאיתור חשבוניות פוטנציאליות. המטרה שלו היא לשנות את פרטי הנמען בחשבוניות אלה ולהחליף אותם בפרטים שסופקו על ידי התוקף.
במקרה זה, היוצר של הכלי השתמש באופן אפקטיבי ביכולות הבינה המלאכותית כדי לזהות את החשבוניות שמכילות פרטי תשלום. בנוסף, הכלי תומך בשפות רבות, מה שמאפשר לו לבצע עיבוד של מידע בשפות שונות, מאפיין חשוב במקרה בו החשבוניות כתובות בשפות שונות.
להיערך באופן מיטבי
ההתמודדות עם הונאה מבוססת AI היא קשה יותר. תוקפים שבעבר נדרשו לקרוא מיילים ולנתח אותם, עברו לאוטומציה מלאה בתהליך ההונאה, כאשר רמת הזיוף של המיילים והמקצועיות של המסמכים הנשלחים למותקף קפצה במספר דרגות, הן בשל היכולת של המערכת להתחזות באופן משכנע לכותב המייל והן בשל הנראות המקצועית.
כאן נכנסת לתמונה חברת קלירסקיי היא חברת מודיעין סייבר המתמחה בניטור איומי סייבר מול חברות וארגונים. במהלך 2023 הוקם בחברה צוות ייעודי הבוחן בכל עת את זירת הסייבר מול ישראל ובאופן גלובלי, וכן את האיומים הנוצרים במעגלים הפנימיים והחיצוניים משימוש במערכות AI. מתן תמונת מצב מודיעינית על זירת ה- AI, תוך מעקב וניתוח של תקיפות אלה, יאפשר לארגונים להיערך באופן מיטבי לאיומי הסייבר החדשים.
הכותב הוא מנכ"ל חברת קלירסקיי סייבר סקיוריטיבשיתוף קלירסקיי סייבר סקיוריט
