L1ght: הסטארט אפ הישראלי שהופך את הרשת לבטוחה יותר

״הטכנולוגיה שפיתחה החברה מנטרת תכנים אלימים ופוגעניים בזמן אמת."בכל יום פה אני מרגישה שאני עוזרת ליצור שינוי אמיתי. העבודה שאנחנו עושים מסייעת להוריד תכני שנאה, לאותת על סכנות, לחסום פדופילים ואפילו לאתר ולעצור אותם", מספרים עובדי החברה

אסף לבנון
תוכן מקודם
שתפו כתבה במיילשתפו כתבה במייל
גאים בעשייה. מימין: אמבר כהן, נגה מינדלין, אלון גור, יעקב שוורצמן ואיתן בראון
אסף לבנון
תוכן מקודם

על פי דו"ח של המועצה הלאומית לשלום הילד, במהלך החודשים מרץ-אוקטובר 2020, בהם משבר הקורונה הורגש ביתר שאת והעולם עבר לסגרים ולריחוק חברתי, מספר דיווחי האירועים למוקד 105 (המטה הלאומי להגנה על ילדים ברשת) עלה ב-63% ביחס לתקופה המקבילה ב-2019. האירועים השכיחים ביותר שדווחו היו איום בהתאבדות, בריונות/ הצקה/ ביוש, שידול והטרדת קטינים ברשת, עבירות מין ברשת ופריצה למחשב. התמונה העגומה הזו חורגת מגבולות ישראל: על פי NCMEC (the National Center for Missing & Exploited Children) בשנת 2020 התקבלו מעל ל-21 מיליון דיווחים על ניצול מיני של ילדים אונליין בצורה כזו או אחרת, עליה של 28% לעומת 2019. רובן המכריע של התלונות דיווחו על תמונות או סרטונים (מעל ל-65 מיליון תכנים בסך הכל). 

בעולם בו הגישה לאינטרנט היא כמעט לא מוגבלת, משימת הפיקוח והניטור על התכנים אליהם נחשפים ילדים ברשת צריכה להתאים את עצמה למציאות החדשה. חברת הסטארט-אפ הישראלית L1ght, פיתחה טכנולוגיה חדשנית שמנטרת ומתריעה על תכנים אלימים ופוגעניים בזמן אמת, מיד עם החשיפה אליהם. "הפתרונות שנוצרו לניטור מהסוג הזה בשנות ה-2000 כבר אינם מתאימים למציאות של ימינו", אומר אבנר סקל, מנכ"ל החברה. האלגוריתמים החכמים שהחברה פיתחה משלבים בינה מלאכותית ולמידת מכונה לזיהוי וניטור של רעילות ברשת כגון בריונות, שיח רעיל  ותכנים פדופילים. "כש-L1ght נוסדה כוונתנו הייתה בעיקר לייצר טכנולוגיות שיגנו על ילדים מסכנות ברשת, אבל מהר מאוד הבנו שבכוחן להגן על כולם: ילדים, בוגרים, גברים, נשים, מיעוטים ואוכלוסיות נוספות'. ה-API שפיתחנו, L1ghtning, הוא ייחודי ומאפשר ניטור של מגוון רב של תופעות רעילות ברשת הן טקסואליות והן חזותיות״.

אחת המשימות המורכבות והחשובות ש-L1ght עוסקת בהן היא זיהוי חומרים פדופיליים ברשת. החברה עושה זאת באמצעות תשתית אלגוריתמיקה ייחודית שפותחה המנטרת חומרים אלה הן על גבי תמונה והן על גבי וידאו. תשתית זאת מאופיינת ביכולתה להשתפר ולהתאים את עצמה לתכנים השונים.במקרה של איתור חומרים בקבצי וידאו, פיתחו מהנדסי החברה טכנולוגיה ייחודית המאפשרת לזהות קטעים פוגעניים ספציפיים בסרט. עבור חלק מחברות התוכן מדובר ב-game changer אמיתי. ״חלק משמעותי  מחברות התוכן הגדולות משתמשות בחברות מודרציה אנושית לסינון תכנים", מסביר רון פורת, אחד ממייסדי  החברה וה-CTO שלה. "הטכנולוגיה שפיתחנו מאפשרת למודרטורים לצפות בשניות ספורות של סרט במקום לצפות באורך מלא וכמו כן מצמצמת משמעותית את האימפקט פסיכולוגי והרגשי עקב חשיפה מרובה לתכנים מסוג זה".

״מעבר לזיהוי התנהגויות אנושיות רעילות סבוכות״, מוסיף אלון גור מפתח בכיר בחברה, ״L1ght מפתחת כיום טכנולוגיה נוספת המסוגלת לנתח התנהגויות המתרחשות בזמן אמת ולהקיש מהן על התנהגויות עתידיות אפשריות. כך לדוגמה, ניתן לזהות טוקבק רעיל ולסייע לעצור את שיח השנאה לפני שיתפתח״. 

גאים לקחת חלק בעשייה

אמבר כהן היא אניליסטית ב-L1ght , ומבין הצעות העבודה שהיו לה היא בחרה בתפקיד המאתגר בו היא עוברת על חומרים בעייתיים שונים ומתייגת אותם כך שהאלגוריתמים של החברה ילמדו לזהותם. מטקסטים בוטים ועד חומרים ויזואליים מיניים - הכל עובר דרכה בכל יום עבודה. "בחרתי להצטרף ל-L1ght מפני שהיה לי מאוד חשוב למצוא עבודה עם תרומה אמיתית לאנשים ומצאתי את המשמעות הזאת כאן", היא אומרת. "לתפקיד שלי יש השפעה ברורה וישירה על מה שקורה ברשת. יכולתי לעבוד בסקטורים אחרים בהיי-טק אבל היכולת להשפיע לטובה על חיי אנשים, להציל ילדים ממש - היא הדבר הכי חשוב וגם מספקת מאוד".

נגה מינדלין, אנליסטית נוספת ב-L1ght מוסיפה:"אין ספק שאני לא עוסקת בתפקיד טריוויאלי. אני מדמה את זה לעבודת תשתית: במהלך השנים פיתחו את האינטרנט אבל שכחו לפתח עבורו מערכת ביוב - וכתוצאה מופץ חולי, אנשים נפגעים ואפילו מתים מזה. L1ght הביאה לרשת טכנולוגיית ניקוז מתקדמת, מנקה את הזוהמה ומצילה את המשתמשים. אני ממש גאה לקחת בזה חלק".

בגישה דומה מחזיק יעקב שוורצמן. כאדם חרדי הוא מתבלט בסביבת הסטארט-אפ של L1ght, אך כשמגלים שהוא אב לשמונה ילדים ושבמהלך חייו גידלו הוא ואשתו מעל לעשרה ילדי אומנה – אפשר להבין מדוע הוא רואה חשיבות רבה ושליחות של ממש בעבודה על הגנת ילדים ברשת. "העבודה שלי היא לבצע אינטגרציה של הטכנולוגיות שלנו לפלטפורמות גדולות וכך להביא את האלגוריתמיקה המתוחכמת של החברה עד לקצה, לשיא היכולת לזהות את הבעיות והסכנות, וכך לאפשר ללקוחותינו ליצור סביבה בטוחה יותר". במסגרת תפקידו, יעקב רואה את ההשפעה המעשית של מוצר החברה על הסביבה, כשהוא עובד מול רשויות אכיפה בארצות הברית ומתאים להן את הפתרונות הטכנולוגיים של L1ght. "היו מקרים בהם עבדנו מול הרשויות בצורה הדוקה. המידע שסיפקנו סייע לבצע מעצרים של פדופילים ואפילו הובלנו לכך ש- 120 אלף פדופילים הורדו מוואטסאפ. תפקיד כזה הוא נדיר ממש ביכולתו לבצע תיקון עולם אמיתי, לראות אותו קורה מול עיניך, בין השאר בזכותך".

צורך שוק גובר 

בארצות הברית, ילדים בגילאי 8-12 חשופים למסכים במשך 4-6 שעות ביום, בעוד שמתבגרים מבלים עד 9 שעות ביום מול המחשב, הטלוויזיה, קונסולת המשחקים, או בטלפון הנייד. 

"כולם מבלים יותר זמן מול המסכים והתוצאה היא התפוצצות של חומרים בעייתיים ברשת", מסביר סקל. "כשמסתכלים על תחזית הגידול בפלטפורמות גיימינג - שפעמים רבות הן כר נרחב להעלת תכני גולשים רעילים - ברור שהבעיה רק תחמיר. אם ב-2015 היו בעולם כמעט שני מיליארד גיימרים, עד שנת 2023 המספר צפוי לעלות על שלושה מיליארד. כל התעשייה מתמודדת עכשיו עם סוגיות של Trust & Safety בכמות הולכת וגדלה ובחוסר בכלים. חברות מודרציה רבות החלו לעבוד איתנו בתקופה הזאת. כשאנחנו רואים דבר כזה קורה אנחנו גאים במיוחד על כך שפיתחנו את האלגוריתמיקה הטובה ביותר בעולם לזיהוי פדופיליה ושאר תכנים זדוניים. העסק עדיין לא פתור לחלוטין, היכולת לזהות תכנים מסוג זה ת מורכבת - אבל אנחנו כל הזמן מתקדמים.

מה מניע חברות לפנות לשירותים שלכם?
"כפי שפעם ארגונים לא הבינו את הכרחיות הפיירוול והיום ברור שאי אפשר להדליק שרת בלעדיו - כך כיום פלטפורמות תוכן מבינות את החובה לסנן תכנים רעילים. כשלקוח המבין את הצורך מגיע אלינו, אנחנו מבקשים ממנו להגדיר את רמת הרעילות איתה הוא יכול לחיות. כך אנחנו מבינים מה עלינו להוציא ובאילו דרכים ואז מחברים ומגדירים את המערכות שלנו כך שיפתרו את בעיית הלקוח תוך מציאת האיזון הנכון בין איכות, דיוק ו-Cost Effectiveness. העבודה שלנו מורכבת מכל צדדיה, אבל בזכות איכות הצוות והמקצוענות שלו - אנחנו מצליחים ויוצרים את ההשפעה העולמית ששמנו לנו למטרה לייצר עם ייסודה של החברה".

מעבר לאתר>>