דקה לפני הבחירות, הרב עובדיה ממליץ על גנץ

בפנטגון כבר נערכים לאפשרות שסרטוני "דיפ פייק" יטו את הבחירות לנשיאות ב-2020 ומפתחים מערכות שיזהו אותנטיות של סרטוני וידאו ■ האם ייתכן שסרטוני וידאו מזויפים יזהמו את מערכת הבחירות הנוכחית בישראל?

אליחי וידל
אליחי וידל
שתפו כתבה במיילשתפו כתבה במייל
מעבר לטוקבקים
אליחי וידל
אליחי וידל

תתארו לעצמכם את התרחיש הבא: 72 שעות לפני הבחירות, חוסן לישראל של בני גנץ מפגרת בסקרים האחרונים רק 4-3 מנדטים אחרי הליכוד עם בנימין נתניהו. במוצאי שבת מתחיל להתגלגל בטוויטר, בוואטסאפים ובפייסבוק סרטון של הרב עובדיה יוסף זצ"ל, באחד משיעורי הלוויין המפורסמים שלו. בסרטון נראה הרב מרים את עיניו מהספרים שלפניו ופונה לאחד הנוכחים בחדר. "כן, המפקד של הצה"ל הזה, הגבוה, היה אצלי. חכם וערמומי. מכבד דבר תורה", כך נראה ונשמע הרב עובדיה בסרטון אומר לבן שיחו.

בתחתית המסך מצוין תאריך עברי שמתאים לראשית 2012. איכות הסרטון מעולה והסאונד חד וברור - 18 שניות בלבד שגם בצפייה שנייה ושלישית נראות ונשמעות אותנטיות לחלוטין. "מה שמאל? זה שמאל זה? הוא מוסר את עצמו בשביל עם ישראל! הוא נותן לנו ללמוד תורה, להתפלל. בטח… יכול עוד להיות ראש ממשלה. ילכו אחריו הרבה", מסיים הרב עובדיה את דבריו ומיד לאחר מכן מופיעה סיסמה כלשהי שפונה לציבור החרדים להצביע עבור גנץ.

הסרטון הגנוז של הרב עובדיה התומך בגנץ צובר בתוך שעתיים מאות אלפי צפיות, מגיע לכותרות הראשיות של אתרי החדשות וערוצי הטלוויזיה וגורם למהומת אלוהים במערכת הפוליטית. יש מי שמכנה את הסרטון "פייק ניוז", אבל כל הניסיונות לאתר פגמים בעריכת הווידאו והסאונד עולים בתוהו. הקול קול המר"ן והידיים ידי עובדיה. מומחי טכנולוגיה מובהלים לתוכניות הטלוויזיה ומנתחים את הסרטון פריים אחרי פריים - אך לא מצליחים להכריע חד משמעית אם מדובר בקטע אותנטי או בזיוף המושלם. אבל זה כבר לא משנה, כמות משמעותית של מנדטים עוברת בן לילה לצד של גנץ ושוברת את היתרון של נתניהו.

כמובן שכל התרחיש הזה בדוי ולא יכול להתרחש במציאות הפוליטית והטכנולוגית בישראל 2019. או אולי דווקא כן? ייתכן בהחלט שכן, כיוון שכל התנאים בשלים לסרטון מניפולטיבי ומזויף שכזה. גם התנאים הפוליטיים והנואשות של הצדדים (לפחות של אחד מהם) וכמובן שהתנאים הטכנולוגיים. הטכנולוגיה הזאת כבר כאן, זמינה לכל דורש ובמחיר שכל מפלגה, מתמודד או אדם פרטי יכולים לעמוד בו. "דיפ פייק" (Deep Fake - זיוף עמוק) קוראים לתופעה הטכנולוגית של זיוף וידאו, שהיא השלב הבא והמסוכן יותר באבולוציה של מה שכל יוצר ממים ברשת מכיר - "עריכה בפוטושופ".

שילוב של זמינות גדלה והולכת בכלי בינה מלאכותית (AI), אלגוריתמים לזיהוי תווי פנים, מעבדים גרפיים חזקים והרבה מוטיבציה הקפיצו בשנה החולפת את השימוש ביישומי דיפ פייק וכמובן את איכות התוצרים. כמו הרבה טכנולוגיות אחרות גם כאן לתעשיית הפורנו יש חלק בהאצת הפיתוח. הכל התפוצץ לפני כשנה וחצי בעקבות עבודה של משתמש חובבן בעל הכינוי Deep fake שהשתמש באלגוריתם למידה עמוקה (AI) לצורך שילוב בין פנים של שחקניות וזמרות מפורסמות לסרטוני פורנו. בזכות הפופולריות שלה אז כוונדרוומן היתה גל גדות (שלנו) אחד הקורבנות הראשונים לתרמית הוויזואלית. אליה נוספו במהרה רבות וטובות כמו סקרלט ג'והנסון, אמה ווטסון, ג'ניפר אניסטון וטיילור סוויפט שהפכו בן לילה לכוכבות פורנו כשפניהן "הולבשו" על קליפים פופולריים באתרי סקס. מאז ועד היום כבר הועלו לרשת אלפי סרטונים - חלקם באיכות נמוכה, אבל כמה מהם לא היו מביישים את מחלקות העריכה של האולפנים ההוליוודיים הגדולים.

הוויכוח סביב הלגיטימיות של העלאת סרטוני דיפ פייק הגיעה אפילו לאתרי הפורנו והגדולים שבהם מסירים את הסרטונים הערוכים משרתיהם במקרה הטוב ובמקרה הפחות טוב כולאים אותם במדור ייעודי לתכנים מזויפים. ובכל פעם שדיון מסוג זה מתפתח, תמיד נשאלת השאלה: מתי יגיע דיפ פייק גם לפוליטיקה. לא האם ראוי, או האם יגיע - פשוט, מתי זה יגיע. כי לכולם ברור שזאת רק שאלה של זמן והשקעה. אפשר להלביש פנים של אדם בסיטואציה שהוא מעולם לא נכח בה (כמו בסרטוני הפורנו) ואפשר לשים בפיו דברים שמעולם לא אמר. הנעלם היחיד הוא מי יהיה בעל האינטרסים להפיץ סרטון כזה וכמה הוא ישקיע כדי להביא את התוכן לאיכות הווידאו והסאונד שיותירו את המומחים ללא יכולת להגיע למסקנה הנכונה.

פרצופו של השחקן סטיב בושמי על ראיון עם השחקנית ג'ניפר לורנס

ניסיונות להדגים איך תיראה הטכנולוגיה הזאת כשיפעילו אותה על פוליטיקאים כבר לא חסרים. הדוגמה הפופולרית ביותר ואחת הטובות היא סרטון הדגמה של השחקן ג'ורדן פיל שמדבר מגרונו של ברק אובמה שבו נראה הנשיא לשעבר אומר דברים שלעולם לא אמר. תוכנת העריכה התאימה את תנועות השפתיים שלו לדברים שאמר החקיין ההוליוודי שלו וההבדל היחיד הוא שחדי אוזן יוכלו לזהות שמדובר בחיקוי הקול של אובמה. כל שצריך כדי לבצע מניפולציה כזאת הוא כמות גדולה של תמונות של אוביקט הזיוף (מזוויות שונות) וחקיין טוב שלו.

החשש שלקראת הבבחירות הקרובות בארצות הברית, ב-2020, יהיה מי שיתחיל להפיץ סרטוני דיפ פייק בעד או נגד המועמדים לנשיאות, הכניסה אפילו את הפנטגון למירוץ חימוש בטכנולוגיות "אנטי דיפ פייק". סנאטורים משני צדי המתרס הפוליטי הביעו לאחרונה דאגה עמוקה מפני ניסיונות של גורמים זרים להפיק סרטונים מזויפים באיכות גבוהה שישפיעו על הבוחרים האמריקאים. לפני שבועות אחדים פרסם משרד ההגנה האמריקאי אזהרה בנושא ועידכן את הציבור כי מחלקות הטכנולוגיה שלו מנסות בימים אלה לפתח מערכות שיזהו מקוריות של סרטוני וידאו. ההנחה היא שלפיענוח מדויק גם של רכיבי הוידאו וגם של הקול נדרשת השקעה טכנולוגית אדירה ולשם כך אנשי הפיתוח של הפנטגון מתאמנים בעצמם בעריכת סרטוני דיפ פייק.

דונלד טראמפ מעורבב עם מיסטר בין

בוודאי שיקומו הספקנים ויאמרו שבישראל זה לא יכול לקרות ושמיד יהיה מי שיירט את התוכן המזויף כפי שקורה עם כל הפייק ניוז שאנחנו סופגים בחודשים האחרונים בזירה המקומית. אבל ככל שמערכת הבחירות תהיה לוהטת יותר וצמודה יותר, המועמדים עלולים להתפתות ולהשתמש בכלים כאלה כמוצא אחרון. הם יידעו היטב להרחיק את עצמם ממקור הדיפ פייק ויכינו מבעוד מועד אליבי וחשוד אחר להפנות כלפיו את האשמה. איש לא יוכל להאשים אותם, אבל הנזק ייגרם. זה לא מדע בידיוני ולא תעשיית פורנו - יש מועמדים שהבחירות הללו מבחינתם היא לחיות או לחדול וכל האמצעים עומדים לרשותם.

אליחי וידל

אליחי וידל | חדשות הפייק ניוז

פייק ניוז (Fake News) הוא תופעה שנראה כאילו הגיחה לעולם רק כדי שאעקוב אחריה: חיה דיגיטלית שמערבת פוליטיקה מקומית, פוליטיקה בינלאומית, מדיה, קצת אנטרטיינמנט והרבה-הרבה טכנולוגיה. לפני דונלד טראמפ קראו לה ספין תקשורתי ולפני כן צהובוני סופרמרקטים. ההבדל היחיד בין אז להיום הוא שפעם רק למעטים היתה היכולת לחבר ולהפיץ מידע כוזב, והיום בעידן הרשתות החברתיות כל אחד יכול להפוך למכונת ייצור והפצה.

כמומחה תוכן ודיגיטל אנסה בבלוג להאיר את התופעה שמעצבת מחדש את התודעה שלנו מכל הזוויות האפשריות: תקשורתית, חברתית, טכנולוגית ופוליטית.

בשנה האחרונה הייתי העורך הראשי וממקימי ערוץ BLOCKTV שהתמקד בטכנולוגיית בלוקצ'יין ובשוקי מטבעות הקריפטו, ולפני כן מילאתי שורת תפקידי עריכה בכירים בקבוצת הארץ-TheMarker, בהם עורך מדור ההיי-טק, סגן עורך TheMarker וראש מערכת האינטרנט של אתר הארץ. כן, וגם מחזיק תיק "שואו-ביזנס" במדורי הקבוצה.

תגובות

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר TheMarker