מסוכן. זו היתה תגובתו של בן ה-14 שלי, אחרי שצפה בסרטון שבו נראה לכאורה, יו"ר יש עתיד יאיר לפיד, קורא לשותפות פוליטית יהודית-ערבית, ומבטיח למנות שני שרים ערבים בכירים, במידה שירכיב את הממשלה הבאה.
"מסוכן ברמות", הוא חיזק את דבריו.
הסרטון מבוסס על טכנולוגיית דיפ-פייק, שמאפשרת "הלבשת" דמות על שחקן בצורה מאוד מדויקת, עד שקשה לזהות שלא מדובר במקור. ברשת הסתובבו גרסאות שונות של הסרטון, חלקן עם גילוי נאות כבר בתחילתו ולכל אורכו כפי שהבאנו כאן, וחלקן עם חשיפת הזיוף רק בסופו. הצופים בסרטונים שעושים שימוש בטכנולוגיה הזו, אולי יחושו שמשהו אינו מדויק עד הסוף, ואולי עשויים לחשוד שיש פה איזו מניפולציה, אך עדיין עלולים להאמין שמדובר בדבר האמיתי. הסרטון זוכה לתגובות סוערות מאז שעלה, ויש הטוענים שמדובר בצעד אחד רחוק מדי בלגיטימציה שמקבלת תרבות השקר.
נשאלת השאלה – האמנם? האם שקרים בפוליטיקה הם עניין חדש? האם באמת יש כאן עליית מדרגה בתעשיית השקר? האם משהו, בחוסר היכולת שלנו להאמין למה שאומרים לנו נציגי הציבור, באמת השתנה עם הטכנולוגיה הזו?
"כפי שאני רואה את זה, הסכנות בשימוש בטכנולוגיה לא חדשות" אומר עו"ד יהונתן קלינגר, מומחה בזכויות דיגיטלית "כבר שנים יש זיופים של תעמולה מצד מפלגות, והתוספת של סרטוני הוידאו היא רק עוד שכבה מעבר למה שאנחנו מכירים: פלייארים מזויפים, מסרונים מזויפים והתחזות לסקרים. כל תעמולת הבחירות בישראל מבוססת על שקרים מצד כל המפלגות, והטכנולוגיה היא רק עוד כלי. בישראל הבעיה היא העדר האכיפה" מוסיף קליגר, "כשמפלגת השלטון מפרה את דיני התעמולה פעם אחר פעם ואף אחד לא נענש על כך בצורה רצינית אז ברור לנו שהתעמולה השקרית תמשיך".
לדברי קלינגר אין חשש לטשטוש מוחלט של הגבול בין מציאות לשקר. "צריך להבין שטכנולוגיית DeepFake מורכבת משתי שכבות נפרדות. הראשונה היא הוידאו, שבה הטכנולוגיה נמצאת במקום מעולה, והשנייה היא האודיו. למרות שקיימות תוכנות כבר היום שמצליחות לייצר אודיו מפוברק, עדיין ברוב הסרטונים משתמשים בחקיין. כלומר, ניתן להבין ולאתר מתי הסרטון מפוברק, גם כאשר יש סטיות באודיו וגם כאשר רואים את הוידאו".
קלינגר סבור שהסכנה האמיתית בחציית כל הגבולות בין אמת לשקר, טמונה דווקא בעולם האודיו, ההקלטות, ולא בסרטוני וידאו שלועגים למועמדים. "מה שאני מעריך שיכול לקרות זה שימוש דווקא בזיוף האודיו, או בחקיינים, כדי לשגר הודעות מוקלטות לשלל אזרחים בישראל, למשל, על פרישה מהמרוץ ביום הבחירות כדי לעודד הצבעה למפלגה מסוימת. תחשבי על מאות שיחות בקולו של נפתלי בנט שאומר "אנחנו רואים שאנחנו מגרדים את אחוז החסימה, פרשנו מהמרוץ, תצביעו ליכוד". זה הרבה יותר מסוכן מכל סרטון כזה או אחר שלועג למועמד".
אנחנו עשינו שימוש אחראי
מאחורי הסרטון עומדת יוזמת 'האם ראית את האופק לאחרונה?' שאנשיה שואפים להציג לציבור זוויות הסתכלות חדשות על הסכסוך הערבי ישראלי. הסרטון נעשה במסגרת קמפיין חדש תחת הסלוגן 'שותפים לגורל, שותפים לממשל' שקורא למנהיגי השמאל-מרכז לקדם שותפות פוליטית יהודית ערבית. "מטרת הקמפיין היא להזכיר ששינוי מתחיל באומץ לדמיין", אומרת שיר נוסצקי, מייסדת 'האם ראית את האופק לאחרונה', "הסרטון הראשון בסדרה פונה ללפיד, שהיה בין אלה שהאמינו שהגיע הזמן להפסיק את החרם ההיסטורי ולהקים ממשלה בתמיכת הח"כים הערבים. עכשיו הגיע הזמן לגלות מנהיגות וללכת צעד נוסף קדימה".
לגבי השאלה האתית על השימוש בדיפ-פייק אומרת נוסצקי שהשימוש שלהם בטכנולוגיה לא בא להטעות ושאין בסרט ניסיון לרמות את הצופה, להיפך. "חשוב להגיד קודם כל שאנחנו לא המצאנו את הטכנולוגיה הזו" היא אומרת, "זו טכנולוגיה קיימת ומי שרוצה להשתמש בה כדי להונות אנשים יכול לעשות את זה איתנו או בלעדינו. השימוש שאנחנו עשינו בטכנולוגיה הוא שימוש אחראי, שבא ומראה איך מראש אנחנו מציינים שזה דיפ-פייק, גם בהתחלה וגם לאורכו. וגם בסופו של דבר המסר של הסרטון הוא -'זה לא ככה, אבל זה יכול להיות ככה'".
נוסצקי סבורה שהחשיפה לסרטון שלהם אף תתרום למיגור תרבות השקר, מעצם העובדה שהוא חשף אנשים לטכנולוגיה ויידע אותם על קיומה. ובכך, אולי יהיו מודעים יותר. "אחד הדברים שבלטו בפידבקים שקיבלנו, זו ההתלהבות והתדהמה של אנשים מאיכות הטכנולוגיה ומכמה שהתוצאה אמינה. אנשים רבים בכלל לא ידעו שהטכנולוגיה הזו קיימת ולמעשה המפגש שלהם עם הסרט שלנו היה המפגש הראשון שלהם עם טכנולוגיית דיפ פייק. יש בעצם משהו בסרטון שלנו שהוא גם מחנך ציבורית, שמצביע על קיומה של הטכנולוגיה הזו. יכול להיות שבסרטים אחרים לא יגלו לכם, כמו שאנחנו עשינו, שזה פייק. סרטונים כאלה יגיעו לאנשים בכל מקרה, גם מגורמים בעייתיים שיעשו בזה שימוש שקרי, בלי להצהיר שזה זיוף. הלוואי שכל אדם שייחשף לטכנולוגיה הזו לראשונה" אומרת נוסצקי "ייחשף קודם כל דרך שימוש אחראי כמו שאנחנו עשינו".
אבל אתם לא חוששים שזה מסוכן מדי? שזה מדרון חלקלק?
"בסוף הכל עניין של רגולציה. בגלל שהטכנולוגיה הזו התקדמה כל כך מהר אז אין עדיין רגולציה. השימוש מותר ואין הגבלה לגבי 'איך' צריך להשתמש בה. בעיני זה תמיד הסיפור. כמו עם מכוניות – הן דבר מסוכן, אך מצד שני הן מאפשרות גם דברים טובים, אז לא נוציא את השימוש בהן מהחוק, אלא נייצר חוקים איך צריך לנהוג, בצורה שתמזער את הנזק הפוטנציאלי. אותו דבר כאן".
"יותר מזה", מוסיפה נוסצקי "הקמפיין שלנו נותן בעצם הדגמה איך הרגולטור יכול להתייחס לטכנולוגיה הזו. למשל להחליט שכל שימוש בדיפ-פייק יחוייב בהצהרה שקופה וברורה שמדובר בזיוף. כולנו היינו רק מרוויחים מזה. וכאן אני מרגישה ממש בנוח, לא רק עם הקמפיין שלנו במובן הפוליטי, אלא בהקשר של הדיפ-פייק עצמו.
איך התגובות שקיבלתם?
"בשוליים היו תגובות שביקרו את השימוש בטכנולוגיית דיפ פייק. אבל רוב התגובות היו חיוביות, במנעד מגוון. הרבה תגובות נפעמות מאיכות הטכנולוגיה וכמה אמיתי זה נראה, וגם המון תגובות שמתייחסות לתוכן עצמו ולמסר של הסרטון. גם מצביעי שמאל-מרכז שקוראים ללפיד לעשות את הצעד הזה וגם תגובות מאוד נרגשות מהרחוב הערבי, של אזרחים ערבים שהתרגשו מהפניה הזו, ואמרו שגם אם לפיד עדיין לא אמר את הדברים מרגש לראות שיש אנשים בצד היהודי שככה רואים אותנו, כשותפים אמיתיים – גם אזרחית וגם פוליטית. כמו כן, עלתה בתגובות תקווה גדולה שבאמת לפיד יאמץ את האג'נדה הזו, ולא רק הוא, אלא כל מנהיגי השמאל-מרכז".
"מניפולציות על מסרים פוליטיים נעשות כל הזמן", מסכמת נוסצקי "והשימוש שאנחנו עשינו הוא כל כך לא מניפולטיבי ואומר את הדברים כמו שהם ובא כדי להעביר מסר כל כך חשוב, של שוויון. אני שואלת את עצמי למה זה ההיבט שבוחרים להתעסק בו בקמפיין הזה".
