דיפ־פייק בלי פאניקה: איך נוצרים סרטונים מזויפים ואיך אפשר לזהות אותם
טכנולוגיה שהתחילה באולפני האפקטים של הוליווד זמינה היום לכל אחד. איך עובד זיוף וידאו וקול, מה הסימנים המחשידים ואיך מתגוננים מהונאות.
סרטון שבו פוליטיקאי אומר דבר שמעולם לא אמר. הודעה קולית מהבת שמבקשת העברה דחופה של כסף. שחקן שמופיע בסרט חדש כשהוא צעיר בשלושים שנה. מאחורי שלושת המקרים עומדת אותה משפחה של טכנולוגיות, שזכתה לכינוי דיפ־פייק: שימוש בבינה מלאכותית כדי ליצור או לשנות וידאו, תמונה וקול באופן שנראה ונשמע אמיתי. מה שדרש פעם אולפן אפקטים ותקציב הוליוודי נעשה היום באפליקציה, וזה משנה את הכללים לכולנו. כדי להתגונן לא צריך להיות מומחים, אבל כן כדאי להבין איך זה עובד.
מה זה דיפ־פייק ואיך הוא נוצר
המונח מחבר בין ״למידה עמוקה״, ענף של בינה מלאכותית, לבין ״זיוף״. העיקרון פשוט להסבר: מערכת ממוחשבת לומדת מתוך כמות גדולה של תמונות, סרטונים או הקלטות כיצד נראים ונשמעים פנים וקול של אדם, ואז מסוגלת לייצר אותם מחדש במצבים שלא היו מעולם. ככל שיש יותר חומר לימוד, התוצאה משכנעת יותר, ולכן אנשים מפורסמים, שיש מהם אינספור צילומים, היו הראשונים להיפגע.
יש כמה סוגים עיקריים. החלפת פנים מלבישה פנים של אדם אחד על גוף של אחר. סנכרון שפתיים משנה את תנועות הפה בסרטון קיים כך שיתאימו לפסקול חדש. שכפול קול מייצר דיבור בקולו של אדם על סמך דגימה קצרה, לעתים של שניות בודדות. ובשנים האחרונות נוספו מחוללי וידאו שיוצרים סצנות שלמות מתיאור כתוב, בלי שום צילום מקורי.
מהאולפן ההוליוודי אל הטלפון
חשוב לומר שהטכנולוגיה עצמה אינה רעה. תעשיית הקולנוע משתמשת בה כדי להצעיר שחקנים בסצנות פלאשבק, להשלים תפקיד של שחקן שלא יכול היה לסיים את הצילומים, או להתאים את תנועות השפתיים לגרסה מדובבת בשפה אחרת. בתעשייה מתנהל ויכוח ער על הגבולות: מי הבעלים של דמותו וקולו של שחקן, והאם מותר להשתמש בהם ללא הסכמתו או אחרי מותו.
הבעיה מתחילה כשאותם כלים יוצאים מהאולפן. היום כל אחד יכול להפיק זיוף סביר בעזרת טלפון, ואת התוצאות רואים בכמה תחומים: הונאות כספיות, הפצת מידע כוזב סביב אירועים חדשותיים ובחירות, ופגיעה באנשים פרטיים באמצעות תמונות וסרטונים מפוברקים בעלי אופי מיני. האחרון הוא מהפוגעניים שבהם, והוא מכוון ברובו נגד נשים ונערות.
ההונאות שכדאי להכיר
התרחיש המוכר ביותר הוא הונאת הקרוב במצוקה: שיחה או הודעה קולית שנשמעת בדיוק כמו בן משפחה, ומספרת על תאונה, מעצר או טלפון שאבד, עם בקשה דחופה לכסף. די בסרטון קצר שהועלה לרשת חברתית כדי לשכפל קול. בגרסה העסקית, עובד מקבל הנחיה מהמנהל, לעתים אפילו בשיחת וידאו, להעביר תשלום לחשבון חדש.
המשותף לכל ההונאות האלה הוא הדחיפות. הנוכלים מנסים למנוע מכם לעצור ולחשוב. ההגנה היעילה ביותר אינה טכנולוגית: לנתק, ולחזור אל האדם במספר שאתם מכירים. משפחות רבות מאמצות גם מילת קוד, מילה שסוכמה מראש בין בני הבית ושאותה מבקשים בכל פנייה חריגה שמערבת כסף. זה נשמע מוגזם עד הפעם הראשונה שבה זה מציל את החיסכון של סבתא.
הסימנים המחשידים בסרטון
זיופים רבים עדיין מסגירים את עצמם למי שמתבונן היטב. כדאי לשים לב לפרטים הבאים:
- קו המתאר של הפנים, השיער והאוזניים: טשטוש, ריצוד או גבול לא טבעי בין הפנים לרקע.
- הפה והשיניים: תנועות שפתיים שאינן מסונכרנות במדויק עם הקול, או שיניים שנראות כגוש אחיד.
- תאורה וצללים שאינם תואמים את שאר הסצנה, והשתקפויות מוזרות במשקפיים.
- ידיים, תכשיטים וכיתוב ברקע, שמחוללי וידאו עדיין מתקשים בהם.
- קול שטוח, בלי נשימות והיסוסים טבעיים, או רעשי רקע שנחתכים בפתאומיות.
ועם זאת, צריך לומר ביושר: הסימנים האלה הולכים ונעלמים. כל דור של כלים מתקן את הפגמים של קודמו, וזיוף איכותי קשה מאוד לזיהוי בעין. לכן אסור להסתמך רק על המראה.
לבדוק את ההקשר, לא רק את הפיקסלים
השאלות החשובות באמת הן עיתונאיות, לא טכניות. מי פרסם את הסרטון, והאם זה חשבון מוכר ואמין? האם כלי תקשורת מבוססים מדווחים על אותו אירוע? האם קיימת גרסה ארוכה יותר, שממנה נחתך הקטע? חיפוש תמונה הפוך של פריים מתוך הסרטון מגלה לעתים שמדובר בצילום ישן שהוצמד לו הקשר חדש. וכשתוכן מעורר בכם זעם או התרגשות עזה במיוחד, זה בדיוק הרגע לעצור לפני שמשתפים.
במקביל מתפתחים פתרונות טכנולוגיים. חברות טכנולוגיה, יצרניות מצלמות וגופי תקשורת מקדמים תקן של תעודת מקור דיגיטלית, שמצמידה לקובץ מידע מאומת על האופן שבו נוצר ונערך, וחלק מהמחוללים מטביעים בתוצרים סימן מים סמוי. גם הרשתות החברתיות החלו לסמן תוכן שנוצר בבינה מלאכותית. אלה צעדים חשובים, אבל הם חלקיים, ואינם מחליפים שיקול דעת.
מה עושים אם נפגעתם
מי שמגלה שמופץ סרטון או תמונה מזויפים שלו צריך לפעול מהר ובקור רוח. ראשית, לתעד: צילומי מסך, קישורים ותאריכים, לפני שהתוכן נמחק. שנית, לדווח לפלטפורמה שבה התוכן פורסם, שכן ברוב הרשתות קיים מסלול ייעודי להסרת תוכן מתחזה או אינטימי. שלישית, לפנות למשטרה, ובמקרים המתאימים להתייעץ עם עורך דין שמתמחה בתחום, משום שהפצת תוכן פוגעני מסוג זה עשויה להוות עבירה ועילה לתביעה.
כשמדובר בילדים ובבני נוער, החשוב מכול הוא שיידעו שאפשר לפנות להורים בלי לחשוש מהאשמה. לרשות המשפחות עומד גם המוקד הלאומי להגנה על ילדים ברשת, שמרכז טיפול בפגיעות מהסוג הזה. שיחה מוקדמת בבית, עוד לפני שקרה משהו, היא ההגנה הטובה ביותר.
העידן שבו ״ראיתי בעיניים שלי״ היה הוכחה מספקת הסתיים. זה אינו אומר שצריך לחשוד בכל דבר, אלא שכדאי לאמץ הרגל פשוט: לעצור, לבדוק את המקור ולאמת בערוץ נוסף לפני שמאמינים, משתפים או מעבירים כסף. מי שמבין איך הזיוף נעשה מתקשה הרבה יותר ליפול בו.