Deep fake

ההתפחות של טכנולוגיה כיום מאפשרת לנו לממש רעיונות שרק נצפו בסרטי סי-פי בעבר. אחד מההתפתחויות האלו היא טכנולוגיית הדיפ פייק ששינתה את העולם עם האפשרות שלה לחקות בני אדם.

דיפ פייק היא תופעה שבבסיסה עומד זיוף סרטונים על ידי תוכנת מחשב בעלת יכולת למידה עצמית. תוכנה זו, יכולה לנתח הבעות פנים ומראה של בני אדם ולהתאימם לסיטואציות שונות, ובכך לייצר סרטון חדש- בו שתול אדם אחר שכלל לא לקח חלק בעת צילום הסרטון.

איך זה עובד?

התוכנה עובדת על ידי העלאת סרטון אמיתי של אדם – אשר עליו (על תבנית התנועות שלו, הבעות פנים, צורת דיבור ועוד) רוצים לזייף ולהפיק סרטון חדש. בשלב הראשון, התוכנה סורקת ולומדת את תווי פניו ואת אופן הדיבור של הדמות. בשלב השני, היא שותלת את האדם בסרטון החדש והמזויף תוך מציאת קווי דימיון משותפים וטשטוש הפערים, עד לכדי התאמה מושלמת. היות והשימוש בתוכנה לא מצריך ידע טכני רב או ניסיון כלשהו, הפופולריות שלה עצומה. עלייה זו בפופולריות הדאיגה הרבה רשויות חוק בעולם באשר להשלכות הבלתי חוקיות העשויות להיות לה.

הסיבה המביכה יותר לדאגה בקרב הרשויות הייתה שהסרטונים הראשונים שנוצרו בטכנולוגיה זו, היו בעיקר סרטונים בעלי תוכן מיני אשר בתוכם הושתלו סלבריטאים במצבים חושפניים (אשר לא הם ביצעו כמובן). אולם, החשש החמור ביותר אשר התעורר בקרב גורמי אכיפת חוק, היה שהרבה נאומים חשובים של מנהיגים ברחבי העולם זוייפו (כמו לדוגמא נאומו של נשיא ארצות הברית לשעבר ברק אובמה אשר זויף ונראה אותנטי לחלוטין) והושתלו בהם מסרים ואמירות מעוררי מחלוקת - אשר לא נאמרו מעולם.

להלן תמונה של ברק אובמה עם שימוש בתוכנה לעומת בלי:

לאחר שורת זיופים נוספת, החליטו רשויות החוק בארצות הברית לנסות ולפתח כלי לגילוי סירטונים מזוייפים. למרות שהתוכנה כמעט לא משאירה סימני זיהוי, חוקרים מארצות הברית הצליחו לפתח כלי שבעזרת זיהוי קצב לב של הדמות, מזהה האם הסרטון מזוייף או לא. אם קצב הלב לא סדיר משמע שהסרטון מזוייף, ואם קצב הלב הוא סדיר, הסרטון מקורי. כמו כן פותח כלי נוסף הבודק את אופן וכמות מצמוצי העיניים, בדרך לזהות אם הסרטון מקורי או לא.

עוד חברות כמו פייסבוק שוקדות בימים אלה למצוא כלים חדשים משלהן לסינון תוכן מזוייף. הסוכנות הממשלתית האמריקאית DARPA, העוסקת בפיתוחים טכנולוגיים עבור הצבא, כבר החלה לפתח כלים לאיתור סרטונים מזויפים באמצעות מעבדה פורנזית, ובין היתר הכלים שלה מבצעים בדיקה של חוסר עקביות בתאורה על פני המשתמש.

אך גם לא כל שימוש בתוכנה זו הוא לרעה,כמות גדולה של כירואוגרפים משתמשים בתוכנה זו כדי להתאים צעדי ריקוד בסרטונים לפי רצונם.

לסיכום, לתוכנה זו יש יתרונות לא מעטים אך חסרונותיה עולים על יתרונותיה. בעידן שלנו ההתפתחות המואצת של טכנולוגיה עברה את היכולת שלנו להתמודד עם ההשלכות שלה ולכן אנו צריכים לחשוב על ההשפעה שהטכנולוגיה מביאה לעולמינו ואם היא באמת משרתת את הצרכים שלנו או מסכנת אותנו.