האם Deepfakes מסוכן? היוצרים והרגולטורים אינם מסכימים

במהלך השנים האחרונות, זיופים עמוקים התגלו כנקודת המוצא האחרונה של האינטרנט עבור ממים ותוכן פארודי.

קל להבין מדוע: הם מאפשרים ליוצרים לכופף את כללי המציאות כמו שום טכנולוגיה אחרת. דרך הקסם של זיופים עמוקים, אתה יכול לצפות ג'ניפר לורנס נשאה נאום דרך פניו של סטיב בושמי, לראות מה ריאן ריינולדס היה נראה כמו ווילי וונקה, ואפילו לתפוס היטלר וסטלין שריםהסרטון הרג את כוכב הרדיו בדואט.

עבור חסרי התחלה, טכנולוגיה עמוקה מזויפת היא סוג של מדיה סינתטית המאפשרת למשתמשים להטביע פנים אחרות על פני מישהו אחר בצורה שכמעט ואינה ניתנת להבדלה מהמקור. הוא עושה זאת על ידי קריאת ערימות של נתונים כדי להבין את קווי המתאר של הפנים ומאפיינים אחרים כדי למזג ולהחיות אותם באופן טבעי בסצנה.

בשלב זה, סביר להניח שנתקלתם בקליפים כאלה בפלטפורמות כמו TikTok (בהן להאשטאג "#deepfake" יש כ-200 מיליון צפיות), YouTube ומקומות אחרים. בין אם זה להגשים ספרות מעריצים ו מחדש סצנות עם כוכבים הם רוצים שהסרט במקור ליהק או הכניס אדם מת למם מודרני ויראלי, זיופים עמוקים אומצו כמוצא יצירתי למטרות שבעבר היו כמעט בלתי אפשריות.

השינוי הוליד ליגה של יוצרים חדשים כמו Ctrl Shift Face, שהסרטונים המזויפים שלו מושכים באופן קבוע מיליוני צפיות ולעיתים קרובות הם נושא הדיון העיקרי בתוכניות אירוח בשעות הלילה המאוחרות.

"זו דרך חדשה לגמרי ליצור סרטוני אינטרנט מצחיקים, או לספר סיפורים כמו שמעולם לא ראינו", אומר היוצר בהולנד מאחורי הלהיט "הנוקמים מארץ עוץ” קליפ deepfake שביקש שלא ישתמשו בשמו האמיתי. "זה שילוב יפה של קסם עבור A.I. טכנולוגיה והומור".

אבל יש סיכון שמאיים לחלוטין על עתיד טכנולוגיית Deepfake: המוניטין המזוהם שלה.

עם עוצמה גדולה מגיעה יכולת מחדש נהדרת

לרוע המזל, בנוסף לפוטנציאל שלהם ככלי יצירתי לאמני וידאו בעלי כוונות טובות, לזיופים עמוקים יש גם פוטנציאל אדיר להזיק.

לאחרונה מחקר של מרכז דאוס לפשע עתידי במכון UCL ג'יל דנדו לביטחון ומדעי הפשע התייג Deep Fakes כאיום המותאם A.I. סנטור בן סאסה, רפובליקני מברסקן שהציג הצעת חוק להפללת יצירה זדונית של זיופים עמוקים, הזהיר בשנה שעברה שהטכנולוגיה עלולה "להרוס חיי אדם", "להרעיד את השווקים הפיננסיים", ואפילו "לדרבן סכסוכים צבאיים ברחבי העולם".

במידה מסוימת, החששות הללו הוגנים. אחרי הכל, התפשטות טכנולוגיית ה-deepfake כבר אפשרה דברים כמו ייצור של תוכן מזויף למבוגרים בהשתתפות סלבריטאים, והתחזות לפוליטיקאים כמו סאטירה. מוקדם יותר השנה, דן סקווינו, מנהל המדיה החברתית של הבית הלבן, צייץ בטוויטר קליפ עם מניפולציות גרועות, שגם צויץ מחדש על ידי הנשיא דונלד טראמפ, של יריבו של טראמפ, ג'ו ביידן, המבקש מאנשים לבחור מחדש בטראמפ.

עם זאת, המתיחות הפחות משכנעות הללו הופרכו במהירות לפני שהגיעו להמונים. חשוב מכך, מומחים טוענים כי לסרטונים מזויפים עמוקים הייתה עד כה השפעה חברתית מועטה עד ללא, וכי הם אינם מהווים כרגע איומים קרובים. לדוגמה, מחקר שנערך על ידי רגישות, חברת אבטחת סייבר המתמקדת באיומים חזותיים, טוענת כי הרוב המכריע של סרטוני ה-Deep Bike הם פורנוגרפיה (96%) וכי הטכנולוגיה טרם עשתה את דרכה לשום דיסאינפורמציה משמעותית מסעות פרסום.

באופן דומה, א דו"ח אוניברסיטת ג'ורג'טאון הגיע למסקנה שלמרות שזיופים עמוקים הם "הישג טכני מרשים", קובעי המדיניות לא צריכים למהר ההייפ מכיוון שהטכנולוגיה אינה מושלמת כרגע ואינה יכולה להשפיע רק על אירועים בעולם האמיתי עדיין.

היוצר מאחורי ערוץ deepfake הפופולרי ביותר Ctrl Shift Face, שהסרטונים שלו נצפים על ידי מיליונים, מאמין ב"היסטריה" החג סביב הנושא הזיוף העמוק מסיט את תשומת הלב של המחוקקים מהנושאים האמיתיים, כמו המודעה הפגומה רשתות פועלות פייסבוק שבעצם אחראים להטעיית אנשים.

"אם אי פעם יהיה זיוף עמוק מזיק, פייסבוק היא המקום שבו היא תתפשט", אמר Ctrl Shift Face בראיון ל-Digital Trends. "במקרה כזה, מה הבעיה הגדולה יותר? המדיום או הפלטפורמה?"

הבעלים של BabyZone, ערוץ משחקי יוטיוב עם יותר מחצי מיליון מנויים שלעתים קרובות מזייף סלבריטאים לווידאו משחקים, מהדהד דאגה דומה: "אני חושב שזיופים עמוקים הם טכנולוגיה כמו כל שאר הטכנולוגיה הקיימת טכנולוגיות. ניתן להשתמש בהם למטרות טובות ולמטרות רעות".

התנועה להצלת זיופים עמוקים

במהלך השנה-שנתיים האחרונות, כאשר ממשלות וחברות טכנולוגיה חוקרים את הסיכונים הפוטנציאליים של זה טכנולוגיה, תומכי deepfake נרתעו כדי להפיג את החששות הללו ולתקן את הציבור של הטכנולוגיה תמונה. קהילות Reddit שמבקשים "להתאים את הסטיגמה הזו" צצו, וכמה חוקרים עצמאיים בונים באופן פעיל מערכות שיכולות לזהות זיופים עמוקים לפני שהם הופכים לוויראליים.

רומן מוג'ילני, מנכ"ל ומייסד שותף של Reface, אפליקציית להיט המאפשרת לך להחליף את הפנים שלך במהירות לכל GIF, אומר שהסטארט-אפ שלו מפתח כעת כלי זיהוי שיכול לדעת אם נוצר סרטון עם Reface's טֶכנוֹלוֹגִיָה. "אנו מאמינים שגישה רחבה לכלי מדיה מסונתזים כמו שלנו תגביר את האמפתיה של האנושות ו יצירתיות, ויעזור לשנות את תפיסת הטכנולוגיה לטובה", אמר Mogylnyi לדיגיטל טרנדים.

לערן דגן, מייסד ומנכ"ל Botika, הסטארט-אפ מאחורי אפליקציית החלפת הפנים הפופולרית Jiggy, יש תפיסה דומה כלפי זיופים עמוקים ומאמינים ככל שהם הופכים למיינסטרים יותר, "אנשים יהיו מודעים הרבה יותר לשימוש החיובי שלהם מקרים."

בהתחשב בסכנות הפוטנציאליות של זיופים עמוקים, עם זאת, סביר להניח שהקונגרס יתערב בסופו של דבר. פלטפורמות טכנולוגיות מרכזיות כולל פייסבוק, טוויטר ויוטיוב כבר עדכנו את המדיניות שלהם כדי לסמן או להסיר מדיה שעברה מניפולציות שנועדה להטעות. מספר מדינות כמו קליפורניה וניו יורק העבירו הצעות חוק שיענישו יצרנים של זיופים עמוקים מטעים בכוונה, כמו גם כאלה ששוחררו ללא הסכמת האדם שבפניו נעשה שימוש.

האם יש להסדיר את הזיופים העמוקים?

בעוד שמדיניות זו אינה כוללת תוכן פרודי, מומחים, מחשש לחוקים לא מוגדרים או איסור מוחלט על הטכנולוגיה, עדיין מאמינים שהקונגרס צריך להישאר מחוץ לזה ולתת לזיופים עמוקים לנהל את המסלול הטבעי של כל צורה חדשה של תקשורת דרך.

דיוויד גרין, מנהל חירויות האזרח ב-Electronic Frontier Foundation, אומר "כל ניסיון של הקונגרס לעשות זאת לווסת זיופים עמוקים או באמת כל סוג של תקשורת חזותית תהיה ויסות של דיבור ותערב את הראשון תיקון.

החוקים האלה, מוסיף גרין, צריכים להיות מדויקים וחייבים - במונחים מוגדרים היטב ומובנים היטב - לטפל בנזק שהם מנסים לצמצם. "מה שראינו עד כה... ניסיונות רגולטוריים ברמת המדינה הם חוקים מעורפלים ורחבים מדי שאין להם את הדיוק שהתיקון הראשון דורש. לא היו להם חריגים נדרשים לפרודיה ולפרשנות פוליטית".

ג'ורג'יו פטריני, מנכ"ל Sensity, מצא כי איסור על אלגוריתמים ותוכנות "חסר משמעות בעידן האינטרנט". פטריני משווה את החידה הזו עם תוכנות זדוניות הגנה וכיצד כמעט בלתי אפשרי לשים קץ לכל וירוסי המחשב או המחברים שלהם, אז עדיף פשוט להשקיע במנגנונים נגד תוכנות זדוניות במקום זאת. "החברה צריכה לבנות מנגנונים חדשים לאשר על מה ניתן לסמוך, וכיצד למנוע את ההשפעות השליליות של תוכן סינתטי על אנשים וארגונים", אמר.

טים וואנג כתב בדו"ח של אוניברסיטת ג'ורג'טאון שעם השילוב של כלים מזויפים עמוקים, הטכנולוגיה לזיהוי וסינון כתוצאה מכך זה יתפתח באופן אוטומטי ויהפוך מדויק יותר - ובכך ינטרל את היכולת שלהם להציג כל איומים.

כלי זיהוי הזיופים העמוקים של מיקרוסופט שהושק לאחרונה, למשל, מנתח את הסרטונים כדי להציע לך ציון ביטחון המצביע על מידת הסבירות שהסרטון השתנה.

"זיופים עמוקים הם צורה חדשה של מניפולציה תקשורתית, אבל לא הפעם הראשונה שאנחנו מתמודדים עם סוג זה של אתגר. אנו בוחנים ומשקיעים בדרכים לטפל במדיה סינתטית", אמר דובר יוטיוב.

החוקרים מאחורי CtrlShiftLab, תוכנה מתקדמת ליצירת Deepfake שמשתמשים ביוטיוברים רבים כולל Ctrl Shift Face, כעת פועל גם למען פרויקטים בקוד פתוח כדי להעלות את המודעות ולבנות זיהוי מקיף יותר שירותים.

"הדרך היחידה למנוע [התעללות בזיוף עמוק] זה היא להקים פרויקט שקשור לזיוף עמוק בקוד פתוח ולמשוך את תשומת הלב של הציבור. אז גולשי רשת ציבוריים יכולים להבין שקיימים זיופים עמוקים", אמר קונלין ליו, אחד החוקרים של CtrlShiftLab, ל-Digital Trends.

כמה יוצרי Deepfake Digital Trends שוחחו איתם להישאר אופטימיים ולמצוא את הדחיפה של מדינות נגד deepfake מוקדם מדי. הם מסכימים שהתפקיד ההולך וגדל של deepfake בממים ובתרבות הפארודית יהיה מכריע בתיקון המוניטין המחורבן של הטכנולוגיה המתהווה הזו. וכל עוד לסרטונים יש כתבי ויתור ופלטפורמות משקיעות בשכבות זיהוי יעילות יותר, הם הוסיפו, זיופים עמוקים כאן כדי להישאר.

"אני חושב שהמוניטין של זיופים עמוקים משתפר משמעותית. לפני שנתיים, המילה deepfake פירושה אוטומטית פורנו", אמר היוצר של Ctrl Shift Face. "עכשיו, רוב האנשים מכירים זיופים עמוקים בגלל הסרטונים המשעשעים האלה שמסתובבים באינטרנט."

המלצות עורכים

• פרסי Tech For Change של Digital Trends CES 2023
• בפרוייקט גוצ'יברג המצחיק, גוצ'י מאנה מדושן קורא רומנים קלאסיים
• כיצד אמנים ופעילים משתמשים בזיופים עמוקים ככוח לטוב
• טוויטר פועלת לאסור זיופים עמוקים ש'גורמים נזק' לפני הבחירות ב-2020
• קליפורניה פועלת נגד זיופים עמוקים לפוליטיקה ופורנו