בסרטון שפורסם לאחרונה, מה שנראה כברט קוואנו מתוח מדבר בפני חברי הקונגרס של ארצות הברית. "הגיע הזמן ליישר את השיא", הוא מתחיל. במהלך הדקות הקרובות, מודה שופט בית המשפט העליון כי ייתכן שביצע תקיפה מינית ומביע חרטה על הדרך שבה הגיב להאשמות של כריסטין בלייזי פורד בכתביו עֵד. "על כך אני לוקח אחריות ומתנצל".
העניין הוא שהסצנה הזו לא אמיתית. הצילומים מעובדים, וקוואנו מעולם לא אמר את הדברים האלה.
תוכן
- זיוף עמוק עד שתצליח
- יותר מממים ומידע מוטעה
- מטה את הכף
מה אם לברט קוואנו היה עושה חשבון נפש? | קופסת אוכל אינסופית
במציאות, קוואנו הכחיש והתעלם מהאישומים וגילם את הקורבן. הסרטון המתואר לעיל הוא מסדרת קליפים מדוייקים המדמיינים עתיד שבו הציבור מפלג דמויות כמו קוואנו, אלכס ג'ונס ומארק צוקרברג לוקחים אחריות על העבר שלהם עבירות.
סרטונים מומלצים
הסדרה, בשם חישובים עמוקים, הוא פרי יצירתה של סטפני לפ - אמנית שמטרתה לעורר שינוי חיובי בעולם על ידי מינוף טכנולוגיית Deepfake כדי לעזור לאנשים לראות ולדמיין גרסאות טובות יותר של עצמם.
זה פרויקט נשגב וקצת מופשט, אבל לפ לא לבד במאמציה. היא חלק מליגה צומחת של יוצרים שמטרתה להשתמש בטכנולוגיית Deepfake כדי לעשות טוב.
זיוף עמוק עד שתצליח
ל-Deepfakes היה מסע שנוי במחלוקת עד כה. נעשה שימוש נרחב בטכנולוגיה למטרות מרושעות כמו יצירת פורנוגרפיה וקמפיינים של דיסאינפורמציה, מה שהביא אותו לביקורת נוקבת מצד ממשלות וחברות טכנולוגיה החוששות מהטכנולוגיה נשק.
"בהתחשב בכך שהרוב המכריע של הזיופים העמוקים הם מרושעים באופיים, מובן שהתמקדנו בנשק שלהם", אומר לפ. "אבל המיקוד הזה מנע מאיתנו לממש את הפוטנציאל הפרו-חברתי שלהם. באופן ספציפי, ניתן להשתמש בזיופים עמוקים למטרות של חינוך, בריאות ושינוי חברתי".
היא טוענת כי, בדומה לאופן שבו נעשה שימוש במציאות מדומה כדי לעזור לחולים להתאושש מפציעות מוחיות על ידי נותנים להם אינטראקציה עם זיכרונות וירטואליים, ניתן להשתמש בזיופים עמוקים לריפוי פסיכולוגי בטראומה קורבנות. לדוגמה, דמיינו תרחיש שבו רופאים יכולים לתסריט זיופים עמוקים של העצמי העתידי המפוכח של מכור ולהשתמש בזה כדי לעודד אותם בנתיב ההחלמה.
הרעיון, לפחות בתיאוריה, הוא נכון. ג'ונתן גרץ', מנהל מחקר אנושי וירטואלי במכון לטכנולוגיות יצירתיות של אוניברסיטת דרום קליפורניה, גילתה שלראות את עצמך ב-VR יכול להיות מאוד מעורר מוטיבציה, ושאותו מושג יכול להיות מיושם בקלות על זיוף עמוק מִדָה. הוא מציע שאם פניו של מטופל היו מעורבבים בעדינות בפניו של הרופא, סביר יותר שהמטופל ימלא אחר עצתו של הרופא.
יותר מממים ומידע מוטעה
למרות העובדה שיישומים שליליים של זיופים עמוקים נוטים לקבל יותר תשומת לב, יישומים חיוביים כמו של לפ נמצאים במגמת עלייה. במהלך השנים האחרונות, הטכנולוגיה הופיעה בתחומי הסיפור, פרויקטים פרו-חברתיים ועוד.
Project Revoice: עוזר למייסד אתגר דלי הקרח הזה להחזיר את קולו מ-ALS
של איגוד ה-ALS Project Revoice, למשל, מאפשר לחולי טרשת צדדית אמיוטרופית שאיבדו את יכולת הדיבור שלהם להמשיך להשתמש בקול שלהם. אֵיך? על ידי שימוש בזיופים עמוקים ליצירת רצועות ווקאליות סינתטיות מותאמות אישית שניתן לנגן לפי דרישה עם לוח סאונד.
בפרויקט נפרד מהארגון ללא מטרות רווח נגד מלריה מלריה חייבת למות, הספורטאי הסלבריטאי דייוויד בקהאם העביר מסר בתשע שפות (וקולות) שונים הודות לאודיו ווידאו מזויפים שגרמו לשפתיו להתאים למילים.
דיוויד בקהאם דובר תשע שפות כדי להשיק את המלריה Must Die Voice Petition
בקמפיין בולט במיוחד ממוקדמות יותר בשנת 2020, ה המרכז לווירטואליות מתקדמת של המכון הטכנולוגי של מסצ'וסטס ביקש ללמד את הציבור על מידע מוטעה על ידי הפקת זיוף עמוק של נשיא ארה"ב לשעבר ריצ'רד מ. ניקסון נשא את נאום המגירה שנכתב ב-1969 למקרה שצוות אפולו 11 לא יוכל לחזור מהירח.
סוגים אלה של הודעות שירות ציבורי וקמפיינים למודעות הם רק קצה הקרחון. כלי Deepfake עזרו גם לפשט תהליכים בתעשיית הבידור מאשר אחרת דורשים ציוד מתקדם ומשאבים גוזלים זמן, כגון ביטול הזדקנות, שיבוט קול ועוד הרבה יותר. כל פרצוף בא קליפ מוזיקה אחרון של The Strokes היה מזויף, למשל, כך שחברי הלהקה בני ה-40 בערך נראים כאילו הם בני 20.
אוהד פריד, מרצה בכיר למדעי המחשב במרכז הבינתחומי הרצליה, אומר כי הודות לזיופים עמוקים, "מה שלקח בעבר שנים של זמן אמן יכול כעת להיות מושג על ידי קטן עצמאי אולפנים. אלו תמיד חדשות טובות לגיוון ולאיכות המדיה שאנו צורכים".
מטה את הכף
למרות זאת, הפוטנציאל של טכנולוגיית deepfake לגרום נזק - במיוחד כשהיא הופכת נגישה יותר - נותרה דאגה. אביב עובדיה, מייסד פרויקט טכנולוגיה מתחשב, מסכים שליכולת ליצור מדיה סינתטית יכולה להיות "הרבה חיוביים השפעות, לסיפור סיפורים, לאנשים עם מוגבלויות, ועל ידי מתן אפשרות לתקשורת חלקה יותר בין השפות". אבל באותו זמן, הוא מזהיר שעדיין יש הרבה מקום לנזק כאשר הטכנולוגיה הופכת למיינסטרים והרבה עבודה שצריך לעשות כדי למזער אותם סיכונים.
"אפילו מקרי שימוש חיוביים אלה יכולים להוביל ללא כוונה לנזק אמיתי ומשמעותי", אמר ל-Digital Trends. "גם קטעים מיצירות אמנות המנסות ליצור אמפתיה יכולים להילקח מהקשרם ולעשות בהם שימוש לרעה."
"המטרה צריכה להיות לבנות את הטכנולוגיה הזו בצורה שתפחית את ההשפעות השליליות הללו ככל האפשר."
מומחים נשמעו שוב ושוב בצופר לתיעול משאבים נוספים לתוכניות איתור והנחיות אתיקה רשמיות - אם כי התערבות משפטית עלולה בסופו של דבר לפגוע בחופש הביטוי. אבל אף אחד לא ממש בטוח עדיין לאיזה כיוון הזיופים העמוקים ייקחו בסופו של דבר. כמו כל טכנולוגיה מתפתחת, תהיה נקודה שבה זיופים עמוקים יגיעו לאיזון ואחריות ייפול על חברות טכנולוגיה, קובעי מדיניות ויוצרים כדי להבטיח שהכף יישארו נוטה לצד הטוב.
עובדיה מציעה גם להגביל את הנגישות של כלי Deepfake להמונים עד שהחוקרים יוכלו "להשלים כמה מהביצורים שאנו צריכים כדי להגן על החברה שלנו מפני השלילי הפוטנציאלי השפעות. המטרה צריכה להיות לבנות את הטכנולוגיה הזו באופן שיפחית את ההשפעות השליליות הללו ככל האפשר לכל הפחות."
עם זאת, לעת עתה, לפ תבלה את זמנה בהתמקדות בגיבורה המזויף העמוק הבא שלה: דונלד טראמפ ונאום הוויתור שלו.
המלצות עורכים
- פרסי Tech For Change של Digital Trends CES 2023
- מגע אחרון: כיצד מדענים נותנים לרובוטים חוש מישוש דמוי אנוש
- הסוללה החדשה של יבמ עשויה להתעלות על ליתיום-יון, והיא אינה משתמשת במינרלים מתנגשים
- מחכים בכנפיים: איך מזל"טים מחוללים מהפכה בקרב נגד הרעב
- סטאלון ב-Terminator 2? איך קונדס מזויף אחד משנה את ההיסטוריה של הקולנוע
