האם ידעת שאתה יכול ליצור סרטון דיפ זיוף מהנוחות של הבית שלך, או בטלפון שלך? הורד את אחת משפע האפליקציות להחלפת פנים או Deepfake הזמינות כלאחר יד מחנות האפליקציות המקומית שלך וגם אתה יכול להשפיע על בחירות.
תוכן
- עתיד התקשורת
- נשק של זיופים עמוקים
בסדר, לא ממש, ואנחנו בהחלט לא תומכים בזה. אבל בהייפ ובדאגה מסביב זיוף עמוק הטכנולוגיה, והשימוש לרעה האמיתי שלה, האמת הפשוטה היא שהטכנולוגיה הזו לא נעלמת. למעשה, זה הולך להיות נפוץ כמו פוטושופ, במיוחד אם מפתחי האפליקציות עובדים עליהם לטכנולוגיית deepfake יש מה לומר על זה: בקרוב נוכל לראות מודעות ממוקדות יתר עם הפנים שלנו אוֹתָם.
סרטונים מומלצים
רומן Mogylnyi, מנכ"ל RefaceAI, סטארט-אפ שבסיסו באוקראינה, אמר שהם עובדים עם למידת מכונה מאז 2011, והחלו לייצור אפליקציות משלהם המבוססות על טכנולוגיית Deepfake ב-2014. RefaceAI כבר הוציאה אפליקציית photo-deepfake בשם Reflect, והיא על סף שחרור גם אפליקציית וידאו-deepfake משלהם, כמו גם שירות אינטרנט שיעזור לזהות סרטוני deepfake.
קָשׁוּר
- פרשנות מבוססת בינה מלאכותית מגיעה לווימבלדון בחודש הבא
- מחשב העל של Nvidia עשוי להביא עידן חדש של ChatGPT
- פרסי Tech For Change של Digital Trends CES 2023
"ראינו כבר מההתחלה שהטכנולוגיה הזו מנוצלת לרעה", אמר מוגילני. "חשבנו שנוכל לעשות את זה טוב יותר."
RefaceAI Deepfake Technology | אנחנו נרקוד
RefaceAI כבר עבדה עם כמה חברות הפקת סרטים - אם כי מוגילני לא ידעה לומר אילו מהם - כדי להשתמש בטכנולוגיה שלה כדי להחליף את פרצופים של שחקנים על כפילי גוף, במחיר הרבה פחות ממה שהיה להטיס את השחקנים בחזרה להגדיר ולצלם מחדש את הסצנות שְׁאֵלָה. זה, אמר מוגילני, הוא מה שהחברה רואה כעתיד של זיופים עמוקים. "אנחנו רוצים להשתמש בו לשיווק, להתאמה אישית של מודעות, לגיפים, לחומרי בידור בכלל", אמר.
עתיד התקשורת
RefaceAI היא לא החברה שמנסה להקדים את עקומת השיווק הבלתי נמנעת הזו. Carica, אפליקציה שבסיסה מדרום קוריאה, מפתחת גם קובצי GIF וסרטונים מזויפים עמוקים שבהם אדם יכול להשתיל את פניו ב-GIF תגובה פופולרי כדי לשלוח לחברים ובני משפחה. האפליקציה כבר כוללת פרסומות קופצות המשלבות את פניו של המשתמש בתמונה או בסרטון המודעה.
"אנחנו רוצים שהחברה שלנו תהפוך לחברת מדיה", אמר מהנדס קאריקה ג'וזף ג'אנג ל-Digital Trends. זיופים עמוקים הם בדיוק הדרך שבה הם מתחילים. "אני חושב שחברות מדיה יתחילו לאמץ את התכונה הזו. זה יהפוך לאופציה שיש לך, בדיוק כמו א לְסַנֵן. זה יהפוך להיות כל כך נורמלי עבור אנשים".
גם ג'אנג וגם מוג'ילני השתמשו בהתפשטות הפוטושופ כמודל לאן הם רואים את ה-Deepfakes הולך: כל כך נפוץ עד שהוא בלתי ראוי לציון, אם עדיין קצת שנוי במחלוקת. ולגבי שניהם, הבעיות הפוליטיות והאתיות העטופים בזיופים עמוקים הם באמת רק ניהול.
שמיר אללבאי, מנכ"ל פלטפורמת זיהוי הזיופים העמוקים Amber Video, אמר ל-Digital Trends שהשקפת העליונה שלו הייתה שטכנולוגיית ה-deepfake, כמו רוב סוגי הטכנולוגיה האחרים, היא לא מוסרית.
"זה יהיה כמו להגיד ש-Microsoft Word הוא לא מוסרי, הוא רע כי טרוריסטים פוטנציאליים ישתמשו בו."
"זה יהיה כמו להגיד ש-Microsoft Word הוא לא מוסרי, הוא רע כי טרוריסטים פוטנציאליים ישתמשו בזה דוגל באידיאולוגיה אלימה, קיצונית, שתיתן השראה לאחרים לדגל אידיאולוגיה קיצונית אלימה", הוא אמר. "אני מאוד רואה את הטכנולוגיה הזו באותה צורה."
Amber Video היא פלטפורמה שמפרסמת את שירותיה כלוחמה בזיופים עמוקים כדי "למנוע הונאה, אובדן מוניטין וחוסר אמון של בעלי עניין". אללבאי אמר שהוא לא יודע אם הוא מוכן לקנות משהו רק בגלל שהפנים שלו היו עליו, אבל הוא הסכים שבסופו של דבר, הטכנולוגיה תהיה מִתפַּשֵׁט.
"זו מראה לחברה", אמר. "אתה רואה את זה בטכנולוגיות כמו פלטפורמת טוויטר. אתה רואה את הטוב ביותר של האנושות ואת הגרוע ביותר מאיתנו. טכנולוגיית Deepfake גם תשקף את החברה. יש אנשים שישתמשו בזה לסאטירה קלילה ויצחקו על משטרים אוטוריטריים. אבל ננסה גם לתפור כאוס”.
נשק של זיופים עמוקים
הפחד הגדול ביותר נותר מההתעללות הפוטנציאלית והנשק של זיופים עמוקים. ככל שהם הופכים נפוצים יותר, יכולנו אפילו לראות אותם נפרסים לא רק עבור קמפיינים רחבי היקף של דיסאינפורמציה, אלא לבדיחות מעשיות או בריונות בתיכון. אם הטכנולוגיה מספיק נגישה, כל אחד יכול להשתמש בה.
גם Carica וגם RefaceAI אמרו שהם נוקטים בצעדים כדי לצמצם ניצול לרעה פוטנציאלי - RefaceAI עם שירות האינטרנט שלה לגילוי זיופים עמוקים, ו-Carica עם מנהלי תוכן. כל חברת קאריקה היא רק תשעה אנשים כרגע, אמר ג'אנג, והם מחליפים את חובות ניהול התוכן.
"אפילו פוטושופ יכול ושימשה לבריונות. אבל מצד שני, אנחנו מספקים תרופה נגד".
"זו באמת הייתה השאלה הראשונה ששאלנו את עצמנו", אמר Mogylnyi של RefaceAI. "אנחנו מתמודדים עם זה במונחים של שערוריות פוליטיות באוקראינה במשך שנים. אנו מבינים שניתן לעשות שימוש לרעה בטכנולוגיה שלנו. אפילו פוטושופ יכול ושימשה לבריונות. אבל מצד שני, אנחנו מספקים תרופה נגד זה. יש לנו משתמשים העלו תוכן מיני לאפליקציה שלנו, ואסמנו את המשתמשים האלה מיד".
Carica היא אפליקציה קטנה מספיק שזה מה שהם צריכים לעבוד איתו כרגע. אבל בסך הכל, ג'אנג לא היה מודאג.
"זה קורה עם כל הטכנולוגיה החדשה", אמר ג'אנג. "ראשית, זה מונע על ידי שימוש לרעה, אבל לאחר השלב הזה, זה הופך זמין לכולם ואנשים משתמשים בו לדברים רגילים."
המלצות עורכים
- רובוטי אבטחה יכולים להגיע לבית ספר קרוב אליך
- אמזון פורסת AI כדי לסכם ביקורות על מוצרים
- אמזון מתכננת שינויים 'פעם בדור' עבור חיפוש, כך מגלה מודעת דרושים
- מחשב המיני Jetson Orin Nano של Nvidia בשווי 200 דולר מהיר פי 80 מהגרסה הקודמת
- Google Smart Canvas מקבל אינטגרציה עמוקה יותר בין אפליקציות
