Опасни ли са Deepfakes? Създателите и регулаторите не са съгласни

През последните няколко години, deepfakes се очертаха като най-новото решение в интернет за мемета и пародийно съдържание.

Лесно е да разберете защо: те позволяват на творците да променят правилата на реалността, както никоя друга технология досега. Чрез магията на deepfakes можете да гледате Дженифър Лорънс изнася реч в лицето на Стив Бушеми, виж какво Райън Рейнолдс би изглеждал като Уили Уонка, и дори улов Хитлер и Сталин пеятВидеото уби радио звездата в дует.

За непосветените технологията deepfake е форма на синтетична медия, която позволява на потребителите да наслагват различно лице върху лицето на някой друг по начин, който е почти неразличим от оригинала. Той прави това чрез четене на купища данни, за да разбере контурите на лицето и други характеристики, за да го смеси естествено и да го анимира в сцената.

На този етап вероятно сте попадали на такива клипове в платформи като TikTok (където хаштагът „#deepfake“ има около 200 милиона гледания), YouTube и другаде. Независимо дали е за изпълнение на фен фикшън и повторете сцени със звезди те желаят филмът първоначално да е хвърлил или поставил мъртъв човек в модерен, вирусен мем, deepfakes са възприети като творчески изход за цели, които преди са били почти невъзможни.

Промяната породи лига от нови създатели като Ctrl Shift Лице, чиито дълбоко фалшиви видеоклипове редовно привличат милиони гледания и често са основна тема на дискусии в късно вечерни токшоута.

„Това е изцяло нов начин за правене на забавни видеоклипове в интернет или за разказване на истории, каквито не сме виждали досега“, казва базираният в Холандия творец зад хита „Отмъстителите от Оз” deepfake клип, който поиска истинското му име да не се използва. „Това е красива комбинация от очарование за ИИ. технология и хумор.”

Но има надвиснал риск, който заплашва изцяло бъдещето на дълбоките фалшиви технологии: опетнената й репутация.

С голямата мощност идва страхотната възможност за препоставяне

За съжаление, в допълнение към техния потенциал като творчески инструмент за добронамерени видео артисти, deepfakes също носят огромен потенциал да навредят.

Скорошно проучване на Dawes Center for Future Crime към UCL Jill Dando Institute of Security and Crime Science определи deepfakes като най-сериозната заплаха, активирана от AI. Сен. Бен Сасе, републиканец от Небраска, който представи законопроект за криминализиране на злонамереното създаване на deepfakes, предупреден миналата година, че технологията може да „унищожи човешки животи“, „разбие финансовите пазари“ и дори „да предизвика военни конфликти по света“.

До известна степен тези опасения са справедливи. В края на краищата, разпространението на технологията deepfake вече даде възможност за неща като производството на фалшиво съдържание за възрастни с участието на знаменитости и реалистични имитации на политици за сатира. По-рано тази година Дан Скавино, директор на социалните медии в Белия дом, туитна зле манипулиран клип, който също беше ретуитнат от президента Доналд Тръмп, на съперника на Тръмп Джо Байдън, който моли хората да преизберат Тръмп.

Тези не толкова убедителни измами обаче бързо бяха развенчани, преди да достигнат до масите. По-важното е, че експертите предполагат, че дълбоко фалшивите видеоклипове досега са имали малко или никакво въздействие върху обществото и че в момента не представляват непосредствена заплаха. Например изследване, проведено от чувствителност, фирма за киберсигурност, фокусирана върху визуални заплахи, твърди, че по-голямата част от дълбоко фалшивите видеоклипове са порнографски (96%) и че технологията все още не си е проправила път към значима дезинформация кампании.

По същия начин, a Доклад на Джорджтаунския университет заключи, че докато deepfakes са „впечатляващо техническо постижение“, политиците не трябва да прибързват рекламата, тъй като технологията не е перфектна в момента и не може да повлияе на събитията от реалния свят още.

Създателят зад най-популярния deepfake канал Ctrl Shift Face, чиито видеоклипове се гледат от милиони, смята, че "истерията" обикалянето около темата за deepfake отклонява вниманието на законодателите от истинските проблеми, като например лошо регулираната реклама мрежите са включени Facebook които всъщност са отговорни за подвеждането на хората.

„Ако някога има вреден deepfake, Facebook е мястото, където ще се разпространи“, каза Ctrl Shift Face в интервю за Digital Trends. „В такъв случай какъв е по-големият проблем? Средата или платформата?“

Собственикът на BabyZone, канал за игри в YouTube с над половин милион абонати, който често фалшифицира знаменитости във видеоклипове игри, изразява подобна загриженост: „Мисля, че deepfakes е технология като всички останали съществуващи технологии. Те могат да бъдат използвани за добри и за лоши цели.

Движението за спасяване на deepfakes

През последните година или две, докато правителствата и технологичните компании проучват потенциалните рискове от това технология, поддръжниците на deepfake се бориха да разсеят тези опасения и да коригират обществеността на технологията изображение. Reddit общности които се стремят да „коригират тази стигма“ се появиха и някои независими изследователи активно изграждат системи, които могат да разпознават дълбоки фалшификати, преди да станат вирусни.

Роман Могилни, главен изпълнителен директор и съосновател на Reface, хитово приложение, което ви позволява бързо да сменяте лицето си във всеки GIF, казва, че неговият стартъп сега разработва инструмент за откриване, който може да разбере дали видеоклипът е направен с този на Reface технология. „Ние вярваме, че широкият достъп до синтезирани медийни инструменти като нашия ще увеличи съпричастността на човечеството и creativit и ще помогне да се промени възприемането на технологията към по-добро“, каза Могилни пред Digital Тенденции.

Еран Даган, основател и главен изпълнителен директор на Botika, стартъпът зад популярното приложение за смяна на лица Jiggy, има подобна перспектива към deepfakes и вярва, че когато станат все по-масови, „хората ще бъдат много по-наясно с тяхната положителна употреба случаи.”

Като се имат предвид потенциалните опасности от дълбоките фалшификати обаче, вероятно е Конгресът в крайна сметка да се намеси. Основни технологични платформи включително Facebook, Twitter и YouTube вече са актуализирали своите политики, за да маркират или премахват манипулирани медии, които са предназначени да подвеждат. Множество държави като Калифорния и Ню Йорк приеха законопроекти, които ще наказват създателите на умишлено измамни deepfakes, както и такива, пуснати без съгласието на лицето, чието лице е използвано.

Трябва ли deepfakes да се регулира?

Въпреки че тези правила изключват пародийно съдържание, експертите, опасявайки се от неправилно дефинирани закони или пълна забрана на технологията, все още вярват, че Конгресът трябва да стои настрана от това и да остави дълбоките фалшификати да вървят по естествения път, по който върви всяка нова форма на медиите през.

Дейвид Грийн, директор по гражданските свободи във Electronic Frontier Foundation, казва, че „всеки опит на Конгреса да регулират дълбоки фалшификати или наистина всеки вид визуална комуникация ще бъде регулиране на речта и ще замеси Първия Изменение.

Тези закони, добавя Грийн, трябва да бъдат точни и трябва - в добре дефинирани и лесно разбираеми термини - да адресират вредата, която се опитват да намалят. „Това, което видяхме досега... регулаторните опити на държавно ниво са неясни и прекалено широки закони, които нямат точността, която изисква Първата поправка. Те нямат задължителни изключения за пародия и политически коментари.

Джорджо Патрини, главен изпълнителен директор на Sensity, намира забраната за алгоритми и софтуер за „безсмислена в ерата на интернет“. Патрини сравнява тази главоблъсканица със зловреден софтуер защита и как е почти невъзможно да се сложи край на всички компютърни вируси или техните автори, така че е по-добре просто да инвестирате в механизми против зловреден софтуер вместо. „Обществото трябва да изгради нови механизми за сертифициране на това, на което може да се вярва, и как да предотврати отрицателното въздействие на синтетичното съдържание върху хората и организациите“, каза той.

Тим Уанг пише в доклада на Джорджтаунския университет, че с комерсиализацията на инструменти за дълбоки фалшиви технологии, технологията за откриване и филтриране това автоматично ще се развие и ще стане по-точно - като по този начин неутрализира способността им да представят всякакви сериозни заплахи.

Microsoft наскоро пусна инструмент за откриване на deepfake, например, анализира видеоклиповете, за да ви предложи оценка на доверието, която показва колко вероятно е видеоклипът да е бил модифициран.

„Deepfakes са нова форма на медийна манипулация, но не за първи път сме изправени пред подобен тип предизвикателство. Проучваме и инвестираме в начини за справяне със синтетичните медии“, каза говорител на YouTube.

Изследователите зад CtrlShiftLab, усъвършенстван софтуер за създаване на deepfake, който използват много потребители на YouTube, включително Ctrl Shift Face, вече е също работи към проекти с отворен код за повишаване на осведомеността и изграждане на по-цялостно откриване услуги.

„Единственият начин да се предотврати това [deepfake злоупотреба] е да се създаде проект с отворен код, свързан с deepfake, и да се привлече вниманието на обществеността. Така че обществените потребители на мрежата могат да разберат, че съществуват дълбоки фалшификации“, каза Кунлин Лиу, един от изследователите на CtrlShiftLab, пред Digital Trends.

Няколко създатели на дълбоки фалшификати Digital Trends разговаряха да останат оптимисти и да намерят отблъскването на страните срещу дълбоките фалшиви фалшификации за преждевременно. Те са съгласни, че нарастващата роля на deepfake в мемовете и пародийната култура ще бъде инструмент за поправянето на лошата репутация на тази нововъзникваща технология. И докато видеоклиповете имат отказ от отговорност и платформите инвестират в по-ефективни слоеве за откриване, добавиха те, deepfakes са тук, за да останат.

„Мисля, че репутацията на deepfakes се подобрява значително. Преди две години думата deepfake автоматично означаваше порно“, каза създателят на Ctrl Shift Face. „Сега повечето хора познават deepfakes поради тези забавни видеоклипове, които циркулират из интернет.“

Препоръки на редакторите

• Награди Tech For Change на CES 2023 на Digital Trends
• В забавния проект Gucciberg, дълбоко фалшив Gucci Mane чете класически романи
• Как артисти и активисти използват deepfakes като сила за добро
• Twitter се забранява на дълбоките фалшиви съобщения, които „причиняват вреда“ преди изборите през 2020 г
• Калифорния се бори с дълбоките фалшификати за политика и порно