Да ли су Деепфакес опасни? Креатори и регулатори се не слажу

У последњих неколико година, деепфакес појавили су се као најновији интернет који се користи за мемове и пародијске садржаје.

Лако је схватити зашто: они омогућавају креаторима да погреше правила стварности као ниједна друга технологија пре. Кроз магију деепфакеса, можете гледати Џенифер Лоренс држи говор кроз лице Стива Бушемија, види шта Рајан Рејнолдс би изгледао као Вили Вонка, па чак и ухватити Хитлер и Стаљин певајуВидео је убио радио звезду у дуету.

За неупућене, деепфаке технологија је облик синтетичког медија који омогућава корисницима да наметну другачије лице на туђе на начин који се скоро не разликује од оригинала. То чини читањем гомиле података да би разумео контуре лица и друге карактеристике како би се природно уклопио и анимирао у сцену.

У овом тренутку, вероватно сте наишли на такве клипове на платформама као што су ТикТок (где хасхтаг „#деепфаке“ има око 200 милиона прегледа), ИоуТубе и другде. Било да се ради о испуњавању фанфикција и поновите сцене са звездама желе да је филм првобитно поставио или ставио мртву особу у модеран, вирални мем, деепфакес су усвојени као креативни излаз за сврхе које су раније биле скоро немогуће.

Промена је изнедрила лигу нових креатора попут Цтрл Схифт Фаце, чији деепфаке видео снимци редовно привлаче милионе прегледа и често су главна тема разговора у касним емисијама.

„То је потпуно нови начин прављења смешних интернет видеа или причања прича какве никада раније нисмо видели“, каже холандски креатор који стоји иза хита „Осветници из Оза” деепфаке снимак који је тражио да се његово право име не користи. „То је прелепа комбинација фасцинације за А.И. технологија и хумор.”

Али постоји ризик који се прети који уопште прети будућности деепфаке технологије: њена нарушена репутација.

Са великом снагом долази и велика могућност поновног објављивања

Нажалост, поред свог потенцијала као креативног алата за добронамерне видео уметнике, деепфакес такође имају огроман потенцијал да нанесу штету.

Недавна студија Давес центра за будући злочин на УЦЛ Јилл Дандо институту за безбедност и науку о криминалу означио деепфакес као најозбиљнију претњу са омогућеном АИ. Сен. Бен Сассе, републиканац из Небраскана који је представио закон којим се криминализује злонамерно креирање деепфакеса, упозорио прошле године да би технологија могла да „уништи људске животе“, „уздрма финансијска тржишта“, па чак и „подстакне војне сукобе широм света“.

У извесној мери, ове забринутости су праведне. На крају крајева, пролиферација деепфаке технологије је већ омогућила ствари попут производње лажног садржаја за одрасле са познатим личностима и реалистичног имитирања политичара ради сатире. Раније ове године, Дан Сцавино, директор друштвених медија Беле куће, твитовао лоше манипулисан снимак, који је такође ретвитовао председник Доналд Трамп, Трамповог ривала Џоа Бајдена који тражи од људи да поново изаберу Трампа.

Међутим, ове мање убедљиве преваре брзо су разоткривене пре него што су доспеле до маса. Што је још важније, стручњаци сугеришу да су дубоки лажни видео снимци до сада имали мали или никакав друштвени утицај и да тренутно не представљају никакву непосредну претњу. На пример, истраживање које је спровео Сенсити, фирма за сајбер безбедност фокусирана на визуелне претње, тврди да је велика већина деепфаке видео снимака порнографски (96%) и да технологија тек треба да пробије пут до било какве значајније дезинформације кампање.

Слично, а Извештај Универзитета Џорџтаун закључио је да иако су деепфакес „импресиван технички подвиг“, креатори политике не би требало да журе са њима Хипе јер технологија тренутно није савршена и не може само да утиче на догађаје у стварном свету ипак.

Творац који стоји иза најпопуларнијег деепфаке канала Цтрл Схифт Фаце, чије видео снимке гледају милиони, верује у „хистерију“ кружење око дубоке лажне теме скреће пажњу законодаваца са стварних питања, као што је лоше регулисан оглас мреже укључене Фејсбук који су заправо одговорни за обмањивање људи.

„Ако икада буде штетног деепфаке-а, Фејсбук је место где ће се он проширити“, рекао је Цтрл Схифт Фаце у интервјуу за Дигитал Трендс. „У том случају, шта је веће питање? Медијум или платформа?"

Власник БабиЗоне, ИоуТубе канал за игре са преко пола милиона претплатника који често претвара славне личности у видео игре, одражава сличну забринутост: „Мислим да су деепфакес технологија као и све друге постојеће технологије. Могу се користити у добре и у лоше сврхе.”

Покрет за спасавање деепфакеса

Током последњих годину или две, док владе и технолошке компаније истражују потенцијалне ризике од овога технологије, заговорници деепфаке-а су се трудили да отклоне ове забринутости и поправе јавност технологије слика. Реддит заједнице који настоје да „прилагоде ову стигму“ су се појавили, а неки независни истраживачи активно граде системе који могу уочити деепфакес пре него што постану вирални.

Роман Могилнии, извршни директор и суоснивач Рефаце, хит апликације која вам омогућава да брзо замените своје лице у било који ГИФ, каже да његов стартуп сада развија алатку за детекцију која може да утврди да ли је видео направљен са Рефаце-ом технологије. „Верујемо да ће широк приступ синтетизованим медијским алатима попут нашег повећати емпатију човечанства и креативан, и помоћи ће да се перцепција технологије промени на боље“, рекао је Могилни за Дигитал Трендови.

Еран Даган, оснивач и извршни директор Ботике, стартапа који стоји иза популарне апликације за замену лица Јигги, има сличну перспективу према дубоким лажњацима и верује да ће, како постану мејнстрим, „људи бити много свеснији њихове позитивне употребе случајевима.”

С обзиром на потенцијалну опасност од деепфакеса, вероватно је да ће се Конгрес на крају умешати. Главне технолошке платформе укључујући Фацебоок, Твиттер и ИоуТубе, већ су ажурирали своје политике за означавање или уклањање изманипулисаних медија који су дизајнирани да доведу у заблуду. Више држава као Цалифорниа и Њујорк су донели законе који ће казнити креаторе намерно обмањујућих деепфаке-а, као и оних који се пуштају без пристанка лица чије се лице користи.

Да ли би деепфакес требало регулисати?

Иако ове политике искључују пародијски садржај, стручњаке који се плаше лоше дефинисаних закона или потпуне забране технологије, и даље верује да би Конгрес требало да се држи подаље од тога и да пусти да деепфакес иде природним током сваког новог облика медија кроз.

Дејвид Грин, директор за грађанске слободе у Фондацији Елецтрониц Фронтиер, каже да „сваки покушај Конгреса да регулишу дубоке лажне или заиста било која врста визуелне комуникације биће регулација говора и имплицира Прво Амандман.

Ови закони, додаје Грин, морају да буду прецизни и морају - у добро дефинисаним и лако разумљивим терминима - да се позабаве штетом коју покушавају да смање. „Оно што смо до сада видели... покушаји регулације на државном нивоу су нејасни и прешироки закони који немају прецизност коју захтева Први амандман. Они немају потребне изузетке за пародију и политичке коментаре."

Ђорђо Патрини, извршни директор компаније Сенсити, сматра да је забрана алгоритама и софтвера „бесмислена у ери интернета“. Патрини упоређује ову загонетку са малвером заштиту и како је готово немогуће стати на крај свим рачунарским вирусима или њиховим ауторима, па је боље једноставно уложити у механизме против малвера уместо тога. „Друштво треба да изгради нове механизме за сертификацију чему се може веровати и како спречити негативне утицаје синтетичког садржаја на појединце и организације“, рекао је он.

Тим Вханг је написао у извештају Универзитета Џорџтаун да уз комодификовање дубоко лажних алата, технологија за откривање и филтрирање аутоматски ће еволуирати и постати тачније — чиме ће се неутралисати њихова способност да представе било какву озбиљну претње.

Мицрософт је недавно покренуо алатку за откривање дубоког лажирања, на пример, анализира видео снимке како би вам понудио оцену поузданости која показује колика је вероватноћа да је видео измењен.

„Деепфакес су нови облик медијске манипулације, али не први пут да се суочавамо са овом врстом изазова. Истражујемо и улажемо у начине да се бавимо синтетичким медијима“, рекао је портпарол Јутјуба.

Истраживачи иза ЦтрлСхифтЛаб, напредни софтвер за креирање деепфаке-а који сада користе многи Јутјубери, укључујући Цтрл Схифт Фаце такође ради на пројектима отвореног кода како би се подигла свест и изградила свеобухватнија детекција услуге.

„Једини начин да се спречи ова [деепфаке злоупотреба] је успостављање пројекта отвореног кода који се односи на деепфаке и привлачење пажње јавности. Тако да јавни корисници интернета могу да схвате да деепфакес постоје“, рекао је Кунлин Лиу, један од истраживача ЦтрлСхифтЛаб-а, за Дигитал Трендс.

Неколико креатора деепфаке-а Дигитал Трендс разговарало је да остану оптимисти и сматрају да је преурањено одбијање земаља против деепфаке-а. Они се слажу да ће растућа улога деепфаке-а у мемовима и култури пародије бити кључна у поправљању лоше репутације ове технологије у настајању. И све док видео снимци имају одрицање одговорности и платформе улажу у ефикасније слојеве детекције, додају, дубоки фајкови су ту да остану.

„Мислим да се репутација деепфакеса значајно побољшава. Пре две године, реч деепфаке је аутоматски значила порнографију“, рекао је креатор Цтрл Схифт Фаце. „Сада, већина људи зна деепфакес због ових забавних видео записа који круже интернетом.

Препоруке уредника

• Дигитал Трендс’ Тецх Фор Цханге ЦЕС 2023 награде
• У урнебесном пројекту Гучиберг, дубоко лажирани Гучи Мане чита класичне романе
• Како уметници и активисти користе деепфакес као снагу за добро
• Твитер креће да забрани дубоке фајкове који „наносе штету“ уочи избора 2020
• Калифорнија се обрачунава са дубоким лажњацима за политику и порнографију