Dlaczego Deepfakes wkrótce staną się tak powszechne jak Photoshop

Czy wiesz, że możesz nagrać deepfake wideo w zaciszu własnego domu lub na telefonie? Pobierz jedną z mnóstwa aplikacji do zamiany twarzy lub fałszywych aplikacji dostępnych w lokalnym sklepie z aplikacjami i ty też może mieć wpływ na wybory.

OK, niezupełnie i zdecydowanie tego nie popieramy. Ale w szumie i obawach wokół głębokie podróbki technologii i jej bardzo realnego niewłaściwego wykorzystania, prosta prawda jest taka, że ​​ta technologia nie zniknie. W rzeczywistości stanie się tak powszechny jak Photoshop, zwłaszcza jeśli będą nad nim pracować twórcy aplikacji deepfake tech nie mają nic do powiedzenia na ten temat: wkrótce będziemy mogli zobaczyć hipertargetowane reklamy z naszymi twarzami ich.

Roman Mogylnyi, dyrektor generalny RefaceAI, startupu z siedzibą na Ukrainie, powiedział, że firma pracuje z uczeniem maszynowym od 2011 r., a w 2014 r. zaczęła tworzyć własne aplikacje oparte na technologii deepfake. RefaceAI wydało już aplikację do fałszywych zdjęć o nazwie Reflect i jest bliskie wypuszczenia zarówno własnej aplikacji do fałszywych filmów, jak i usługi internetowej, która pomoże wykrywać fałszywe filmy.

„Od samego początku widzieliśmy, że ta technologia jest nadużywana” – powiedział Mogylnyi. „Myśleliśmy, że możemy zrobić to lepiej”.

RefaceAI współpracował już z niektórymi firmami zajmującymi się produkcją filmową – choć Mogylnyi nie potrafił powiedzieć z którymi – aby wykorzystać swoją technologię do zamiany twarze aktorów na sobowtóry kosztem znacznie niższym niż koszt przeniesienia aktorów z powrotem na plan i ponowne nakręcenie scen w pytanie. Mogylnyi powiedział, że firma postrzega przyszłość deepfakes. „Chcemy go używać do celów marketingowych, do personalizacji reklam, do tworzenia gifów i ogólnie do materiałów rozrywkowych” – powiedział.

Przyszłość mediów

RefaceAI nie jest firmą, która próbuje wyprzedzić tę nieuniknioną krzywą marketingu. Carica, aplikacja z Korei Południowej, opracowuje także fałszywe GIF-y i filmy, w których dana osoba może wszczepić swoją twarz w popularny GIF z reakcjami, aby wysłać go znajomym i rodzinie. Aplikacja zawiera już wyskakujące reklamy, które zawierają twarz użytkownika na zdjęciu lub filmie reklamowym.

„Chcemy, aby nasza firma stała się firmą medialną” – powiedział Digital Trends, inżynier Carica Joseph Jang. Deepfake to dopiero początek. „Myślę, że firmy medialne zaczną wdrażać tę funkcję. Stanie się to opcją, którą będziesz mieć, podobnie jak filtr. Dla ludzi stanie się to zupełnie normalne.”

Zarówno Jang, jak i Mogylnyi wykorzystali rozprzestrzenianie się Photoshopa jako model tego, dokąd zmierzają Deepfake: tak powszechne, że nie rzucające się w oczy, choć wciąż nieco kontrowersyjne. W przypadku obu z nich problemy polityczne i etyczne związane z deepfake'ami są po prostu codziennością.

Shamir Allibhai, dyrektor generalny platformy Amber Video wykrywającej deepfake, powiedział Digital Trends, że jego nadrzędnym poglądem jest to, że technologia deepfake, podobnie jak większość innych rodzajów technologii, jest amoralna.

„To jakby powiedzieć, że Microsoft Word jest niemoralny, zły, ponieważ potencjalni terroryści będą go używać wyznawać brutalną ideologię ekstremistyczną, która zainspiruje innych do przyjęcia brutalnej ideologii ekstremistycznej” – stwierdził powiedział. „W tym samym duchu postrzegam tę technologię”.

Amber Video to platforma, która reklamuje swoje usługi jako zwalczające deepfake, aby „zapobiegać oszustwom, utracie reputacji i braku zaufania interesariuszy”. Allibhai powiedział, że nie wie, czy jest gotowy coś kupić tylko dlatego, że widnieje na tym jego twarz, ale zgodził się, że ostatecznie technologia ta będzie dostępna rozpowszechniony.

„To lustro społeczeństwa” – powiedział. „Widzi się to w technologiach takich jak platforma Twitter. Widzisz to, co najlepsze w ludzkości i to, co w nas najgorsze. Technologia Deepfake będzie również odzwierciedlać społeczeństwo. Są ludzie, którzy wykorzystają to do beztroskiej satyry i naśmiewają się z autorytarnych reżimów. Ale spróbujemy też zasiać chaos.”

Uzbrojenie deepfakes

Największą obawą pozostaje potencjalne nadużycie i wykorzystanie deepfakes jako broni. W miarę jak staną się coraz bardziej powszechne, możemy nawet zobaczyć, jak wykorzystuje się je nie tylko do szeroko zakrojonych kampanii dezinformacyjnych, ale także do żartów lub znęcania się w szkołach średnich. Jeśli technologia jest wystarczająco dostępna, każdy może z niej skorzystać.

Zarówno Carica, jak i RefaceAI oświadczyły, że podejmują kroki w celu ograniczenia potencjalnych nadużyć – RefaceAI z usługą internetową do wykrywania deepfake i Carica z moderatorami treści. „Cała firma Carica składa się obecnie z zaledwie dziewięciu osób” – powiedział Jang, i „odrzucają sobie obowiązki związane z moderowaniem treści”.

„To było właściwie pierwsze pytanie, jakie sobie zadaliśmy” – powiedział Mogylnyi z RefaceAI. „Od lat mamy do czynienia z tym w kontekście skandalów politycznych na Ukrainie. Rozumiemy, że nasza technologia może zostać niewłaściwie wykorzystana. Nawet Photoshop może i był używany do zastraszania. Z drugiej jednak strony zapewniamy na to antidotum. Poprosiliśmy użytkowników o przesyłanie treści o charakterze seksualnym do naszej aplikacji i od razu zablokowaliśmy tych użytkowników”.

Carica to na tyle mała aplikacja, że ​​na razie muszą z nią pracować. Ale ogólnie Jang się nie martwił.

„Dzieje się tak w przypadku wszystkich nowych technologii” – powiedział Jang. „Po pierwsze jest to spowodowane niewłaściwym użyciem, ale po tej fazie staje się dostępne dla wszystkich i ludzie używają go do normalnych celów”.

Zalecenia redaktorów

• Roboty zabezpieczające mogą pojawić się w pobliskiej szkole
• Amazon wdraża sztuczną inteligencję, aby podsumowywać recenzje produktów
• Jak wynika z ogłoszenia o pracę, Amazon planuje zmiany w wyszukiwarce „raz na pokolenie”.
• Minikomputer Jetson Orin Nano firmy Nvidia za 200 dolarów jest 80 razy szybszy niż poprzednia wersja
• Google Smart Canvas zapewnia głębszą integrację między aplikacjami