Sind Deepfakes gefährlich? Urheber und Regulierungsbehörden sind anderer Meinung

In den letzten Jahren, Deepfakes haben sich zur neuesten Anlaufstelle im Internet für Memes und Parodie-Inhalte entwickelt.

Es ist leicht zu erkennen, warum: Sie ermöglichen es Entwicklern, die Regeln der Realität zu umgehen, wie keine andere Technologie zuvor. Durch die Magie von Deepfakes können Sie zusehen Jennifer Lawrence hält eine Rede durch das Gesicht von Steve Buscemi, sehen Sie was Ryan Reynolds hätte wie Willy Wonka ausgesehen, und sogar fangen Hitler und Stalin singenDas Video tötete den Radio-Star im Duett.

Für den Uneingeweihten ist Deepfake-Technologie eine Form synthetischer Medien, die es Benutzern ermöglicht, das Gesicht einer anderen Person auf eine Weise zu überlagern, die kaum vom Original zu unterscheiden ist. Dazu werden Unmengen an Daten gelesen, um die Konturen und andere Merkmale des Gesichts zu verstehen und es auf natürliche Weise in die Szene einzufügen und zu animieren.

Zu diesem Zeitpunkt sind Sie wahrscheinlich auf solche Clips auf Plattformen wie TikTok (wo der Hashtag „#deepfake“ etwa 200 Millionen Aufrufe hat), YouTube und anderswo gestoßen. Ob es darum geht, Fanfiction zu erfüllen und Szenen mit Sternen wiederholen Während sie sich wünschten, der Film hätte ursprünglich eine tote Person in einem modernen, viralen Meme besetzt oder dargestellt, wurden Deepfakes als kreatives Ventil für Zwecke übernommen, die zuvor nahezu unmöglich waren.

Der Wandel hat eine Liga neuer Schöpfer hervorgebracht Strg-Umschaltfläche, deren Deepfake-Videos regelmäßig Millionen von Aufrufen anziehen und oft das Hauptthema der Diskussion in Late-Night-Talkshows sind.

„Es ist eine ganz neue Art, lustige Internetvideos zu machen oder Geschichten zu erzählen, wie wir sie noch nie zuvor gesehen haben“, sagt der in den Niederlanden ansässige Schöpfer des Hits.Die Rächer von Oz” Deepfake-Clip, der darum bat, dass sein richtiger Name nicht verwendet wird. „Es ist eine schöne Kombination aus Faszination für KI und Technologie und Humor.“

Doch es droht ein Risiko, das die Zukunft der Deepfake-Technologie insgesamt bedroht: Ihr beschädigter Ruf.

Mit großer Kraft geht große Repostierbarkeit einher

Leider bergen Deepfakes neben ihrem Potenzial als kreatives Werkzeug für gutmeinende Videokünstler auch ein enormes Schadenspotenzial.

Ein kürzlich Studie des Dawes Center for Future Crime am UCL Jill Dando Institute of Security and Crime Science bezeichnete Deepfakes als die schwerwiegendste KI-gestützte Bedrohung. Sen. Ben Sasse, ein Republikaner aus Nebraska, der einen Gesetzentwurf eingebracht hat, der die böswillige Erstellung von Deepfakes unter Strafe stellt, gewarnt Letztes Jahr sagte er, die Technologie könne „Menschenleben zerstören“, „die Finanzmärkte in Aufruhr versetzen“ und sogar „militärische Konflikte auf der ganzen Welt auslösen“.

Bis zu einem gewissen Grad sind diese Bedenken berechtigt. Schließlich hat die Verbreitung der Deepfake-Technologie bereits Dinge wie die Produktion gefälschter Inhalte für Erwachsene mit Prominenten und lebensechten Nachbildungen von Politikern für Satire ermöglicht. Anfang dieses Jahres sagte Dan Scavino, Social-Media-Direktor des Weißen Hauses, getwittert ein schlecht manipulierter Clip, der auch von Präsident Donald Trump retweetet wurde und in dem Trumps Rivale Joe Biden die Menschen auffordert, Trump wiederzuwählen.

Diese wenig überzeugenden Falschmeldungen wurden jedoch schnell entlarvt, bevor sie die Massen erreichten. Noch wichtiger ist, dass Experten darauf hinweisen, dass Deepfake-Videos bisher kaum oder gar keine gesellschaftlichen Auswirkungen hatten und dass sie derzeit keine unmittelbare Bedrohung darstellen. Zum Beispiel Forschung durchgeführt von Sinnlichkeit, ein Cybersicherheitsunternehmen, das sich auf visuelle Bedrohungen konzentriert, behauptet, dass die überwiegende Mehrheit der Deepfake-Videos solche sind pornographisch (96 %) und dass die Technologie bisher noch keinen Eingang in nennenswerte Desinformation gefunden hat Kampagnen.

Ebenso a Bericht der Georgetown University kam zu dem Schluss, dass Deepfakes zwar eine „beeindruckende technische Leistung“ seien, politische Entscheidungsträger sich jedoch nicht damit befassen sollten der Hype, da die Technologie derzeit nicht perfekt ist und die realen Ereignisse nicht einfach beeinflussen kann noch.

Der Schöpfer des beliebtesten Deepfake-Kanals Ctrl Shift Face, dessen Videos von Millionen angesehen werden, glaubt an die „Hysterie“ Das Kreisen um das Deepfake-Thema lenkt die Aufmerksamkeit der Gesetzgeber von den eigentlichen Problemen ab, wie etwa der schlecht regulierten Werbung Netzwerke auf Facebook die tatsächlich dafür verantwortlich sind, Menschen in die Irre zu führen.

„Wenn es jemals einen schädlichen Deepfake geben sollte, ist Facebook der Ort, an dem er sich verbreiten wird“, sagte Ctrl Shift Face in einem Interview mit Digital Trends. „Was ist in diesem Fall das größere Problem? Das Medium oder die Plattform?“

Der Besitzer von BabyZone, ein YouTube-Gaming-Kanal mit über einer halben Million Abonnenten, der häufig Prominente in Videos umwandelt games, bringt eine ähnliche Sorge zum Ausdruck: „Ich denke, dass Deepfakes eine Technologie wie alle anderen existierenden sind Technologien. Sie können für gute und schlechte Zwecke genutzt werden.“

Die Bewegung zur Rettung von Deepfakes

In den letzten ein bis zwei Jahren haben Regierungen und Technologieunternehmen die potenziellen Risiken untersucht Technologie haben sich Deepfake-Befürworter bemüht, diese Bedenken zu zerstreuen und die Öffentlichkeit der Technologie zu überzeugen Bild. Reddit-Communitys Es sind immer mehr Unternehmen aufgetaucht, die versuchen, „dieses Stigma zu beseitigen“, und einige unabhängige Forscher entwickeln aktiv Systeme, die Deepfakes erkennen können, bevor sie viral werden.

Roman Mogylnyi, CEO und Mitbegründer von Reface, einer erfolgreichen App, mit der Sie Ihr Gesicht schnell in ein beliebiges GIF austauschen können, sagt, sein Startup entwickle derzeit ein Erkennungstool, das erkennen könne, ob ein Video mit Reface erstellt wurde Technologie. „Wir glauben, dass ein breiter Zugang zu synthetisierten Medientools wie unserem das Einfühlungsvermögen der Menschheit steigern wird kreativität und wird dazu beitragen, die Wahrnehmung der Technologie zum Besseren zu verändern“, sagte Mogylnyi gegenüber Digital Trends.

Eran Dagan, Gründer und CEO von Botika, dem Startup hinter der beliebten Face-Swapping-App Jiggy, hat eine ähnliche Einstellung Wenn Deepfakes und Überzeugungen immer mehr zum Mainstream werden, „werden sich die Menschen ihrer positiven Verwendung viel bewusster sein.“ Fälle."

Angesichts der potenziellen Gefahren von Deepfakes ist es jedoch wahrscheinlich, dass der Kongress irgendwann eingreifen wird. Wichtige Technologieplattformen darunter Facebook, Twitter und YouTube haben ihre Richtlinien bereits aktualisiert, um manipulierte Medien, die irreführen sollen, zu kennzeichnen oder zu entfernen. Mehrere Staaten mögen Kalifornien und New York haben Gesetzesentwürfe verabschiedet, die die Urheber absichtlich irreführender Deepfakes sowie solche, die ohne Zustimmung der Person veröffentlicht werden, deren Gesicht verwendet wird, bestrafen.

Sollten Deepfakes reguliert werden?

Während diese Richtlinien Parodieinhalte ausschließen, befürchten Experten, dass unklare Gesetze oder ein vollständiges Verbot der Technologie vorliegen, Ich bin immer noch der Meinung, dass der Kongress sich da raushalten und Deepfakes den natürlichen Lauf lassen sollte, den jede neue Form von Medien mit sich bringt durch.

David Greene, Direktor für Bürgerrechte bei der Electronic Frontier Foundation, sagt: „Jeder Versuch des Kongresses Die Regulierung von Deep Fakes oder wirklich jeder Art von visueller Kommunikation wird eine Regulierung der Sprache sein und das Erste implizieren Änderung.

Diese Gesetze, fügt Greene hinzu, müssen präzise sein und – in klar definierten und leicht verständlichen Worten – den Schaden angehen, den sie einzudämmen versuchen. „Was wir bisher gesehen haben … Regulierungsversuche auf staatlicher Ebene sind vage und zu weit gefasste Gesetze, die nicht die Präzision aufweisen, die der Erste Verfassungszusatz erfordert. Sie haben keine erforderlichen Ausnahmen für Parodien und politische Kommentare.“

Giorgio Patrini, CEO von Sensity, hält ein Verbot von Algorithmen und Software für „im Zeitalter des Internets bedeutungslos“. Patrini vergleicht dieses Rätsel mit Malware Schutz und dass es nahezu unmöglich ist, allen Computerviren oder ihren Autoren ein Ende zu setzen. Daher ist es besser, einfach in Anti-Malware-Mechanismen zu investieren stattdessen. „Die Gesellschaft muss neue Mechanismen entwickeln, um zu zertifizieren, was vertrauenswürdig ist und wie die negativen Auswirkungen synthetischer Inhalte auf Einzelpersonen und Organisationen verhindert werden können“, sagte er.

Tim Whang schrieb im Bericht der Georgetown University, dass mit der Kommerzialisierung von Deepfake-Tools die Technologie zum Erkennen und Filtern zunehmen werde Es wird sich automatisch weiterentwickeln und präziser werden – wodurch ihre Fähigkeit, ernsthafte Probleme darzustellen, zunichte gemacht wird Bedrohungen.

Das kürzlich von Microsoft eingeführte Deepfake-Erkennungstoolanalysiert beispielsweise die Videos, um Ihnen einen Konfidenzwert zu bieten, der angibt, wie wahrscheinlich es ist, dass das Video geändert wurde.

„Deepfakes sind eine neue Form der Medienmanipulation, aber nicht das erste Mal, dass wir vor einer solchen Herausforderung stehen. Wir erforschen und investieren in Möglichkeiten, synthetische Medien anzugehen“, sagte ein YouTube-Sprecher.

Die Forscher dahinter StrgShiftLab, eine fortschrittliche Deepfake-Erstellungssoftware, die viele YouTuber, darunter auch Ctrl Shift Face, verwenden, sind jetzt verfügbar Wir arbeiten auch an Open-Source-Projekten, um das Bewusstsein zu schärfen und eine umfassendere Erkennung zu entwickeln Dienstleistungen.

„Die einzige Möglichkeit, diesen [Deepfake-Missbrauch] zu verhindern, besteht darin, ein Open-Source-Deepfake-Projekt zu etablieren und die Aufmerksamkeit der Öffentlichkeit auf sich zu ziehen. Damit öffentliche Internetnutzer erkennen können, dass es Deepfakes gibt“, sagte Kunlin Liu, einer der Forscher des CtrlShiftLab, gegenüber Digital Trends.

Mehrere Deepfake-Ersteller, Digital Trends, sagten, sie seien weiterhin optimistisch und hielten den Widerstand der Länder gegen Deepfakes für verfrüht. Sie sind sich einig, dass die wachsende Rolle von Deepfake in der Meme- und Parodiekultur entscheidend dazu beitragen wird, den schlechten Ruf dieser aufstrebenden Technologie zu verbessern. Und solange Videos Haftungsausschlüsse haben und Plattformen in effektivere Erkennungsebenen investieren, seien Deepfakes von Dauer.

„Ich denke, dass sich der Ruf von Deepfakes deutlich verbessert. „Vor zwei Jahren bedeutete das Wort Deepfake automatisch Porno“, sagte der Schöpfer von Ctrl Shift Face. „Mittlerweile kennen die meisten Menschen Deepfakes aufgrund dieser unterhaltsamen Videos, die im Internet kursieren.“

Empfehlungen der Redaktion

• Tech For Change CES 2023 Awards von Digital Trends
• Im urkomischen Project Gucciberg liest ein Fake-Gucci Mane klassische Romane
• Wie Künstler und Aktivisten Deepfakes als eine Kraft zum Guten nutzen
• Twitter will Deepfakes, die „Schaden anrichten“, vor der Wahl 2020 verbieten
• Kalifornien geht hart gegen Deepfakes aus Politik und Pornos vor