Warum Deepfakes bald so alltäglich sein werden wie Photoshop

Wussten Sie, dass Sie ein Deepfake-Video bequem von zu Hause oder auf Ihrem Telefon erstellen können? Laden Sie eine der zahlreichen Face-Swap- oder Deepfake-Apps herunter, die in Ihrem örtlichen App Store erhältlich sind, und Sie auch kann eine Wahl beeinflussen.

Okay, nicht wirklich, und wir unterstützen das definitiv nicht. Aber im Hype und der Besorgnis um uns herum Deepfake Technologie und ihr sehr realer Missbrauch, die einfache Wahrheit ist, dass diese Technologie nicht verschwinden wird. Tatsächlich wird es genauso alltäglich werden wie Photoshop, insbesondere wenn die App-Entwickler daran arbeiten deepfake tech haben dazu etwas zu sagen: Wir könnten bald hyper-zielgerichtete Werbung mit unseren eigenen Gesichtern sehen ihnen.

Roman Mogylnyi, der CEO von RefaceAI, einem Startup mit Sitz in der Ukraine, sagte, dass sie seit 2011 mit maschinellem Lernen arbeiten und 2014 dazu übergingen, eigene Apps auf Basis von Deepfake-Technologie zu entwickeln. RefaceAI hat bereits eine Foto-Deepfake-App namens Reflect veröffentlicht und steht kurz vor der Veröffentlichung einer eigenen Video-Deepfake-App sowie eines Webdienstes, der dabei helfen soll, Deepfake-Videos zu erkennen.

„Wir haben von Anfang an gesehen, dass diese Technologie missbraucht wird“, sagte Mogylnyi. „Wir dachten, wir könnten es besser machen.“

RefaceAI hat bereits mit einigen Filmproduktionsfirmen zusammengearbeitet – Mogylnyi konnte jedoch nicht sagen, mit welchen –, um seine Technologie zum Austausch zu nutzen Gesichter von Schauspielern auf Körperdoppelbilder zu übertragen, und das zu weitaus geringeren Kosten, als es gewesen wäre, die Schauspieler zurückzufliegen, um die Szenen zu vertonen und neu zu drehen Frage. Mogylnyi sagte, darin sehe das Unternehmen die Zukunft von Deepfakes. „Wir möchten es für Marketingzwecke, zur Personalisierung von Anzeigen, für GIFs und für Unterhaltungsmaterialien im Allgemeinen verwenden“, sagte er.

Die Zukunft der Medien

RefaceAI ist nicht das Unternehmen, das versucht, dieser unvermeidlichen Marketingkurve einen Schritt voraus zu sein. Carica, eine in Südkorea ansässige App, entwickelt ebenfalls Deepfake-GIFs und -Videos, bei denen eine Person ihr Gesicht auf ein beliebtes Reaktions-GIF übertragen und an Freunde und Familie senden kann. Die App bietet bereits Pop-up-Werbung, die das Gesicht des Nutzers in das Foto oder Video der Anzeige einbezieht.

„Wir wollen, dass unser Unternehmen ein Medienunternehmen wird“, sagte Carica-Ingenieur Joseph Jang gegenüber Digital Trends. Deepfakes sind einfach der Anfang. „Ich denke, dass Medienunternehmen damit beginnen werden, diese Funktion zu übernehmen. Es wird eine Option sein, die Sie haben, genau wie eine Filter. Es wird für die Menschen ganz normal werden.“

Sowohl Jang als auch Mogylnyi nutzten die Verbreitung von Photoshop als Vorbild für die Entwicklung von Deepfakes: So weit verbreitet, dass es unauffällig ist, wenn auch immer noch ein wenig kontrovers. Und für beide sind die in Deepfakes verpackten politischen und ethischen Probleme eigentlich nur Alltag.

Shamir Allibhai, der CEO der Deepfake-Erkennungsplattform Amber Video, sagte gegenüber Digital Trends, dass seine vorherrschende Ansicht sei, dass Deepfake-Technologie, wie die meisten anderen Arten von Technologie, amoralisch sei.

„Es wäre, als würde man sagen, Microsoft Word sei unmoralisch und böse, weil potenzielle Terroristen es dazu nutzen würden „Vertreten Sie eine gewalttätige, extremistische Ideologie, die andere dazu inspirieren wird, sich für eine gewalttätige extremistische Ideologie einzusetzen“, sagte er sagte. „Ich sehe diese Technologie ganz ähnlich.“

Amber Video ist eine Plattform, die ihre Dienste mit der Bekämpfung von Deepfakes bewirbt, um „Betrug, Reputationsverlust und Misstrauen der Beteiligten zu verhindern“. Allibhai sagte, er wisse nicht, ob er bereit sei, etwas zu kaufen, nur weil sein Gesicht darauf zu sehen sei, aber er stimmte zu, dass die Technologie es irgendwann sein wird allgegenwärtig.

„Es ist ein Spiegel der Gesellschaft“, sagte er. „Das sieht man an Technologien wie der Twitter-Plattform. Sie sehen das Beste der Menschheit und das Schlimmste von uns. Deepfake-Technologie wird auch ein Spiegelbild der Gesellschaft sein. Es gibt Leute, die es für unbeschwerte Satire nutzen und sich über autoritäre Regime lustig machen. Aber wir werden auch versuchen, Chaos zu stiften.“

Bewaffnung von Deepfakes

Die größte Angst bleibt der mögliche Missbrauch und die Nutzung von Deepfakes als Waffe. Da sie immer häufiger vorkommen, könnten wir uns sogar vorstellen, dass sie nicht nur für groß angelegte Desinformationskampagnen eingesetzt werden, sondern auch für Streiche oder Mobbing in der Schule. Wenn die Technologie ausreichend zugänglich ist, kann sie jeder nutzen.

Sowohl Carica als auch RefaceAI sagten, dass sie Schritte unternehmen, um potenziellen Missbrauch einzudämmen – RefaceAI mit seinem Deepfake-Erkennungs-Webdienst und Carica mit Inhaltsmoderatoren. Das gesamte Carica-Unternehmen besteht derzeit nur aus neun Mitarbeitern, sagte Jang, und sie tauschen die Aufgaben der Inhaltsmoderation aus.

„Das war wirklich die erste Frage, die wir uns gestellt haben“, sagte Mogylnyi von RefaceAI. „Wir beschäftigen uns seit Jahren mit politischen Skandalen in der Ukraine. Wir verstehen, dass unsere Technologie missbraucht werden kann. Sogar Photoshop kann und wurde zum Mobbing eingesetzt. Aber andererseits liefern wir ein Gegenmittel dafür. Wir haben Benutzer dazu gebracht, sexuelle Inhalte in unsere App hochzuladen, und wir haben diese Benutzer sofort gesperrt.“

Carica ist eine ausreichend kleine App, mit der sie vorerst arbeiten müssen. Aber im Großen und Ganzen machte sich Jang keine Sorgen.

„Das passiert bei jeder neuen Technologie“, sagte Jang. „Zuerst wird es durch Missbrauch verursacht, aber nach dieser Phase wird es für alle verfügbar und die Leute nutzen es für normale Dinge.“

Empfehlungen der Redaktion

• Sicherheitsroboter könnten zu einer Schule in Ihrer Nähe kommen
• Amazon setzt KI ein, um Produktbewertungen zusammenzufassen
• Amazon plant „einmalige“ Änderungen für die Suche, wie aus Stellenanzeigen hervorgeht
• Nvidias 200-Dollar-Minicomputer Jetson Orin Nano ist 80-mal schneller als die Vorgängerversion
• Google Smart Canvas sorgt für eine tiefere Integration zwischen Apps