Les deepfakes sont-ils dangereux? Les créateurs et les régulateurs ne sont pas d'accord

Au cours des dernières années, contrefaçons profondes sont devenus la dernière référence sur Internet en matière de mèmes et de contenu parodique.

Il est facile de comprendre pourquoi: ils permettent aux créateurs de contourner les règles de la réalité comme aucune autre technologie auparavant. Grâce à la magie des deepfakes, vous pouvez regarder Jennifer Lawrence prononce un discours face à Steve Buscemi, voir quoi Ryan Reynolds aurait ressemblé à Willy Wonka, et même attraper Hitler et Staline chantentLa vidéo a tué la star de la radio en duo.

Pour les non-initiés, la technologie deepfake est une forme de média synthétique qui permet aux utilisateurs de superposer un visage différent sur celui de quelqu’un d’autre d’une manière presque impossible à distinguer de l’original. Pour ce faire, il lit des tas de données pour comprendre les contours du visage et d’autres caractéristiques afin de les mélanger et de les animer naturellement dans la scène.

À ce stade, vous avez probablement déjà croisé de tels clips sur des plateformes comme TikTok (où le hashtag « #deepfake » compte environ 200 millions de vues), YouTube et ailleurs. Que ce soit pour réaliser des fanfictions ou refaire des scènes avec des étoiles ils auraient souhaité que le film ait initialement choisi ou mis une personne décédée dans un mème viral moderne, les deepfakes ont été adoptés comme un exutoire créatif à des fins qui étaient auparavant presque impossibles.

Ce changement a donné naissance à une ligue de nouveaux créateurs comme Ctrl Maj Face, dont les vidéos deepfake attirent régulièrement des millions de vues et sont souvent le principal sujet de discussion dans les talk-shows de fin de soirée.

"C'est une toute nouvelle façon de créer des vidéos amusantes sur Internet ou de raconter des histoires comme nous n'en avons jamais vues auparavant", déclare le créateur néerlandais à l'origine du succès "Les Vengeurs d'Oz» clip deepfake qui a demandé que son vrai nom ne soit pas utilisé. « C’est une belle combinaison de fascination pour l’IA et technologie et humour.

Mais il existe un risque imminent qui menace l’avenir de la technologie des deepfakes: sa réputation entachée.

Une grande puissance s'accompagne d'une grande possibilité de republication

Malheureusement, en plus de leur potentiel en tant qu’outil créatif pour les vidéastes bien intentionnés, les deepfakes comportent également un énorme potentiel de préjudice.

Une récente étude du Dawes Center for Future Crime de l'UCL Jill Dando Institute of Security and Crime Science a qualifié les deepfakes de menace la plus grave basée sur l’IA. Le sénateur Ben Sasse, un républicain du Nebraskan qui a présenté un projet de loi visant à criminaliser la création malveillante de deepfakes, averti l’année dernière, que la technologie pourrait « détruire des vies humaines », « ébranler les marchés financiers » et même « déclencher des conflits militaires dans le monde entier ».

Dans une certaine mesure, ces préoccupations sont légitimes. Après tout, la prolifération de la technologie deepfake a déjà permis la production de faux contenus pour adultes mettant en vedette des célébrités et des imitations réalistes de politiciens à des fins satiriques. Plus tôt cette année, Dan Scavino, directeur des médias sociaux de la Maison Blanche, tweeté un clip mal manipulé, qui a également été retweeté par le président Donald Trump, de son rival Joe Biden demandant aux gens de réélire Trump.

Cependant, ces canulars peu convaincants ont été rapidement démystifiés avant d’atteindre le grand public. Plus important encore, les experts suggèrent que les vidéos deepfakes ont jusqu’à présent eu peu ou pas d’impact sociétal et qu’elles ne représentent actuellement aucune menace imminente. Par exemple, les recherches menées par Sensibilité, une société de cybersécurité axée sur les menaces visuelles, affirme que la grande majorité des vidéos deepfakes sont pornographique (96%) et que la technologie n'a pas encore fait son chemin vers une désinformation significative campagnes.

De même, un Rapport de l'Université de Georgetown a conclu que même si les deepfakes constituent une « prouesse technique impressionnante », les décideurs politiques ne devraient pas se précipiter dans ce domaine. le battage médiatique car la technologie n’est pas parfaite pour le moment et ne peut pas simplement influencer les événements du monde réel encore.

Le créateur de la chaîne deepfake la plus populaire Ctrl Shift Face, dont les vidéos sont vues par des millions de personnes, estime qu'il s'agit d'une « hystérie ». tourner autour du sujet des deepfakes détourne l’attention des législateurs des vrais problèmes, comme la publicité mal réglementée. réseaux sur Facebook qui sont en réalité responsables d’induire les gens en erreur.

"S'il y a un deepfake nuisible, Facebook est l'endroit où il se propagera", a déclaré Ctrl Shift Face dans une interview avec Digital Trends. « Dans ce cas, quel est le plus gros problème? Le média ou la plateforme ?

Le propriétaire de Zone bébé, une chaîne de jeux YouTube avec plus d'un demi-million d'abonnés qui simule souvent des célébrités dans des vidéos jeux, fait écho à une préoccupation similaire: « Je pense que les deepfakes sont une technologie comme toutes les autres technologies existantes. les technologies. Ils peuvent être utilisés à des fins bonnes ou mauvaises. »

Le mouvement pour sauver les deepfakes

Au cours des deux dernières années, alors que les gouvernements et les entreprises technologiques étudiaient les risques potentiels de cette situation, technologie, les défenseurs du deepfake se sont efforcés d’apaiser ces inquiétudes et de réparer le problème public de la technologie. image. Communautés Reddit Des projets visant à « ajuster cette stigmatisation » sont apparus, et certains chercheurs indépendants construisent activement des systèmes capables de détecter les deepfakes avant qu'ils ne deviennent viraux.

Roman Mogylnyi, PDG et co-fondateur de Reface, une application à succès qui vous permet d'échanger rapidement votre visage dans n'importe quel GIF, dit que sa startup développe actuellement un outil de détection capable de savoir si une vidéo a été réalisée avec Reface. technologie. « Nous pensons qu’un large accès aux outils médiatiques synthétisés comme les nôtres augmentera l’empathie et la compréhension de l’humanité. créativité, et contribuera à changer la perception de la technologie pour le mieux », a déclaré Mogylnyi à Digital. Les tendances.

Eran Dagan, fondateur et PDG de Botika, la startup à l'origine de la populaire application d'échange de visage Jiggy, partage le même point de vue. envers les deepfakes et croit qu’à mesure qu’ils deviennent plus courants, « les gens seront beaucoup plus conscients de leur utilisation positive » cas. »

Toutefois, étant donné les dangers potentiels des deepfakes, il est probable que le Congrès finira par intervenir. Principales plateformes technologiques notamment Facebook, Twitter et YouTube ont déjà mis à jour leurs politiques pour signaler ou supprimer les médias manipulés conçus pour induire en erreur. Plusieurs états comme Californie et New York ont ​​adopté des projets de loi qui puniront les créateurs de deepfakes intentionnellement trompeurs, ainsi que ceux publiés sans le consentement de la personne dont le visage est utilisé.

Faut-il réglementer les deepfakes ?

Bien que ces politiques excluent les contenus parodiques, les experts, craignant des lois mal définies ou une interdiction totale de la technologie, croient toujours que le Congrès devrait rester en dehors de cela et laisser les deepfakes suivre le cours naturel que suit toute nouvelle forme de média à travers.

David Greene, directeur des libertés civiles à l'Electronic Frontier Foundation, déclare que « toute tentative du Congrès de réglementer les deep fakes ou tout type de communication visuelle sera une régulation de la parole et impliquera le Premier Amendement.

Ces lois, ajoute Greene, doivent être précises et doivent – ​​en termes bien définis et faciles à comprendre – s’attaquer aux dommages qu’elles tentent de réduire. « Ce que nous avons vu jusqu’à présent… les tentatives de réglementation au niveau des États sont des lois vagues et trop larges qui n’ont pas la précision requise par le premier amendement. Ils n’ont pas d’exceptions requises pour la parodie et les commentaires politiques.

Giorgio Patrini, PDG de Sensity, estime qu’une interdiction des algorithmes et des logiciels « n’a aucun sens à l’ère d’Internet ». Patrini compare cette énigme avec les logiciels malveillants protection et comment il est presque impossible de mettre fin à tous les virus informatiques ou à leurs auteurs, il est donc préférable d'investir simplement dans des mécanismes anti-malware plutôt. « La société doit construire de nouveaux mécanismes pour certifier ce qui est fiable et comment prévenir les impacts négatifs du contenu synthétique sur les individus et les organisations », a-t-il déclaré.

Tim Whang a écrit dans le rapport de l'Université de Georgetown qu'avec la marchandisation des outils deepfake, la technologie permettant de détecter et de filtrer automatiquement, évoluera et deviendra plus précis, neutralisant ainsi leur capacité à présenter des problèmes graves. des menaces.

L'outil de détection des deepfakes récemment lancé par Microsoft, par exemple, analyse les vidéos pour vous proposer un score de confiance qui indique la probabilité que la vidéo ait été modifiée.

« Les deepfakes sont une nouvelle forme de manipulation médiatique, mais ce n’est pas la première fois que nous sommes confrontés à ce type de défi. Nous explorons et investissons dans des moyens de lutter contre les médias synthétiques », a déclaré un porte-parole de YouTube.

Les chercheurs derrière CtrlMajLab, un logiciel avancé de création de deepfake utilisé par de nombreux YouTubers, dont Ctrl Shift Face, est désormais disponible. travaille également sur des projets open source pour sensibiliser et construire une détection plus complète prestations de service.

« La seule façon d’empêcher cela [deepfake abuse] est de créer un projet open source lié aux deepfakes et d’attirer l’attention du public. Ainsi, les internautes peuvent se rendre compte que les deepfakes existent », a déclaré Kunlin Liu, l’un des chercheurs du CtrlShiftLab, à Digital Trends.

Plusieurs créateurs de deepfakes avec lesquels Digital Trends a parlé restent optimistes et trouvent prématurée la réaction des pays contre les deepfakes. Ils conviennent que le rôle croissant du deepfake dans la culture des mèmes et de la parodie contribuera à réparer la mauvaise réputation de cette technologie émergente. Et tant que les vidéos comportent des clauses de non-responsabilité et que les plateformes investissent dans des couches de détection plus efficaces, ont-ils ajouté, les deepfakes sont là pour rester.

« Je pense que la réputation des deepfakes s’améliore considérablement. Il y a deux ans, le mot deepfake signifiait automatiquement porno », a déclaré le créateur de Ctrl Shift Face. « Maintenant, la plupart des gens connaissent les deepfakes grâce à ces vidéos divertissantes qui circulent sur Internet. »

Recommandations des rédacteurs

• Prix ​​​​Tech For Change CES 2023 de Digital Trends
• Dans l'hilarant Projet Gucciberg, un Gucci Mane truqué lit des romans classiques
• Comment les artistes et les activistes utilisent les deepfakes comme une force pour le bien
• Twitter décide d’interdire les deepfakes qui « causent des dommages » avant les élections de 2020
• La Californie sévit contre les deepfakes à des fins politiques et pornographiques