딥페이크는 위험한가요? 제작자와 규제 기관의 의견이 일치하지 않음

지난 몇 년 동안, 딥페이크 밈과 패러디 콘텐츠에 대한 인터넷의 최신 인기 콘텐츠로 부상했습니다.

그 이유는 쉽게 알 수 있습니다. 이전에 다른 기술과 달리 제작자가 현실의 규칙을 구부릴 수 있기 때문입니다. 딥페이크의 마법을 통해 시청할 수 있습니다. 스티브 부세미의 얼굴을 통해 연설하는 제니퍼 로렌스, 뭘 봐 Ryan Reynolds는 Willy Wonka처럼 보였을 것입니다., 그리고 심지어 잡아 히틀러와 스탈린의 노래비디오가 라디오스타를 죽였다 듀엣으로.

초심자에게 딥페이크 기술은 사용자가 원본과 거의 구별할 수 없는 방식으로 다른 사람의 얼굴에 다른 얼굴을 겹쳐 넣을 수 있는 합성 미디어의 한 형태입니다. 얼굴의 윤곽과 기타 특성을 이해하기 위해 수많은 데이터를 읽어 자연스럽게 장면에 혼합하고 애니메이션화합니다.

이 시점에서 아마도 TikTok("#deepfake" 해시태그의 조회수는 약 2억 회), YouTube 및 기타 플랫폼과 같은 플랫폼에서 이러한 클립을 접했을 것입니다. 팬픽션을 실현하기 위한 것인지, 스타와 함께 장면 다시 실행 그들은 원래 영화가 죽은 사람을 현대적이고 바이러스적인 밈에 캐스팅했거나 넣었으면 좋겠다고 생각하지만, 이전에는 거의 불가능했던 목적을 위해 딥페이크가 창의적인 수단으로 채택되었습니다.

이러한 변화로 인해 다음과 같은 새로운 제작자 리그가 탄생했습니다. Ctrl Shift 면의 딥페이크 동영상은 정기적으로 수백만 건의 조회수를 기록하며 종종 심야 토크쇼의 주요 토론 주제가 됩니다.

"이것은 재미있는 인터넷 동영상을 만들거나 이전에 본 적이 없는 이야기를 전달하는 완전히 새로운 방법입니다."라고 히트작을 만든 네덜란드 기반 제작자는 말합니다.

오즈의 어벤저스자신의 실명이 공개되지 않도록 요청한 딥페이크 영상입니다. “AI에 대한 매혹의 아름다운 조합입니다. 기술과 유머.”

그러나 딥페이크 기술의 미래를 완전히 위협하는 위험이 다가오고 있습니다. 바로 훼손된 평판입니다.

강력한 성능에는 뛰어난 재포스팅 가능성이 따릅니다.

안타깝게도 딥페이크는 선의의 비디오 아티스트를 위한 창의적인 도구로서의 잠재력 외에도 해를 끼칠 수 있는 엄청난 잠재력도 가지고 있습니다.

최근 UCL Jill Dando 보안 및 범죄 과학 연구소의 Dawes 미래 범죄 센터의 연구 딥페이크(deepfake)라는 라벨이 붙은 가장 심각한 AI 기반 위협입니다. 센. 딥페이크의 악의적인 생성을 범죄화하는 법안을 발의한 네브래스카주 공화당 의원 Ben Sasse는 다음과 같이 말했습니다. 경고했다 지난해에는 이 기술이 “인간의 생명을 파괴”하고 “금융 시장을 혼란에 빠뜨리고” 심지어 “전 세계의 군사적 갈등을 촉발”할 수도 있다고 주장했습니다.

어느 정도 이러한 우려는 타당합니다. 결국, 딥페이크 기술의 확산으로 이미 유명인이 출연하는 가짜 성인 콘텐츠 제작, 풍자용 정치인 사칭 등이 가능해졌습니다. 올해 초 백악관 소셜미디어 국장 댄 스카비노(Dan Scavino)는 트윗했다 트럼프의 경쟁자인 조 바이든이 사람들에게 트럼프를 재선하라고 요청하는 내용을 담은 서툴게 조작된 클립으로, 도널드 트럼프 대통령도 리트윗했습니다.

그러나 이러한 설득력이 부족한 사기극은 대중에게 알려지기 전에 빠르게 밝혀졌습니다. 더 중요한 것은, 전문가들은 딥페이크 동영상이 지금까지 사회적으로 거의 또는 전혀 영향을 미치지 않았으며 현재 즉각적인 위협을 가하지 않는다고 제안합니다. 예를 들어, 감도시각적 위협에 초점을 맞춘 사이버 보안 회사인 는 딥페이크 비디오의 대부분이 다음과 같다고 주장합니다. 음란물(96%)이며 기술이 아직 심각한 허위 정보로 발전하지 못했다고 답함 캠페인.

마찬가지로, 조지타운대학교 보고서 딥페이크는 "인상적인 기술적 위업"이지만 정책 입안자들은 서둘러서는 안 된다고 결론지었습니다. 기술이 현재 완벽하지 않고 실제 사건에 영향을 미칠 수 없다는 과대 광고 아직.

수백만 명이 시청하는 가장 인기 있는 딥페이크 채널 Ctrl Shift Face의 제작자는 "히스테리"를 믿습니다. 딥페이크 주제를 둘러싼 것은 규제가 허술한 광고와 같은 실제 문제로부터 국회의원들의 관심을 돌리는 것입니다. 네트워크 켜짐 페이스북 실제로 사람들을 오도하는 책임이 있습니다.

Ctrl Shift Face는 Digital Trends와의 인터뷰에서 “유해한 딥페이크가 발생한다면 그것이 확산될 곳은 Facebook”이라고 말했습니다. “그렇다면 더 큰 문제는 무엇입니까? 매체인가, 플랫폼인가?”

소유자 베이비존, 종종 유명인을 동영상으로 딥페이크하는 구독자 수가 50만 명이 넘는 YouTube 게임 채널입니다. Games도 비슷한 우려를 표명합니다. “저는 딥페이크가 기존의 다른 모든 기술과 마찬가지로 기술이라고 생각합니다. 기술. 좋은 목적으로 사용될 수도 있고 나쁜 목적으로 사용될 수도 있습니다.”

딥페이크를 살리기 위한 움직임

지난 1~2년 동안 정부와 기술 기업이 이러한 잠재적인 위험을 조사하면서 기술, 딥페이크 옹호자들은 이러한 우려를 완화하고 기술의 대중을 바로잡기 위해 안간힘을 쓰고 있습니다. 영상. 레딧 커뮤니티 "이 낙인을 조정"하려는 시도가 나타났고, 일부 독립적인 연구자들은 딥페이크가 입소문이 나기 전에 이를 찾아낼 수 있는 시스템을 적극적으로 구축하고 있습니다.

얼굴을 GIF로 빠르게 바꿀 수 있는 인기 앱인 Reface의 CEO이자 공동 창립자인 Roman Mogylnyi는 그의 스타트업은 현재 비디오가 Reface로 제작되었는지 여부를 알 수 있는 탐지 도구를 개발하고 있다고 말합니다. 기술. “우리는 우리와 같은 합성 미디어 도구에 대한 광범위한 접근이 인류의 공감과 창의력을 발휘하고 기술에 대한 인식을 더 좋게 바꾸는 데 도움이 될 것입니다.”라고 Mogylnyi는 Digital에 말했습니다. 동향.

인기 얼굴 교환 앱 Jiggy를 개발한 Botika의 창업자이자 CEO인 Eran Dagan도 비슷한 전망을 가지고 있습니다. 딥페이크가 주류가 될수록 사람들은 딥페이크의 긍정적인 사용에 대해 훨씬 더 잘 알게 될 것이라고 믿습니다. 사례.”

그러나 딥페이크의 잠재적인 위험을 고려하면 결국 의회가 개입할 가능성이 높습니다. 주요 기술 플랫폼 Facebook, Twitter, YouTube를 비롯한 여러 곳에서는 이미 오해를 불러일으킬 목적으로 조작된 미디어를 신고하거나 삭제하는 정책을 업데이트했습니다. 다음과 같은 여러 상태 캘리포니아 뉴욕주는 의도적으로 사기성 딥페이크를 만든 사람과 얼굴을 사용하는 사람의 동의 없이 공개한 사람을 처벌하는 법안을 통과시켰습니다.

딥페이크를 규제해야 할까요?

이러한 정책은 패러디 콘텐츠를 제외하지만, 전문가들은 불명확한 법률이나 기술의 완전한 금지를 두려워합니다. 여전히 의회는 이에 개입하지 말고 딥페이크가 새로운 형태의 미디어가 진행하는 자연스러운 과정을 진행하도록 해야 한다고 믿습니다. 을 통해.

전자프론티어재단(Electronic Frontier Foundation)의 시민 자유 담당 이사인 데이비드 그린(David Greene)은 이렇게 말합니다. 딥 페이크를 규제하거나 실제로 모든 종류의 시각적 의사소통은 언어 규제가 되며 첫 번째 문제를 연루시킵니다. 개정.

Greene은 이러한 법률이 정확해야 하며, 잘 정의되고 쉽게 이해되는 용어로 축소하려는 피해를 해결해야 한다고 덧붙입니다. “지금까지 우리가 본 것은… 주 차원의 규제 시도는 수정헌법 제1조가 요구하는 정확성을 갖추지 못한 모호하고 광범위한 법률입니다. 패러디와 정치적 논평에는 예외가 필요하지 않습니다.”

Sensity의 CEO인 Giorgio Patrini는 알고리즘과 소프트웨어에 대한 금지가 "인터넷 시대에 의미가 없다"고 생각합니다. Patrini는 이 수수께끼를 악성 코드와 비교합니다. 보호 및 모든 컴퓨터 바이러스나 그 작성자를 종식시키는 것이 거의 불가능하므로 단순히 맬웨어 방지 메커니즘에 투자하는 것이 좋습니다 대신에. “사회는 신뢰할 수 있는 것을 인증하고 합성 콘텐츠가 개인과 조직에 미치는 부정적인 영향을 방지하는 방법을 위한 새로운 메커니즘을 구축해야 합니다.”라고 그는 말했습니다.

Tim Whang은 조지타운 대학 보고서에서 딥페이크 도구의 상품화로 탐지 및 필터링 기술이 향상되었다고 썼습니다. 결과적으로 자동으로 진화하고 더욱 정확해지며, 이로 인해 심각한 문제를 제시하는 능력이 무력화됩니다. 위협.

마이크로소프트가 최근 출시한 딥페이크 탐지 도구예를 들어, 동영상을 분석하여 동영상이 수정되었을 가능성을 나타내는 신뢰도 점수를 제공합니다.

“딥페이크는 새로운 형태의 미디어 조작이지만 이러한 유형의 문제에 직면한 것은 처음이 아닙니다. 우리는 합성 미디어를 다루는 방법을 모색하고 투자하고 있습니다.”라고 YouTube 대변인이 말했습니다.

뒤에 연구원 CtrlShiftLabCtrl Shift Face를 비롯한 많은 YouTube 사용자가 사용하는 고급 딥페이크 생성 소프트웨어인 가 현재 또한 인식을 높이고 보다 포괄적인 탐지 기능을 구축하기 위해 오픈 소스 프로젝트를 진행하고 있습니다. 서비스.

“이런 [딥페이크 남용]을 예방할 수 있는 유일한 방법은 오픈소스 딥페이크 관련 프로젝트를 구축하고 대중의 관심을 끄는 것입니다. 따라서 대중 네티즌들은 딥페이크가 존재한다는 사실을 깨닫게 될 것입니다.”라고 CtrlShiftLab의 연구원 중 한 명인 Kunlin Liu는 Digital Trends에 말했습니다.

몇몇 딥페이크 제작자 디지털 트렌드(Digital Trends)는 낙관적인 태도를 유지하고 딥페이크에 대한 국가의 반발을 조기에 발견해야 한다고 말했습니다. 그들은 밈과 패러디 문화에서 딥페이크의 역할이 커지면서 이 신흥 기술의 형편없는 평판을 고치는 데 중요한 역할을 할 것이라는 데 동의합니다. 그리고 비디오에 면책조항이 있고 플랫폼이 보다 효과적인 탐지 계층에 투자하는 한 딥페이크는 계속 존재할 것이라고 그들은 덧붙였습니다.

“딥페이크에 대한 평판이 크게 좋아지고 있다고 생각합니다. 2년 전만 해도 딥페이크라는 단어는 자동으로 포르노를 의미했습니다.” Ctrl Shift Face의 제작자가 말했습니다. "이제 대부분의 사람들은 인터넷에 떠도는 재미있는 비디오 때문에 딥페이크를 알고 있습니다."

편집자의 추천

• 디지털 트렌드의 변화를 위한 기술 CES 2023 어워드
• 재미있는 프로젝트 Gucciberg에서 딥페이크를 한 Gucci Mane이 고전 소설을 읽습니다.
• 예술가와 활동가들이 딥페이크를 선의의 힘으로 사용하는 방법
• 트위터, 2020년 선거 앞두고 '해를 끼치는' 딥페이크 금지 움직임
• 캘리포니아는 정치와 포르노를 위한 딥페이크를 단속하고 있습니다.