딥페이크가 곧 포토샵만큼 보편화될 이유

집이나 휴대폰에서 편안하게 딥페이크 동영상을 만들 수 있다는 것을 알고 계셨나요? 귀하의 지역 앱 스토어에서 부담 없이 구입할 수 있는 수많은 얼굴 교환 또는 딥페이크 앱 중 하나를 다운로드하세요. 선거에 영향을 미칠 수 있다.

좋아요, 그렇지는 않습니다. 우리는 그것을 지지하지 않습니다. 하지만 주변의 과대광고와 우려 속에서 딥페이크 기술과 그 실제적인 오용에 대해 단순한 진실은 이 기술이 사라지지 않는다는 것입니다. 실제로 이는 Photoshop만큼 일반화될 것입니다. 특히 앱 개발자가 작업을 수행하는 경우에는 더욱 그렇습니다. 딥페이크 기술이 이에 관해 할 말이 있다: 우리는 곧 우리 자신의 얼굴이 들어간 하이퍼 타겟 광고를 보게 될 것이다. 그들을.

우크라이나에 본사를 둔 스타트업 RefaceAI의 CEO인 Roman Mogylnyi는 2011년부터 기계 학습을 사용해 왔으며 2014년에는 딥페이크 기술을 기반으로 자체 앱을 만드는 방향으로 전환했다고 말했습니다. RefaceAI는 이미 Reflect라는 사진 딥페이크 앱을 출시했으며 자체 비디오 딥페이크 앱과 딥페이크 비디오 감지에 도움이 되는 웹 서비스를 모두 출시할 예정입니다.

Mogylnyi는 "우리는 이 기술이 오용되고 있다는 것을 처음부터 확인했습니다."라고 말했습니다. "우리는 더 잘할 수 있다고 생각했습니다."

RefaceAI는 이미 일부 영화 제작사와 협력하고 있습니다. Mogylnyi는 어느 회사인지는 밝히지 못했지만 해당 기술을 사용하여 영화 제작사를 교체했습니다. 배우들의 얼굴을 복식 몸체로 옮기는 것은 배우들을 세트장으로 다시 날아가서 장면을 다시 촬영하는 것보다 훨씬 적은 비용으로 이루어집니다. 질문. Mogylnyi는 이것이 회사가 딥페이크의 미래로 보는 것이라고 말했습니다. “우리는 이를 마케팅, 개인화 광고, GIF, 일반적인 엔터테인먼트 자료에 사용하고 싶습니다.”라고 그는 말했습니다.

미디어의 미래

RefaceAI는 이러한 불가피한 마케팅 곡선을 앞서가려고 노력하는 회사가 아닙니다. 한국에 기반을 둔 앱인 캐리카(Carica)도 인기 있는 반응 GIF에 자신의 얼굴을 접목해 친구와 가족에게 보낼 수 있는 딥페이크 GIF와 동영상을 개발하고 있습니다. 이 앱에는 이미 사용자의 얼굴을 광고 사진이나 동영상에 포함시키는 팝업 광고 기능이 있습니다.

Carica의 엔지니어인 Joseph Zhang은 Digital Trends에 “우리는 우리 회사가 미디어 회사가 되기를 원합니다.”라고 말했습니다. Deepfake는 그들이 시작하는 방식에 불과합니다. “미디어 회사들이 이 기능을 채택하기 시작할 것이라고 생각합니다. 그것은 당신이 가지고 있는 옵션이 될 것입니다. 필터. 사람들에게는 너무나 평범한 일이 될 것입니다.”

장과 모길니 둘 다 딥페이크가 어디로 향할지에 대한 모델로 Photoshop의 확산을 사용했습니다. 여전히 약간 논란의 여지가 있지만 눈에 띄지 않을 만큼 흔합니다. 그리고 두 사람 모두에게 딥페이크에 얽힌 정치적, 윤리적 문제는 정말 평범한 일입니다.

딥페이크 탐지 플랫폼인 Amber Video의 CEO인 Shamir Allibhai는 Digital Trends와의 인터뷰에서 그의 가장 중요한 견해는 대부분의 다른 기술과 마찬가지로 딥페이크 기술도 비도덕적이라는 것이었습니다.

“그것은 잠재적 테러리스트들이 Microsoft Word를 사용하여 부도덕하고 사악하다고 말하는 것과 같습니다. 폭력적이고 극단주의 이데올로기를 옹호하는 것은 다른 사람들도 폭력적인 극단주의 이데올로기를 지지하도록 고무할 것입니다.”라고 그는 말했습니다. 말했다. “저는 이 기술도 같은 맥락으로 봅니다.”

Amber Video는 "사기, 평판 손실 및 이해관계자의 불신을 방지"하기 위해 딥페이크에 맞서 싸우는 서비스를 광고하는 플랫폼입니다. 알리바이 단지 자신의 얼굴이 나왔다는 이유만으로 무언가를 살 준비가 되었는지는 알 수 없었지만 결국 기술이 퍼지는.

그는 “사회를 비추는 거울이다”라고 말했다. “트위터 플랫폼과 같은 기술에서 이것을 볼 수 있습니다. 당신은 인류의 최고와 최악의 모습을 봅니다. 딥페이크 기술은 또한 사회를 반영할 것입니다. 가벼운 풍자에 이용하고 권위주의 정권을 비웃는 사람들도 있습니다. 하지만 우리는 또한 혼돈을 꿰매기 위해 노력할 것입니다.”

딥페이크의 무기화

가장 큰 두려움은 딥페이크의 잠재적 남용과 무기화입니다. 이러한 정보가 점점 더 보편화되면서 광범위한 허위 정보 캠페인뿐만 아니라 짓궂은 농담이나 고등학교 괴롭힘에도 사용되는 것을 볼 수 있습니다. 기술이 충분히 접근 가능하다면 누구나 사용할 수 있습니다.

Carica와 RefaceAI 모두 잠재적인 남용을 완화하기 위한 조치를 취하고 있다고 밝혔습니다. RefaceAI는 딥페이크 탐지 웹 서비스를 제공하고 Carica는 콘텐츠 조정자를 제공합니다. 현재 캐리카 회사 전체 직원은 9명에 불과하며 콘텐츠 조정 업무를 서로 교환한다고 장씨는 말했습니다.

RefaceAI의 Mogylnyi는 "이것은 우리가 스스로에게 던진 첫 번째 질문이었습니다."라고 말했습니다. “우리는 수년 동안 우크라이나의 정치적 스캔들과 관련하여 이 문제를 다루어 왔습니다. 우리는 우리의 기술이 오용될 수 있다는 것을 이해합니다. Photoshop조차도 괴롭힘에 사용될 수 있고 사용되어 왔습니다. 하지만 다른 한편으로 우리는 이에 대한 해독제를 제공하고 있습니다. 우리는 사용자들이 우리 앱에 성적인 콘텐츠를 업로드하도록 했고, 해당 사용자들을 즉시 금지했습니다.”

Carica는 지금 당장 사용해야 할 만큼 작은 앱입니다. 하지만 장씨는 전반적으로 걱정하지 않았다.

“이런 일은 모든 새로운 기술에서 발생합니다.”라고 장씨는 말했습니다. "첫 번째는 오용으로 인해 발생하지만 그 단계가 지나면 모든 사람이 사용할 수 있게 되고 사람들은 이를 일반적인 용도로 사용하게 됩니다."

편집자의 추천

• 보안 로봇이 가까운 학교에 올 수 있다
• Amazon, AI를 배포하여 제품 리뷰 요약
• Amazon, 검색에 '한 세대에 한 번' 변경 계획 발표, 구인 광고 공개
• Nvidia의 200달러짜리 Jetson Orin Nano 미니컴퓨터는 이전 버전보다 80배 빠릅니다.
• Google 스마트 캔버스, 앱 간 통합 강화