딥페이크와 딥페이크 탐지기 사이의 전쟁 속으로

세계 최고의 탐정과 지혜 전쟁을 벌이는 범죄의 주인공에 관한 구불구불한 영화를 상상해 보세요.

범죄자는 전문가의 손재주와 지구상의 거의 모든 사람으로 자신을 위장하는 놀라운 능력을 사용하여 엄청난 신뢰 속임수를 성공시키려고 합니다. 그는 자신이 하는 일을 너무 잘해서 사람들이 실제로 일어나지 않은 일을 보았다고 믿게 만들 수 있습니다.

그런데 우리는 형사를 만납니다. 그녀는 도둑의 '말'을 알아차릴 수 있는 훌륭하고 아무것도 하지 않는 유형입니다. 그녀는 무엇을 찾아야 할지 정확히 알고 있으며 심지어 가장 작은 행동(여기서 눈썹을 치켜올리고 저기서 모음을 떨어뜨리는 것)조차도 문제가 있을 때 그녀에게 경고하기에 충분합니다. 그녀는 우리의 적대자를 붙잡은 유일한 사람이고 이제 그녀는 다시 한번 그의 뒤를 쫓고 있습니다.

하지만 문제가 있습니다. 우리의 도둑은 그것을 알고 있습니다. 그녀 무엇을 찾아야 할지 알고 있습니다. 그 결과, 그는 주인공이 깨닫지 못한 채 게임을 바꾸게 되었다.

딥페이크 문제

이것은 본질적으로 지금까지의 딥페이크와 딥페이크 탐지에 관한 이야기입니다. 사람들의 모습을 디지털 방식으로 변경할 수 있는 합성 미디어의 한 형태인 딥페이크(Deepfakes) 페이스/오프 A.I가 감독한 리메이크 작품입니다. 연구원들은 2017년 현장에 등장한 이후 우려의 원인이 되어 왔습니다. 많은 딥페이크는 마음이 편하지만(교체 아웃) 교활한 스탤론의 아니 종결 자), 잠재적인 위협이 되기도 합니다. 딥페이크는 실제처럼 보이는 가짜 포르노 비디오를 만드는 데 사용되었으며 정치적 사기와 금융 사기에도 사용되었습니다.

이러한 사기 행위가 더 큰 문제가 되지 않도록 누군가 개입하여 딥페이크가 사용될 때와 사용되지 않을 때를 확실히 말할 수 있어야 합니다.

최초의 딥페이크 탐지기가 등장하는 데는 오랜 시간이 걸리지 않았습니다. 2018년 4월까지 제가 다루었던 이를 위한 초기 노력 중 하나, 독일 뮌헨공과대학교 연구진이 만든 제품입니다. 딥페이크 기술 자체와 마찬가지로 A.I. — 이번에는 제작자가 가짜를 만드는 것이 아니라 발견하기 위해 이를 활용했습니다.

딥페이크 탐지기는 딥페이크에 대한 세부 정보를 검색하여 작동합니다. 상당히 기괴한 계곡뿐만 아니라 가장 작은 기괴한 움푹 들어간 곳을 찾기 위해 이미지를 수색함으로써 바로 알 수 있습니다. 이미지에서 얼굴 데이터를 잘라낸 다음 신경망을 통해 전달하여 적법성을 파악합니다. 경품 세부 사항에는 잘못 재현된 눈 깜박임과 같은 내용이 포함될 수 있습니다.

그러나 이제 캘리포니아 대학교 샌디에고의 연구원들은 적대적 사례라고 불리는 것을 비디오 프레임에 삽입하여 딥페이크 탐지기를 물리칠 수 있는 방법을 고안했습니다. 적대적 사례는 A.I.의 매혹적이지만 무서운 결함입니다. 행렬. 예를 들어 가장 똑똑한 인식 시스템도 속일 수 있습니다. 거북이가 총이라고 생각하는 것, 또는 에스프레소는 야구입니다. 그들은 신경망이 잘못된 분류를 하도록 이미지에 노이즈를 미묘하게 추가함으로써 이를 수행합니다.

소총을 껍질이 벗겨진 파충류로 착각하는 것과 같습니다. 아니면 진짜를 위한 가짜 비디오일 수도 있습니다.

탐지기를 속이는 행위

“최근 사실적인 딥페이크 영상을 생성하는 방법이 급증하고 있습니다.” 파스 니카라UC San Diego 컴퓨터 공학 대학원생인 는 Digital Trends에 말했습니다. “이러한 조작된 영상은 악의적인 목적으로 사용될 수 있기 때문에 딥페이크 영상을 안정적으로 탐지할 수 있는 탐지기 개발에 상당한 노력이 있었습니다. 예를 들어, 페이스북 최근 Deepfake 탐지기 개발에 대한 연구를 가속화하기 위해 Deepfake 탐지 챌린지를 시작했습니다. [그러나] 이러한 탐지 방법은 가짜 및 실제 비디오 데이터 세트에서 90% 이상의 정확도를 달성할 수 있지만, 우리 연구에서는 공격자가 쉽게 우회할 수 있음을 보여줍니다. 공격자는 사람의 눈에는 거의 감지할 수 없는 세심하게 조작된 노이즈를 비디오의 각 프레임에 주입하여 피해자 감지기에 의해 잘못 분류될 수 있습니다.”

공격자는 탐지기의 아키텍처와 매개변수에 대한 구체적인 지식이 없더라도 이러한 비디오를 제작할 수 있습니다. 이러한 공격은 YouTube와 같은 플랫폼에서 온라인으로 공유된 경우와 마찬가지로 비디오가 압축된 후에도 여전히 작동합니다.

테스트 결과, 이 방법은 탐지기 모델에 접근할 수 있을 때 탐지 시스템을 99% 이상 속일 수 있었습니다. 그러나 감지기 모델에 대한 정보가 알려지지 않은 압축 비디오의 경우 가장 낮은 성공 수준에서도 여전히 78.33%의 성공률을 보였습니다. 좋은 소식은 아닙니다.

연구원들은 코드가 오용될 수 있다는 이유로 코드 공개를 거부하고 있다고 Neekhara는 지적했습니다. “우리 코드를 사용하여 생성된 적대적 비디오는 일부 소셜 미디어 [플랫폼]에서 제작에 사용되는 다른 보이지 않는 딥페이크 탐지기를 잠재적으로 우회할 수 있습니다.”라고 그는 설명했습니다. "우리는 이러한 딥페이크 탐지 시스템을 구축하는 팀과 협력하고 있으며, 우리의 연구를 활용하여 보다 강력한 탐지 시스템을 구축하고 있습니다."

딥페이크 고양이와 쥐 게임

물론 이것이 이야기의 끝은 아닙니다. 영화 비유로 돌아가면, 이 부분은 영화 시작 후 약 20분 정도 밖에 되지 않습니다. 우리는 도둑이 자신을 속였다고 생각한다는 것을 형사가 깨닫는 현장에 아직 도착하지 않았습니다. 또는 도둑이 형사가 자신이 알고 있다는 것을 알고 있다는 것을 깨닫는 부분까지. 또는.. 당신은 그림을 얻습니다.

무한정 계속될 가능성이 높은 딥페이크 탐지를 위한 이러한 고양이와 쥐 게임은 사이버 보안 분야에서 일한 사람이라면 누구나 잘 알고 있습니다. 해커가 수정된 버전에서 취약점을 발견하기 전에 악의적인 해커가 취약점을 발견하고 개발자가 이를 차단한 후 개발자가 다시 수정합니다. 무한히 계속하세요.

"예, 딥페이크 생성 및 탐지 시스템은 바이러스 및 바이러스 백신 역학을 밀접하게 따릅니다." 셰젠 후세인, UC San Diego 컴퓨터 공학 박사. 학생이 Digital Trends에 말했습니다. “현재 딥페이크 탐지기는 기존 딥페이크 합성 기술을 사용하여 생성된 실제 및 가짜 비디오 데이터 세트에 대해 교육을 받았습니다. 그러한 탐지기가 미래의 딥페이크 생성 시스템에 대해 완벽할 것이라는 보장은 없습니다. 군비 경쟁에서는 탐지 방법을 정기적으로 업데이트하고 다가오는 딥페이크 합성 기술에 대해 교육해야 합니다. [그들은] 또한 훈련 중에 적대적인 비디오를 통합하여 적대적인 사례에 대해 강력하게 만들어야 합니다.”

ㅏ 이 작품을 설명하는 논문, "적대적 딥페이크: 적대적 사례에 대한 딥페이크 탐지기의 취약성 평가"라는 제목으로 최근 WACV 2021 가상 컨퍼런스에서 발표되었습니다.

편집자의 추천

• AI가 Breaking Bad를 애니메이션으로 만들었습니다. 정말 끔찍합니다.
• AI가 결코 세상을 지배하지 못하는 이유
• 착시 현상은 차세대 AI를 구축하는 데 도움이 될 수 있습니다
• 마무리: 과학자들이 로봇에게 인간과 같은 촉각을 부여하는 방법
• 아날로그 AI? 이상하게 들리겠지만, 미래일 수도 있습니다

당신의 라이프스타일을 업그레이드하세요Digital Trends는 독자들이 모든 최신 뉴스, 재미있는 제품 리뷰, 통찰력 있는 사설 및 독특한 미리보기를 통해 빠르게 변화하는 기술 세계를 계속해서 살펴볼 수 있도록 도와줍니다.