FBI의 딥페이크 경고가 걱정되시나요? 이 전문가 팁을 따르십시오

지난주 미연방수사국(FBI)은 공익 광고를 냈다. 딥페이크 노골적인 콘텐츠의 증가와 강탈, 협박, 괴롭힘과 같은 범죄에 어떻게 사용되고 있는지에 대해 설명합니다. 가장 간단한 용어로, 딥페이크는 원본을 모방하려는 합성 멀티미디어 자료입니다.. AI 생성 사진, 비디오 또는 오디오 클립이 될 수 있습니다.

"딥페이크"라는 이름은 이러한 미디어를 만드는 데 사용되는 고유 기술인 딥 러닝에서 유래했습니다. 원본 자료를 사용하여 AI 모델을 교육한 다음 원하는 자료를 생성하도록 수정하는 작업이 포함됩니다. 결과. 완전히 새로운 발명품은 아니지만 인기 폭발하는 생성 AI — 그리고 액세스 — 딥페이크 범죄가 증가하고 있습니다.

공화당 대선후보인 론 드샌티스(Ron DeSantis)의 캠페인도 라이벌 도널드 트럼프(Donald Trump)의 딥페이크 이미지를 사용하여 그를 비방할 정도로 인기가 높습니다. 딥페이크는 AI 규제 요구가 곳곳에서 제기되는 이유 중 하나이기도 하다. FBI에 따르면 딥페이크를 생성하는 콘텐츠는 일반적으로 소셜 미디어 게시물에서 가져옵니다. 강탈 및 괴롭힘을 위해 성적으로 노골적인 자료로 수정되기 전의 화상 통화 클립.

딥페이크에 대한 전문가의 의견

그래서 해결책은 무엇입니까? 불행히도 해결책이 없습니다. 적어도 "소셜 미디어"의 전체 의미를 근본적으로 뒤집는 타협 없이는 아닙니다.

“안타깝게도 당신의 사진이나 동영상이 딥 페이크를 만드는 데 사용되지 않도록 하는 유일한 방법은 게시를 중단하는 것입니다. 온라인에서 자신의 사진을 찍을 수 있지만 인터넷 사용자에게는 많은 재미가 있을 것입니다.”라고 사이버 보안 전문가인 Adrianus Warmenhoven은 말합니다. 고문

“새롭고 더 나은 보안 관행이 등장함에 따라 악의적인 행위자는 피해를 입힐 방법을 찾을 것입니다. 따라잡기 게임이고 때때로 실망스럽습니다.”라고 전직 Google 직원이자 차세대 비밀번호 관리 도구인 Parteek Saran은 말합니다. 우노. 그는 또한 게시와 관련하여 "제로 트러스트 철학"을 시도하고 채택해야 한다고 제안합니다. 딥페이크를 피하기 위해 소셜 미디어에 콘텐츠를 게시하고 지인들과의 효과적인 커뮤니케이션을 강조합니다. 사기.

디지털 안전 전문가이자 CMO인 Yaron Litwin은 “AI가 디지털 안전 문제를 해결하는 데 도움이 될 수 있지만 완벽한 안전망은 없습니다. 천개. 이 회사의 이름을 딴 이 앱은 온라인 성범죄로부터 어린이를 안전하게 보호하는 것을 목표로 하며 다양한 자녀 보호 기능도 제공합니다. Litwin은 사적인 이미지나 타협적인 이미지를 게시하지 말고 일반 이미지도 게시하는 빈도를 줄여야 한다고 덧붙입니다.

자신을 안전하게 지킬 수 있는 방법

딥페이크는 끔찍하며 개인과 그 가족에게 가할 수 있는 트라우마를 헤아리기 어렵습니다. 그러나 사용자가 함정에 빠지지 않거나 적어도 상당 부분 피할 수 있는 몇 가지 방법이 있습니다.

평균 단계를 이해하려면 스마트 폰 일반적인 디지털 기술을 가진 사용자가 취할 수 있다는 점을 고려하여 저는 에서 연구 및 혁신 부사장인 Andrew Garner에게 연락했습니다. 젠 디지털, Norton, Avast 및 Avira와 같은 신뢰할 수 있는 안전 도구를 제공하는 소프트웨어 회사입니다.

Gardner는 안전 프로토콜이 근본적인 수준에서 시작된다고 말합니다. 사용자는 먼저 자신의 프로필을 비공개로 설정하거나 최소한 게시물 가시성 설정을 변경하여 서로 팔로우하는 사람들만 게시물을 보고 상호 작용할 수 있도록 해야 합니다. 자녀 보호현재 거의 모든 주요 소셜 미디어 플랫폼에서 사용할 수 있는 는 보호자가 의심스러운 상호 작용을 주시할 수 있도록 부지런히 활성화해야 합니다.

아는 사람의 요청만 수락해야 한다는 것이 일반적인 조언이지만 추가 조치를 취하는 것은 먼 길을 갈 수 있습니다. Gardner는 "네트워킹 중이라면 초대받은 사람의 최근 게시물과 활동을 확인하여 그들이 얼마나 실제적인지 측정하십시오."라고 말하면서 "계정 소수의 친구 또는 공통 친구와 함께.” Gen Digital 경영진이 제공해야 하는 또 다른 중요한 조언은 소셜 미디어를 확인하고 제한하는 것입니다. 로그인.

사용자는 온라인 서비스를 자주 방문하며 번거로운 계정 생성을 피하기 위해 소셜 미디어 로그인 옵션을 선택합니다. "이를 통해 앱은 개인 정보에 액세스할 수 있으며 경우에 따라 해당 앱은 해당 정보를 제3자에게 판매합니다."라고 그는 말합니다. Facebook과 관련된 Cambridge Analytica 스캔들 좋은 예입니다. 자신의 소셜 미디어 계정에 어떤 앱이 연결되어 있는지 주기적으로 확인하고, 필요한 경우가 아니면 접근 권한을 철회해야 합니다.

딥페이크는 정교한 AI 기반 범죄이지만 Gardner는 사용자가 여전히 몇 가지 기본적인 안전 지침을 준수해야 한다고 제안합니다. 2단계 인증 활성화, 강력한 암호 사용, 생체 인식 패스키 활성화, 의심스럽거나 알려지지 않은 연결.

안전하고 책임감 있는 소셜 미디어

Canopy의 Litwin은 더 많이 공유할수록 설득력 있는 딥페이크를 만드는 것이 더 쉬워진다고 생각합니다. 노골적인 자료 생성에 대한 제한 없이 그늘진 AI 이미지 생성 모델이 부족하지 않습니다. 이러한 도구는 이미지 입력을 사용하여 모델을 훈련합니다. 훈련 데이터가 많을수록 딥페이크가 더 정확하고 현실적입니다.

다음과 같은 주류 AI 이미지 생성기가 구현하는 표준 전술입니다. 중간 여정. 소셜 피드가 열려 있고 충분한 양의 사진과 동영상이 있는 경우 악의적인 행위자가 손상된 딥페이크를 만들기 위해 스크랩하는 것을 막을 수 없습니다. 그러나 소셜 미디어의 가치를 가장 소중한 추억을 간직할 수 있는 장소로 보는 사람들이라면 ~ 해야 하다 가져가다.

"온라인에서 공유하는 개인 정보에 주의하고, 계정의 개인 정보 설정을 조정하고, 이중 인증을 활성화하고, 이미지에 결함이 있는지 주의 깊게 검토하십시오." 보이드 클레위스Forbes Security Council의 사이버 보안 전문가이자 "Through The Firewall: The Alchemy Of Turning Crisis Into Opportunity"의 저자입니다.

하지만 딥페이크를 생성하고 유포하는 것과 같은 수상한 행위에 연루된 나쁜 행위자가 있을 가능성이 있는 소셜 미디어 프로필을 어떻게 안정적으로 찾아낼 수 있을까요? “의심스러운 프로필로부터 영상이나 음성 자료를 공유하고, 해당 계정에 개인정보나 프로필이 가짜일 가능성이 높습니다.”라고 Baltic Amadeus의 정보 보안 아키텍트인 Tomas Samulis는 말합니다. 그는 개인 식별 정보가 없는 이러한 프로필은 가짜 및 기타 논란이 되는 정보를 퍼뜨리기 위해 특별히 만들어졌다고 제안합니다.”

딥페이크에 걸리면 어떻게 해야 할까요?

하지만 일반 스마트폰 사용자가 취할 수 있는 예방 조치는 너무 많습니다. 가장 디지털에 정통한 사용자조차도 사이버 범죄를 받는 쪽에서 자신을 발견합니다. 이중 인증, 개인 프로필 및 생체 인식과 같은 모든 표준 도구 사용 방화벽.

모든 예방 조치를 취했음에도 불구하고 딥페이크 범죄의 중심에 있는 자신을 발견한 경우 문제를 스스로 해결하는 대신 전문가의 조언과 당국의 도움을 구하십시오. 전문가들은 그러한 괴롭힘에 가만히 앉아 있거나 스스로 신중하게 처리하려고 하면 피해자의 상황이 악화되는 경우가 많다고 지적합니다.

“누군가 귀하의 콘텐츠를 오용하고 있는 것을 발견하면 저작권법에 정통한 변호사를 찾아 해당 콘텐츠를 제거할 수 있도록 도와주십시오. 가능한 한 빨리”라고 달라스 변호사 협회 회원이자 사이버 보안 위험 및 데이터와 같은 분야의 공인 법률 전문가인 Rob Scott은 말합니다. 은둔.

디지털 권리를 안내할 수 있기 때문에 법률 전문가와 상담하는 것이 중요합니다. Canopy의 Litwin은 또한 모든 저작권을 보존할 것을 제안합니다. 증거, 피해자에게 "메시지, 이메일 또는 그와 관련된 모든 형태의 커뮤니케이션과 같은 갈취 시도의 모든 증거를 문서화하도록 조언합니다. 강요."

또 다른 중요한 조언은 범죄자가 더 심각한 갈취 요구로 그들을 조종하거나 괴롭힐 수 있기 때문에 피해자는 즉시 범죄자와의 모든 접촉을 중단해야 한다는 것입니다. 동시에 사용자는 사이버 보안 전문가에게 연락하거나 정부 사이버 범죄 헬프라인 중 하나에 전화를 걸어 적절한 조치를 취해야 합니다.

딥페이크를 식별하는 방법

AI 엔진이 점점 더 정교해짐에 따라 AI 엔진이 생성하는 딥페이크의 종류는 섬뜩할 정도로 현실이 되어 발견하기 어려워지고 있습니다. 그러나 인공적으로 변경되거나 AI가 생성한 손상 자료를 발견하기 위해 사용자가 주의를 기울일 수 있는 몇 가지 마커가 여전히 있습니다.

다음은 전문가가 제공해야 하는 딥페이크 식별자 모음입니다.

• 부자연스러운 안구 움직임에 주의하십시오. 사람의 눈이 깜박이지 않거나, 눈 움직임이 꺼져 있거나, 얼굴 표정이 말하는 단어와 일치하지 않는 것 같으면 딥페이크 클립일 가능성이 큽니다. 감정의 부족 또는 일관되지 않은 감정은 미디어가 디지털 방식으로 변형되었음을 알려주는 표식입니다.
• "Deepfake 기술은 일반적으로 얼굴 특징에 중점을 둡니다."라고 Gardner는 말합니다. "사람의 체형이 자연스럽지 않거나 움직임이 불규칙하고 연결되지 않으면 영상이 딥페이크일 가능성이 높습니다."
• 신뢰할 수 있는 또 다른 마커는 배경으로, 부자연스럽게 흐릿하게 보이거나 이상한 시각적 아티팩트를 보일 수 있습니다. 딥페이크를 식별하는 또 다른 쉬운 방법은 특히 주변 항목의 얼굴과 그림자와 관련하여 비정상적인 변색이나 심각한 색상 불일치를 찾는 것입니다.
• 어떤 사람이 "완벽한 머리카락"을 흔들고 있는 사진을 보았고 몇 가닥의 흩날리는 머리카락이나 부스스함과 같은 개별 요소를 발견할 수 없다면 조심하세요. AI 모델은 또한 치아와 씨름하는 것으로 알려져 있습니다. 부자연스럽게 완벽한 치아, 개별 치아의 윤곽이 부족한 치아 또는 일반적인 인간의 의치보다 치아가 더 많은 치아를 찾으십시오.
• 잘못 정렬된 신체 부위, 흐릿한 가장자리, 약간의 추가 또는 적은 손가락, 이상하게 뒤틀린 팔다리, 동기화되지 않은 움직임 신체 부위의 움직임, 정지 및 감정적 단절이 없는 목소리는 면밀히 주의해야 하는 다른 징후입니다. 을 위한. Samulis는 "가짜 음성 또는 오디오 녹음에는 종종 배경 소음, 로봇처럼 들리는 음성 및 이상한 발음이 있습니다."라고 설명합니다.

효과가 반반인 솔루션의 심각한 문제

위에서 설명한 것처럼 딥페이크에 대한 확실한 안전망은 없습니다. 하지만 사진을 공유하는 위치, 사진을 볼 수 있는 사람, 소셜 미디어 액세스 범위에 주의를 기울이면 상대적으로 안전한 영역에 머물 수 있습니다.

또한 온라인 친구가 누구인지 주의를 기울여야 하며, 소셜 미디어의 친구 서클에 추가하기 전에 새로운 초대의 활동을 조사해야 합니다. deepfakes가 진행되는 한 약간 까다 롭습니다. 그러나 경계를 늦추지 않고 의심스러운 사진이나 비디오의 불일치를 평가하는 데 시간을 할애하면 상당히 높은 정확도로 딥페이크를 발견할 수 있습니다.

결국 위생적인 ​​온라인 습관을 기르고 점점 더 위조되기 쉬운 온라인 공간에서 경계를 유지하는 것이 중요합니다.

편집자 추천

• Google Bard는 이제 말할 수 있지만 ChatGPT를 익사시킬 수 있습니까?
• Elon Musk의 새로운 AI 회사는 '우주 이해'를 목표로합니다.
• 꿀벌의 두뇌를 통해 AI 혁신이 올 수 있다고 과학자들은 말합니다.
• OpenAI, 최초의 국제 전초기지 위치 공개
• 81%는 ChatGPT가 보안 위험이라고 생각하는 설문 조사 결과