범죄자들이 AI 챗봇을 지휘함에 따라 유로폴 경고

이번 주 유로폴(Europol)은 범죄자들이 첨단 AI 챗봇의 새로운 물결을 포착하면서 제기되는 위험을 강조하는 엄중한 경고를 발표했습니다.

~ 안에 게시물 이번 주에 온라인으로 공유된 유럽의 법 집행 기관은 OpenAI의 ChatGPT 및 GPT-4, 그리고 구글의 바드, 대중을 속이는 새로운 방법을 찾는 범죄자들이 점점 더 많이 사용할 것입니다.

관련된

ChatGPT: 알아야 할 최신 뉴스, 논란, 팁
ChatGPT에 대한 DAN 프롬프트는 무엇입니까?
ChatGPT 제조사 OpenAI, 소비자 보호법 위반으로 FTC 조사에 직면

피싱 이메일로 알려진 것은 일반적으로 문법 오류와 철자 오류로 가득 차서 정크 폴더에 들어가게 됩니다. 받은 편지함에 들어간 것조차도 너무 끔찍하게 쓰여서 받는 사람이 다시 생각하지 않고 빨리 버릴 수 있습니다.

하지만 AI 챗봇은 엉성한 오류 없이 잘 작성된 메시지를 작성할 수 있어 범죄자가 다음과 같은 메시지를 보낼 수 있습니다. 수신자가 이메일을 확인할 때 특별한 주의를 기울여야 한다는 것을 의미하는 설득력 있는 이메일을 생성합니다. 메시지.

유로폴은 고급 챗봇이 "특정 개인의 말투를 흉내내는 데 사용할 수 있는 언어 패턴을 재현하거나 이러한 능력은 “잠재적 피해자가 범죄자의 손에 신뢰를 두도록 오도하기 위해 대규모로 남용될 수 있다”고 덧붙였습니다. 배우들.”

Europol은 "보다 설득력 있는 형태의 허위 정보도 확산될 것"이라며 "속도와 규모에 맞게 실제처럼 들리는 텍스트를 생성하는 데 탁월한 챗봇의 새로운 물결이 펼쳐질 것"이라고 말했습니다. 추가: “이 모델은 사용자가 비교적 적은 비용으로 특정 내러티브를 반영하는 메시지를 생성하고 퍼뜨릴 수 있기 때문에 선전 및 허위 정보 목적에 이상적입니다. 노력."

셋째, 유로폴은 코딩을 사이버 범죄자들이 악성 소프트웨어를 만들기 위해 장악하고 있는 새로운 영역으로 꼽았습니다. “이외에 인간과 유사한 언어 생성, ChatGPT 다양한 프로그래밍 언어로 코드를 생성할 수 있다”고 이 기관은 지적했다. “기술적 지식이 거의 없는 잠재적인 범죄자에게 이는 악성 코드를 생성할 수 있는 귀중한 리소스입니다.”

온라인에서 사악한 활동을 탐지하기가 점점 더 어려워짐에 따라 법의 권리를 따르는 사람들에게 상황이 "암울한 전망을 제공"한다고 말했습니다.

AI 챗봇 열풍은 Microsoft가 지원하는 OpenAI가 인상적인 ChatGPT 도구를 출시한 2022년 11월에 시작되었습니다. 개선된 버전, GPT-4는 최근에 출시되었습니다., Google은 Bard라는 유사한 도구도 공개했습니다. 세 가지 모두 몇 가지 프롬프트만으로 자연스러운 텍스트를 생성하는 인상적인 능력으로 유명합니다. 다양한 작업을 지원하거나 대체할 수도 있습니다. 앞으로 몇 년 안에.

다른 유사한 AI 기반 기술을 사용하면 단 몇 개의 텍스트만으로 원본 이미지, 비디오 및 오디오를 만들 수 있습니다. 기술이 지속적으로 향상됨에 따라 어떠한 형태의 미디어도 AI의 영향에서 벗어날 수 없음을 강조합니다.

일부 주요 목소리는 급격한 증가에 대해 이해할 수 있는 우려를 가지고 있습니다. Elon Musk가 최근 서명한 공개 서한, Apple 공동 창립자 Steve Wozniak 및 다양한 전문가들은 인간과 경쟁하는 지능을 갖춘 AI 시스템이 "사회와 인류에 심각한 위험"을 초래할 수 있다고 주장합니다. 그 편지는 다음을 요구했다. 고급 도구에 대한 안전 프로토콜의 생성 및 구현을 허용하기 위해 6개월간 휴식을 취하고 올바른 방식으로 처리하면 "인류는 번영하는 미래를 누릴 수 있습니다"라고 덧붙였습니다. AI와 함께.”