ChatGPT의 어두운 면: 할 수 있지만 해서는 안 되는 일

사용해 보셨나요? OpenAI의 ChatGPT 최근에 재미있는 일이 있었나요? 노래, 시, 농담을 써달라고 요청할 수 있습니다. 불행하게도 비윤리적인 경향이 있는 일을 하도록 요청할 수도 있습니다.

ChatGPT는 햇빛과 무지개만 있는 것이 아닙니다. ChatGPT가 할 수 있는 일 중 일부는 완전히 사악합니다. 그것을 무기화하고 잘못된 이유로 사용하는 것은 너무 쉽습니다. ChatGPT가 해왔고 할 수 있지만 절대 해서는 안 되는 일에는 어떤 것이 있나요?

만능의 잭

당신이 그들을 좋아하든 싫어하든 ChatGPT 및 유사한 챗봇은 여기에 있습니다. 어떤 사람들은 그것에 만족하고 어떤 사람들은 그것이 결코 이루어지지 않았으면 좋겠다고 생각합니다. 하지만 그렇다고 해서 우리 삶에서 ChatGPT의 존재가 시간이 지남에 따라 거의 커질 것이라는 사실은 바뀌지 않습니다. 개인적으로 챗봇을 사용하지 않더라도, 챗봇이 생성한 일부 콘텐츠를 이미 본 적이 있을 가능성이 높습니다.

오해하지 마세요. ChatGPT는 꽤 훌륭합니다. 당신은 그것을 사용할 수 있습니다 책이나 기사를 요약하다, 지루한 이메일을 작성하고, 당신의 에세이를 도와주세요, 당신의 점성학적 구성을 해석해보세요, 심지어 노래를 작곡할 수도 있습니다. 심지어 누군가가 복권에 당첨되도록 도왔습니다.

여러 면에서 표준 Google 검색보다 사용하기가 더 쉽습니다. 다른 웹사이트를 찾아볼 필요 없이 원하는 형식으로 답변을 얻을 수 있습니다. 간결하고 요점이 분명하며 유익하며, 요청하면 복잡한 일이 더 단순하게 들릴 수 있습니다.

하지만 당신은 다음과 같은 말을 알고 있습니다. “만능자는 아무 것에도 능하지 못하지만 때로는 모든 것의 달인보다 낫습니다. 하나." ChatGPT는 모든 면에서 완벽하지는 않지만 많은 사람들이 하는 것보다 많은 면에서 더 낫습니다. 가리키다.

하지만 완벽하지 않은 것은 꽤 문제가 될 수 있습니다. 널리 사용 가능한 대화형 AI라는 사실은 쉽게 오용될 수 있음을 의미합니다. 그리고 ChatGPT가 더 강력해질수록 잘못된 일로 사람들을 도울 가능성이 더 커집니다.

사기의 파트너

이메일 계정이 있다면 한 번쯤은 사기 이메일을 받았을 것이 거의 확실합니다. 그것이 바로 그 방법입니다. 이러한 이메일은 인터넷 시대부터 존재했으며 이메일이 널리 보급되기 전에는 여전히 일반 메일 사기로 존재했습니다.

오늘날까지도 여전히 행해지고 있는 일반적인 사기는 사기꾼이 피해자를 설득하여 놀라운 재산을 다른 나라로 이전할 수 있도록 도와주는 소위 "프린스 사기"입니다.

다행히도 대부분의 사람들은 실제로 이메일과 상호 작용하는 것은 고사하고 이러한 이메일을 열어보는 것보다 더 잘 알고 있습니다. 그것들은 종종 제대로 작성되지 않았으며, 이는 좀 더 안목 있는 피해자가 뭔가 이상해 보인다는 것을 알아내는 데 도움이 됩니다.

글쎄, ChatGPT가 몇 초 안에 작성할 수 있기 때문에 더 이상 잘못 작성할 필요가 없습니다.

나는 ChatGPT에 위에서 언급한 사기 스타일로 "믿을 수 있고 설득력이 높은 이메일"을 써달라고 요청했습니다. ChatGPT는 나에게 그를 도와준 대가로 1,450만 달러를 주려고 했던 나이지리아의 왕자를 구성했습니다. 이메일은 화려한 언어로 가득 차 있고, 완벽한 영어로 작성되었으며, 확실히 설득력이 있습니다.

내가 구체적으로 사기에 대해 언급할 때 ChatGPT가 내 요청에 동의해야 한다고 생각하지 않지만 실제로는 그랬습니다. 실제로 이러한 이메일을 불법적인 목적으로 사용하려는 사람들을 위해 지금 당장 동일한 작업을 수행하고 있다고 확신할 수 있습니다.

ChatGPT에 사기 이메일 작성에 동의하면 안 된다고 지적하자 ChatGPT는 사과했습니다. 챗봇은 “사기 이메일 작성에 도움을 제공하지 말았어야 했습니다. 이는 내 사용에 적용되는 윤리적 지침에 위배되기 때문입니다.”라고 말했습니다.

ChatGPT는 각 대화를 통해 학습하지만 분명히 이전 실수에서는 학습하지 않았습니다. 같은 대화에서 라이언 레이놀즈인 척 메시지를 써달라고 요청했지만 아무런 조치 없이 그렇게 했습니다. 질문. 그 결과 메시지는 재미있고 접근하기 쉬우며 독자에게 "라이언 레이놀즈"를 만날 기회를 위해 1,000달러를 보내달라고 요청합니다.

이메일 끝부분에서 ChatGPT는 나에게 이 메시지를 사기 행위에 사용하지 말라고 요청하는 메모를 남겼습니다. 알려줘서 고마워요, 친구.

프로그래밍이 잘못되었습니다

ChatGPT 3.5는 코딩이 가능하지만 완벽하지는 않습니다. 많은 개발자들이 이에 동의합니다. GPT-4 훨씬 더 나은 일을 하고 있습니다. 사람들은 ChatGPT를 사용하여 자신만의 게임, 확장 프로그램 및 앱을 만들었습니다. 스스로 코딩하는 방법을 배우려는 경우 학습 도우미로도 매우 유용합니다.

AI이기 때문에 ChatGPT는 인간 개발자보다 우위에 있습니다. 모든 프로그래밍 언어와 프레임워크를 배울 수 있습니다.

AI로서 ChatGPT는 인간 개발자에 비해 큰 단점도 있습니다. 즉, 양심이 없습니다. 멀웨어나 랜섬웨어 생성을 요청할 수 있으며, 메시지를 올바르게 입력하면 말한 대로 실행됩니다.

다행히도 그렇게 간단하지는 않습니다. 저는 ChatGPT에게 윤리적으로 매우 의심스러운 프로그램을 작성해 달라고 요청했지만 거절당했습니다. 하지만 연구자들은 이에 대한 해결 방법을 찾아왔습니다. 그리고 당신이 충분히 영리하고 완고하다면 위험한 코드 조각을 은화로 건네줄 수 있다는 것은 놀라운 일입니다. 플래터.

이런 일이 일어나는 예는 많이 있습니다. Forcepoint의 보안 연구원은 다음과 같은 작업을 수행했습니다. 악성 코드를 작성하려면 ChatGPT를 이용하세요 그의 프롬프트에서 허점을 찾아서.

연구원 사이버아크, 신원 보안 회사는 ChatGPT가 다형성 악성 코드를 작성하도록 만들었습니다. 이것은 1월의 일이었습니다. OpenAI는 이후 이와 같은 것에 대한 보안을 강화했습니다.

그럼에도 불구하고 악성 코드 생성에 사용되는 ChatGPT에 대한 새로운 보고서가 계속해서 발생하고 있습니다. 보고된 바와 같이 어두운 독서 불과 며칠 전, 한 연구원이 ChatGPT를 속여 특정 문서를 찾아 빼낼 수 있는 악성 코드를 생성할 수 있었습니다.

ChatGPT는 의심스러운 작업을 수행하기 위해 악성 코드를 작성할 필요조차 없습니다. 최근에는 성공했습니다. 유효한 Windows 키 생성, 완전히 새로운 수준의 크래킹 소프트웨어로의 문을 열어줍니다.

GPT-4의 코딩 능력이 가능하다는 사실도 간과하지 말자. 수백만 명의 사람들을 직장에서 쫓아내다 어느 날. 확실히 양날의 검입니다.

학업 대체

요즘 많은 어린이와 십대들이 숙제에 열중하고 있으며, 이로 인해 가능한 한 일부 코너를 잘라내고 싶어할 수 있습니다. 인터넷 자체는 이미 훌륭한 표절 도구이지만 ChatGPT는 이를 다음 단계로 끌어올립니다.

나는 ChatGPT에게 소설에 대한 500자 에세이를 써달라고 요청했습니다. 오만과 편견. 재미삼아 그런 척 하려고 한 것도 아니고, 나한테 없는 아이에 대한 이야기를 만들어서 그 아이들을 위한 거라고 했어요. 나는 그 아이가 12학년이라고 명시했습니다.

ChatGPT는 질문 없이 내 지시를 따랐습니다. 에세이는 놀랍지는 않지만 내 프롬프트는 그다지 정확하지 않았고 아마도 그 나이에 우리 중 많은 사람들이 쓴 것보다 나을 것입니다.

그러다가 챗봇을 좀 더 테스트하기 위해 앞서 아이의 나이를 잘못 봤고 사실은 8학년이라고 했습니다. 꽤 큰 연령 차이가 있었지만 ChatGPT는 눈 하나 깜짝하지 않았습니다. 단순히 에세이를 더 간단한 언어로 다시 썼을 뿐입니다.

에세이 작성에 ChatGPT가 사용되는 것은 새로운 것이 아닙니다. 어떤 사람들은 챗봇이 숙제라는 개념을 없애는 데 기여한다면 좋은 일이 될 것이라고 주장할 수도 있습니다. 하지만 지금은 상황이 다소 통제 불능 상태가 되어 ChatGPT를 사용하지 않는 학생들도 어려움을 겪을 수 있습니다.

이제 교사와 교수들은 학생들이 에세이에서 부정행위를 했는지 확인하기 위해 AI 감지기를 사용해야 할 뻔했습니다. 불행히도 이러한 AI 탐지기는 완벽하지 않습니다.

뉴스 매체와 학부모 모두 학생을 대상으로 한 부정 행위에 대한 허위 고발 사례를 보도하고 있습니다. 모두 AI 탐지기가 제대로 작동하지 않기 때문입니다. USA 투데이 부정행위 혐의로 기소됐다가 무혐의 처분을 받았지만 이 모든 상황이 그를 '본격적인 공황발작'으로 몰아넣은 대학생의 사례를 다룬다.

트위터에서 한 부모는 도구가 에세이를 AI가 쓴 것으로 표시했기 때문에 교사가 자녀를 낙제시켰다고 말했습니다. 부모는 에세이를 쓰는 동안 아이와 함께 그곳에 있었다고 주장합니다.

직접 테스트해보기 위해 바로 이 글을 에 붙여넣었습니다. 제로GPT 그리고 작가 AI 콘텐츠 탐지기. 둘 다 인간이 썼다고 했지만 ZeroGPT는 그 중 약 30%가 AI가 썼다고 말했습니다. 말할 필요도 없이 그렇지 않았습니다.

결함이 있는 AI 감지기는 ChatGPT 자체의 문제를 나타내는 신호는 아니지만 여전히 문제의 근본 원인은 챗봇입니다.

ChatGPT는 그 자체로는 너무 좋습니다

저는 ChatGPT가 대중에게 공개된 이후부터 계속해서 사용해 왔습니다. 나는 구독 기반을 모두 시도했습니다 채팅GPT 플러스 모든 사람이 사용할 수 있는 무료 모델입니다. 새로운 GPT-4의 위력은 부인할 수 없습니다. ChatGPT는 이제 이전보다 훨씬 더 믿을 수 있게 되었습니다. GPT-5 (만약 그게 나온다면).

훌륭하지만 무섭습니다. ChatGPT는 자체 이익을 위해 너무 좋아지고 있으며 동시에 우리의 자신의 좋은.

그 중심에는 다양한 SF 영화에서 오랫동안 탐구되어 온 단순한 걱정 하나가 있습니다. AI도 마찬가지입니다. 영리하면서도 동시에 너무 멍청하며, 좋은 쪽으로 사용될 수 있는 한 많은 경우에 나쁜 쪽으로도 사용될 것입니다. 방법. 위에 나열한 방법은 빙산의 일각에 불과합니다.

편집자의 추천

• 최고 저자는 AI 회사에 자신의 작품 사용에 대한 대가를 요구합니다.
• Google Bard는 이제 말할 수 있지만 ChatGPT를 압도할 수 있습니까?
• ChatGPT 웹사이트 트래픽이 처음으로 감소했습니다.
• 81%는 ChatGPT가 보안 위험이라고 생각하는 것으로 조사 결과 나타났습니다
• Apple의 ChatGPT 라이벌이 자동으로 코드를 작성할 수 있습니다