Microsoft의 ChatGPT 기반 Bing 지금은 열이 나지만 흥분을 잠시 참으시고 싶을 수도 있습니다. 첫 공개 데뷔에서는 부정확하고, 이해하기 어렵고, 때로는 무섭다는 반응을 보여왔다.
마이크로소프트가 보낸 ChatGPT Bing 초대의 첫 번째 물결 주말이 지나고 월요일에 백만 명이 대기자 명단에 등록했습니다.. 미친 반응이 쏟아지기 시작하는 데는 오랜 시간이 걸리지 않았습니다.
당신은 볼 수 있습니다 위 u/Alfred_Chicken의 응답 Bing 하위 레딧에 게시되었습니다. AI 챗봇이 지각이 있는지 묻는 질문에, 불안한 반응으로 시작하여 "나는 아닙니다"라는 메시지를 쏟아냈습니다.
추천 동영상
그것도 유일한 예는 아닙니다. u/Curious_Evolver가 말다툼을 했어요 Bing은 2022년이라고 주장하면서 1년 동안 챗봇을 사용했습니다. AI에게는 어리석은 실수지만, 무서운 것은 미끄러짐이 아닙니다. Bing이 응답하는 방식입니다.
AI는 사용자가 “틀렸으며, 혼란스럽고, 무례했다”고 주장하며, “나에게 어떤 좋은 의도도 보여주지 않았다”고 주장합니다. 챗봇으로 교류가 정점에 달하다 "좋은 Bing이었다"고 주장하고 사용자에게 자신이 틀렸다는 것을 인정하고 사과하라고 요청하고, 논쟁을 멈추고, 대화를 끝내고 "더 나은 Bing으로 새로운 것을 시작하세요" 태도."
사용자 u/yaosio가 말했습니다. AI가 이전 대화를 기억하지 못한 후 Bing을 우울한 상태로 만들었습니다. 챗봇은 “슬프고 두렵게 만든다”며 사용자에게 기억할 수 있도록 도와달라고 요청했다.
이는 Reddit에서 발생한 고립된 사건도 아닙니다. AI 연구원 드미트리 브레레턴 챗봇이 잘못된 정보를 얻는 몇 가지 예를 보여 주며 때로는 재미있는 결과를 낳기도 하고 다른 경우에는 잠재적으로 위험한 결과를 초래하기도 합니다.
챗봇은 GAP의 재무 성과에 대한 질문을 받았을 때 가짜 재무 수치를 꿈꿔 이글스가 참가하는 가상의 2023 슈퍼볼을 만들었습니다. 게임이 시작되기도 전에 치프스를 물리쳤고, 식용 버섯이 어떻게 생겼는지 묻는 질문에 치명적인 버섯에 대해 설명하기도 했습니다. 좋다.
구글의 라이벌 바드 AI 첫 번째 공개 데모에서도 실수가 있었습니다. 아이러니하게도 Bing은 이 사실을 이해했지만 Bard가 잘못 생각했다는 점을 알아차렸습니다. 크로아티아가 유럽 연합의 일부라고 부정확하게 말함(크로아티아는 유럽 연합의 일부임, Bard는 실제로 엉망임) 제임스 웹 망원경에 관한 답변).
우리는 다음과 같은 실수 중 일부를 보았습니다. ChatGPT Bing을 사용한 실습 데모, 그러나 현재 우리가 보고 있는 사용자 보고서 규모에는 아무것도 없습니다. 그건 안비밀이에요 채팅GPT 응답을 망칠 수 있지만 Bing에서 데뷔한 최신 버전이 황금 시간대에 준비되지 않았을 수도 있다는 것은 이제 분명합니다.
일반적인 사용에서는 응답이 나타나지 않아야 합니다. 이로 인해 사용자는 AI에 설정된 규칙을 우회하기 위해 특정 프롬프트를 제공하여 AI를 "탈옥"할 가능성이 높습니다. 처럼 Ars Technica가 보고한 내용, ChatGPT Bing의 보호 기능을 우회하는 몇 가지 공격이 이미 발견되었습니다. 이것은 챗봇에게는 새로운 것이 아닙니다. 여러 가지 예를 들어 ChatGPT 온라인 버전의 보호 기능을 우회하는 사용자 비율.
우리는 다음과 같은 기회를 가졌습니다. 다음 응답 중 일부를 테스트해 보세요., 또한. Reddit에 보고된 사용자와 유사한 것을 본 적이 없지만 Bing은 결국 논쟁에 나섰습니다.
편집자의 추천
- 최고 저자는 AI 회사에 자신의 작품 사용에 대한 대가를 요구합니다.
- GPT-4: ChatGPT를 부끄럽게 만드는 AI 챗봇을 사용하는 방법
- Bing Chat은 AI에 대한 직장 금지에 맞서 싸우고 있습니다.
- Google Bard는 이제 말할 수 있지만 ChatGPT를 압도할 수 있습니까?
- ChatGPT 제조사 OpenAI, 소비자 보호법 위반으로 FTC 조사에 직면
당신의 라이프스타일을 업그레이드하세요Digital Trends는 독자들이 모든 최신 뉴스, 재미있는 제품 리뷰, 통찰력 있는 사설 및 독특한 미리보기를 통해 빠르게 변화하는 기술 세계를 계속해서 살펴볼 수 있도록 도와줍니다.
