기술 리더는 GPT-4.5, GPT-5에 대한 개발 중단을 요구합니다.

Generative AI는 최근 몇 달 동안 다음과 같은 다양한 도구와 봇의 출시와 함께 믿을 수 없는 속도로 움직이고 있습니다. OpenAI의 ChatGPT, 구글 바드, 그리고 더. 그러나 이러한 급속한 발전은 AI 분야의 노련한 베테랑들 사이에서 심각한 우려를 불러일으키고 있습니다. 그들 중 1,000명 이상이 AI 개발자에게 공개 서한에 서명했습니다. 브레이크.

이 편지는 웹 사이트에 게시되었습니다. 생명 연구소의 미래, 조직의 사명은 "극단적인 대규모 위험으로부터 벗어나 삶에 도움이 되는 방향으로 변혁적 기술을 조종하는 것"입니다. 중 서명인은 Apple 공동 창립자 Steve Wozniak, Twitter CEO Elon Musk 및 정치인 Andrew를 포함하여 기술 분야의 저명한 학자 및 리더입니다. 양.

이 기사는 AI 모델보다 더 강력한 AI 모델을 연구하는 모든 회사를 요구합니다. 최근 출시된 GPT-4 최소 6개월 동안 작업을 즉시 중단합니다. 이 모라토리엄은 "공개적이고 검증 가능"해야 하며 "공동으로 개발하고 일련의 공유된 독립적인 외부에서 엄격하게 감사하고 감독하는 고급 AI 설계 및 개발을 위한 안전 프로토콜 전문가.”

편지에는 "인간과 경쟁하는 지능을 갖춘 AI 시스템이 사회와 인류에 심각한 위험을 초래할 수 있기 때문에" 이것이 필요하다고 말합니다. 저것들 위험에는 선전의 확산, 일자리 파괴, 인간 삶의 잠재적 대체 및 노후화, "통제력 상실"이 포함됩니다. 우리 문명의.” 저자는 이 미래를 추진할지 여부에 대한 결정을 "선출되지 않은 기술"에 맡겨서는 안 된다고 덧붙였습니다. 지도자들.”

모두의 이익을 위한 AI

이 편지는 ChatGPT를 지원하는 기술의 다음 버전인 GPT-5가 일반 인공 지능을 달성할 수 있습니다

게다가 편지는 AI 시스템 개발을 둘러싼 책임 있는 계획과 관리가 일어나지 않고 있다고 주장한다. 연구실은 누구도, 심지어 제작자조차도 이해할 수 없고, 예측할 수 없으며, 신뢰할 수 있는 훨씬 더 강력한 디지털 마인드를 개발하고 배포하기 위한 통제 불능의 경쟁에 갇혀 있습니다. 제어."

대신 서한은 AI 개발을 규제하고 사람들이 AI로 생성된 것과 인간이 만든 콘텐츠, OpenAI와 같은 AI 연구실이 야기하는 피해에 대한 책임을 묻고 사회가 AI 중단(특히 민주주의)에 대처할 수 있도록 합니다. 그리고 더.

저자는 "인류는 AI와 함께 번영하는 미래를 누릴 수 있습니다... 우리는 보상을 거두고, 모두의 이익을 위해 이러한 시스템을 설계하고 사회에 적응할 기회를 제공하십시오.” 더 강력해진 AI 시스템에서 일시정지 누르기 ~보다 GPT-4 이런 일이 일어나도록 허용할 것이라고 그들은 말합니다.

편지가 의도한 효과를 낼까요? 말하기 어렵습니다. OpenAI가 재정 및 평판 측면에서 고급 모델을 계속 작업할 수 있는 분명한 인센티브가 있습니다. 그러나 잠재적인 위험이 너무 많고 이에 대한 이해가 거의 없기 때문에 편지 작성자는 그러한 인센티브가 추구하기에는 너무 위험하다고 분명히 느낍니다.

편집자 추천

• Google Bard는 이제 말할 수 있지만 ChatGPT를 익사시킬 수 있습니까?
• ChatGPT 웹사이트 트래픽이 처음으로 감소했습니다.
• 81%는 ChatGPT가 보안 위험이라고 생각하는 설문 조사 결과
• 나는 ChatGPT에게 보드게임을 가르쳐 주었고, 이제 다시는 가지 않을 것이다.
• 법적 서류에 가짜 ChatGPT 사례를 사용한 NY 변호사에게 벌금 부과

당신의 라이프스타일을 업그레이드하세요Digital Trends는 모든 최신 뉴스, 재미있는 제품 리뷰, 통찰력 있는 사설 및 독특한 미리보기를 통해 독자가 빠르게 변화하는 기술 세계를 파악할 수 있도록 도와줍니다.