인공지능 기술의 최전선에 있는 사람들이 고도로 지능적인 AI 시스템의 잠재적으로 재앙적인 영향을 미칠 수 있다면 앉아서 받아들이는 것이 현명할 것입니다. 알아채다.
불과 몇 달 전, 이 분야에서 선구적인 작업으로 AI의 "대부" 중 한 명으로 여겨지는 Geoffrey Hinton은 기술의 빠른 발전 속도가 "상상할 수 없다"는 의미 인간의 마음보다 우월하다고 여겨지는 초지능 AI는 결국 인류를 멸망시킬 수 있습니다.
추천 동영상
그리고 OpenAI의 CEO인 Sam Altman은 바이러스 성 ChatGPT 챗봇, 고급 AI 시스템이 사회에 미칠 잠재적 영향에 대해 "조금 두렵다"고 인정했습니다.
관련된
- ChatGPT 제조사 OpenAI, 소비자 보호법에 대한 FTC 조사 직면
- ChatGPT 웹사이트 트래픽이 처음으로 감소했습니다.
- 나는 ChatGPT에게 보드게임을 가르쳐 주었고, 이제 다시는 가지 않을 것이다.
Altman은 수요일에 그의 회사가 슈퍼 인텔리전트 AI가 결국 혼돈이나 무언가를 야기하지 않도록 하는 것을 목표로 하는 슈퍼 얼라인먼트 더 나쁜.
"초지능은 인류가 발명한 가장 영향력 있는 기술이 될 것이며 세계에서 가장 중요한 많은 문제를 해결하는 데 도움이 될 것입니다." OpenAI 말했다 새로운 이니셔티브를 소개하는 게시물에서. "그러나 초지능의 막대한 힘은 또한 매우 위험할 수 있으며 인류의 무력화 또는 심지어 인류의 멸종으로 이어질 수 있습니다."
OpenAI는 초지능 AI가 갈 길이 멀게 보일 수 있지만 2030년까지 개발될 수 있다고 믿는다고 말했다. 그리고 현재로서는 "잠재적으로 초지능적인 AI를 조종하거나 제어하고 불량이 되는 것을 방지하기 위한" 시스템이 존재하지 않는다는 점을 기꺼이 인정합니다.
이 상황을 처리하기 위해 OpenAI는 "대략 인간 수준의 자동 정렬 연구원"을 구축하여 안전 점검을 수행하고자 합니다. 이러한 위험을 관리하려면 거버넌스 및 초지능 문제 해결을 위한 새로운 기관이 필요하다고 덧붙였습니다. 조정.
Superalignment가 효과를 발휘하려면 OpenAI가 최고의 기계 학습 연구원 및 엔지니어로 구성된 크랙 팀을 구성해야 합니다.
회사는 자신의 노력에 대해 매우 솔직해 보이며 "믿을 수 없을 정도로 야심 찬 목표"라고 설명하는 동시에 "성공이 보장되지 않습니다." 그러나 "집중적이고 일치된 노력이 이 문제를 해결할 수 있다고 낙관적"이라고 덧붙였습니다. 문제."
OpenAI의 ChatGPT 및 Google의 Bard와 같은 새로운 AI 도구는 매우 혁신적이어서 전문가들은 확신합니다. 이 초지능 이전 수준에서도 직장과 더 넓은 사회는 가까운 미래에 근본적인 변화에 직면합니다. 용어.
그래서 전 세계 정부가 따라잡기 위해 안간힘을 쓰고 서둘러 규제를 가하고 있습니다. 기술이 안전하고 책임감 있는 환경에 배치되도록 하기 위해 빠르게 발전하는 AI 산업 방법. 그러나 단일 기구가 구성되지 않는 한 각 국가는 기술을 가장 잘 사용하는 방법에 대한 고유한 견해를 갖게 될 것입니다. 그리고 Superalignment의 목표를 달성하기 더욱 어렵게 만드는 것은 이러한 다양한 접근 방식입니다.
편집자 추천
- Google Bard는 이제 말할 수 있지만 ChatGPT를 익사시킬 수 있습니까?
- Elon Musk의 새로운 AI 회사는 '우주 이해'를 목표로합니다.
- OpenAI, 최초의 국제 전초기지 위치 공개
- 법적 서류에 가짜 ChatGPT 사례를 사용한 NY 변호사에게 벌금 부과
- 이 웹 브라우저는 ChatGPT를 매혹적인 새로운 방식으로 통합합니다.
당신의 라이프스타일을 업그레이드하세요Digital Trends는 모든 최신 뉴스, 재미있는 제품 리뷰, 통찰력 있는 사설 및 독특한 미리보기를 통해 독자가 빠르게 변화하는 기술 세계를 파악할 수 있도록 도와줍니다.
