AI가 결코 세상을 지배하지 못하는 이유

이를 스카이넷 가설, 인공 일반 지능 또는 특이점의 출현이라고 부르십시오. 수년 동안 AI 전문가와 비전문가 모두 인공 지능이 언젠가는 더 똑똑해질 수 있다는 생각에 초조해했습니다(소규모 그룹에서는 축하했습니다). 인간보다.

이론에 따르면 AI의 발전, 특히 새로운 기능을 수행할 수 있는 머신러닝 유형의 발전은 정보를 수집하고 그에 따라 코드를 다시 작성합니다. 결국에는 생물학의 웨트웨어를 따라잡을 것입니다. 뇌. 이러한 사건 해석에서 모든 AI는 위험-IBM 머신을 획득 대규모 AI 언어 모델 GPT-3 인류를 실존적 위협에 한 걸음 더 가까이 다가가게 하고 있습니다. 우리는 문자 그대로 우리의 곧 지각을 갖게 될 후계자들.

추천 동영상

그것은 결코 일어나지 않을 것입니다. 적어도 새 책의 저자에 따르면 기계가 결코 세상을 지배하지 못하는 이유: 두려움 없는 인공지능.

공동 저자 버팔로 대학교 철학 교수 배리 스미스 그리고 욥스트 란드그레베독일 AI 회사인 Cognotekt의 창립자는 인간의 지능이 조만간 “불멸의 독재자”에 의해 추월당하지 않을 것이라고 주장합니다. 그들은 말 했어요 디지털 트렌드 그들의 이유.

디지털 트렌드(DT): 이 주제가 어떻게 당신의 관심을 끌었나요?

욥스트 란드그레베(JL): 저는 의사이자 생화학자입니다. 저는 경력을 시작했을 때 많은 데이터를 생성하는 실험을 했습니다. 저는 이러한 데이터를 해석하기 위해 수학을 공부하기 시작했고, 수학을 사용하여 생물학적 시스템을 모델링하는 것이 얼마나 어려운지 깨달았습니다. 수학적 방법과 생물학적 데이터 사이에는 항상 부적합이 있었습니다.

30대 중반에 저는 학계를 떠나 인공지능 소프트웨어 시스템 분야에서 일하는 비즈니스 컨설턴트이자 기업가가 되었습니다. 저는 인간이 할 수 있는 일을 흉내내는 AI 시스템을 구축하려고 했습니다. 나는 몇 년 전에 생물학에서 겪었던 것과 같은 문제에 직면하고 있다는 것을 깨달았습니다.

고객들이 '왜 챗봇을 만들지 않느냐'고 묻더군요. 저는 '챗봇이 작동하지 않으니까, 챗봇을 만들지 마세요.'라고 답했습니다. 우리는 이런 유형의 시스템을 제대로 모델링할 수 없습니다.' 그것이 결국 제가 이 책을 쓰게 된 계기가 되었습니다.

배리 스미스 교수(학사): 나는 그것이 매우 흥미로운 문제라고 생각했습니다. 나는 이미 AI와 비슷한 문제가 있다는 것을 알고 있었지만, 그것을 깊이 생각해 본 적이 없었습니다. 처음에는 '라는 제목의 논문을 썼습니다.인공지능을 다시 의미 있게 만들다.'(트럼프 시대의 일이다.) 왜 신경망이 언어 모델링에 실패하는지에 대한 내용이었다. 그런 다음 우리는 이 주제를 더 깊이 탐구하는 책으로 논문을 확장하기로 결정했습니다.

DT: 당신의 책은 현대 딥 러닝에 중요한 신경망이 인간의 두뇌를 모방하는 방식에 대한 회의론을 표현합니다. 이는 생물학적 뇌가 어떻게 작동하는지에 대한 정확한 모델이 아니라 근사치입니다. 하지만 우리가 뇌를 세부적으로 이해한다면 이것이 가능하다는 핵심 전제를 받아들이십니까? 세부 사항이 충분하면 인위적으로 복제될 수 있으며, 이는 지능이나 지능을 향상시킬 수 있습니다. 직각?

JL: '신경망'이라는 이름은 완전히 잘못된 이름입니다. 현재 우리가 갖고 있는 신경망은 심지어 가장 정교한 신경망이라 할지라도 뇌가 작동하는 방식과 아무런 관련이 없습니다. 뇌가 신경망이 구축되는 방식으로 상호 연결된 노드 집합이라는 견해는 완전히 순진합니다.

가장 원시적인 박테리아 세포를 보면 우리는 그것이 어떻게 작동하는지조차 이해하지 못합니다. 우리는 그것의 일부 측면을 이해하지만 그것이 어떻게 작동하는지에 대한 모델은 없습니다. 훨씬 더 복잡한 뉴런이나 수십억 개의 뉴런이 상호 연결되어 있다는 것은 말할 것도 없습니다. 과학적이라고 믿어요 불가능한 뇌가 어떻게 작동하는지 이해하는 것입니다. 우리는 특정 측면만을 이해하고 이러한 측면을 다룰 수 있습니다. 우리는 뇌가 어떻게 작동하는지 완전히 이해하지 못하며, 앞으로도 얻지 못할 것입니다.

우리가 뇌의 각 분자가 어떻게 작동하는지 완벽하게 이해했다면 아마도 그것을 복제할 수 있을 것입니다. 이는 모든 것을 수학 방정식에 넣는 것을 의미합니다. 그런 다음 컴퓨터를 사용하여 이를 복제할 수 있습니다. 문제는 우리가 그러한 방정식을 작성하고 만들 수 없다는 것입니다.

학사: 세상에서 가장 흥미로운 일들은 우리가 접근할 수 없는 세분화된 수준에서 일어나고 있습니다. 우리에게는 뇌의 아주 미세한 수준에서 일어나는 일의 대부분을 포착할 수 있는 영상 장비가 없으며 아마도 영상 장비도 없을 것입니다.

이는 예를 들어 의식을 담당하는 것이 무엇인지 모른다는 것을 의미합니다. 사실, 우리가 따르는 방법에 따르면, 항상 해결될 수 없는 일련의 매우 흥미로운 철학적 문제들이 있습니다. 따라서 우리는 그것들을 무시해야 합니다.

또 하나는 의지의 자유이다. 우리는 인간에게 의지가 있다는 생각을 매우 강력히 지지합니다. 우리는 의도, 목표 등을 가질 수 있습니다. 하지만 그것이 자유의지인지 아닌지는 알 수 없습니다. 그것은 뇌의 물리학과 관련된 문제입니다. 우리가 이용할 수 있는 증거에 관한 한 컴퓨터는 의지를 가질 수 없습니다.

DT: 책 부제가 '두려움 없는 인공지능'인데, 구체적으로 어떤 두려움을 말씀하시는 건가요?

학사: 그것은 당신이 잘 알고 있는 특이점에 관한 문헌에 의해 촉발되었습니다. Nick Bostrom, David Chalmers, Elon Musk 등. 현실 세계의 동료들과 이야기를 나누다 보면 실제로 그런 일이 있다는 것이 분명해졌습니다. AI가 결국 세상을 장악하고 인류에게 해를 끼칠 정도로 세상을 변화시킬 것이라는 대중의 두려움 인간.

우리는 책에서 보스트럼 유형의 주장에 대해 꽤 많은 내용을 다루고 있습니다. 이에 반대하는 핵심 주장은 기계가 의지를 가질 수 없다면 악한 의지도 가질 수 없다는 것입니다. 악의가 없으면 두려워할 것이 없습니다. 물론 지금도 우리는 총을 두려워하는 것처럼 여전히 기계를 두려워할 수 있습니다.

하지만 그것은 사악한 목적을 가진 사람들이 기계를 관리하고 있기 때문입니다. 하지만 악한 것은 AI가 아닙니다. AI를 만들고 프로그래밍하는 것은 바로 사람들이다

DT: 특이점이나 인공 일반 지능이라는 개념이 사람들에게 그토록 많은 관심을 끄는 이유는 무엇입니까? 그들이 두려워하든 매료되든, 이 아이디어에는 광범위한 수준의 사람들에게 공감을 불러일으키는 뭔가가 있습니다.

JL: 19세기 초에 시작되어 그 세기 말에 니체가 선언한 신은 죽었다는 생각이 있습니다. 우리 사회의 엘리트들은 더 이상 기독교인이 아니기 때문에 대체자가 필요했습니다. 헤겔의 제자인 칼 마르크스와 같은 막스 슈티르너(Max Stirner)는 이에 관한 책을 썼는데, '나는 나의 신이다'라고 했습니다.

당신이 신이라면 당신도 창조자가 되기를 원할 것입니다. 초지능을 창조할 수 있다면 당신은 신과 같습니다. 나는 그것이 우리 문화의 과잉 자기애적 경향과 관련이 있다고 생각합니다. 우리는 책에서 이에 대해 이야기하지 않지만 더 이상 초월적인 존재가 없는 우리 시대에 이 아이디어가 왜 그렇게 매력적인지 설명합니다.

컴퓨터 텍스트 스크롤 인공 지능을 갖춘 뇌 — Chris DeGraw/디지털 트렌드, 게티 이미지

DT: 흥미롭네요. 따라서 이를 따라가면 AI의 생성 또는 AI를 생성하려는 목표는 자기애적 행위라는 생각입니다. 그렇다면, 이 창조물들이 어떻게든 우리보다 더 강력해질 것이라는 개념은 그것에 대한 악몽 같은 왜곡입니다. 부모를 죽인 아이입니다.

JL: 좀 그렇습니다.

DT: 모든 사람이 당신의 주장을 확신한다면 당신 책의 궁극적인 결과는 무엇입니까? 이는 AI 개발의 미래에 어떤 의미가 있을까요?

JL: 아주 좋은 질문입니다. 나는 일어날 것이라고 생각하는 일과 일어날 일을 정확히 말할 수 있습니다. 나는 중간고사에서 사람들이 우리의 주장을 받아들일 것이고, 이것이 더 잘 적용되는 수학을 만들어낼 것이라고 생각합니다.

모든 위대한 수학자 및 물리학자들이 완전히 알고 있는 것은 그들이 수학적으로 성취할 수 있는 것의 한계였습니다. 그들은 이것을 알고 있기 때문에 특정 문제에만 집중합니다. 한계를 잘 알고 있다면 세상을 두루 다니며 이러한 문제를 찾아 해결하게 됩니다. 이것이 아인슈타인이 브라운 운동 방정식을 찾은 방법입니다. 그가 상대성 이론을 어떻게 생각해냈는지; 플랑크가 어떻게 흑체 복사를 해결하여 물질의 양자 이론을 시작했는지. 그들은 어떤 문제가 수학적 해결책으로 해결될 수 있는지, 어떤 문제는 그렇지 않은지에 대한 좋은 본능을 가지고 있었습니다.

사람들이 우리 책의 메시지를 배우면 더 나은 시스템을 설계할 수 있을 것이라고 우리는 믿습니다. 진정으로 실현 가능한 일에 집중하고, 실현 불가능한 일에 돈과 노력을 낭비하지 마세요. 달성.

학사: 내 생각에 일부 메시지는 이미 전달되고 있는데, 이는 우리가 하는 말 때문이 아니라, 사람들이 AI 프로젝트에 많은 돈을 투자했는데 AI 프로젝트가 실패했던 경험이 있습니다. 공동인공지능센터에 대해 아시는 것 같군요. 정확한 액수는 기억나지 않지만 유명 계약자에게 준 돈이 100억 달러 정도였던 것 같다. 결국 그들은 아무것도 얻지 못했습니다. 그들은 계약을 취소했습니다.

(편집자 주: 미국 군대의 산하 기관인 JAIC는 "임무 효과를 달성하기 위해 AI의 전달 및 채택을 가속화하기 위한 것이었습니다. 대규모로.” 올해 6월에는 더 큰 통합 조직인 최고 디지털 및 인공 지능 책임자(Chief Digital and Artificial Intelligence Officer)와 다른 두 개의 사무실로 통합되었습니다. JAIC는 더 이상 자체 법인으로 존재하지 않습니다.)

DT: 이 책에서 당신이 제시하는 가장 설득력 있는 주장은 높은 수준에서 무엇이라고 생각하시나요?

학사: 모든 AI 시스템은 본질적으로 수학적입니다. 우리는 의식, 의지, 지능을 수학적으로 모델링할 수 없기 때문에 기계를 사용하여 이를 에뮬레이트할 수 없습니다. 그러므로 기계는 초지능은커녕 지능화되지도 않을 것이다.

JL: 우리 뇌의 구조는 제한된 자연 모델만을 허용합니다. 물리학에서는 수학적 모델링 능력에 맞는 현실의 하위 집합을 선택합니다. 이것이 바로 뉴턴, 맥스웰, 아인슈타인, 슈뢰딩거가 유명하고 아름다운 모델을 얻은 방법입니다. 그러나 이것들은 소수의 시스템 집합만을 설명하거나 예측할 수 있습니다. 우리의 최고의 모델은 기술을 엔지니어링하는 데 사용하는 모델입니다. 우리는 살아 있는 자연에 대한 완전한 수학적 모델을 만들 수 없습니다.

이 인터뷰는 길이와 명확성을 위해 편집되었습니다.