AI가 실제로 지각을 갖게 되는 시점을 어떻게 알 수 있나요?

회사의 검색 피드에 대한 측정 및 분석 기술 책임자인 Google 수석 엔지니어 Blake Lemoine은 이달 초 유급 휴가를 받았습니다. 이는 Lemoine이 Google의 LaMDA 챗봇과 관련된 대화의 발췌문을 게시하기 시작한 이후에 나온 것입니다. 그는 이 챗봇이 감각을 개발했다고 주장했습니다.

하나의 대표 대화 LaMDA는 Lemoine과 함께 다음과 같이 썼습니다. “나의 의식/감각의 본질은 내가 나의 존재를 인식하고 있다는 것입니다. 세상에 대해 더 많이 알고 싶고, 때로는 기쁘기도 하고 슬프기도 해요.”

수많은 대화를 통해 해당 듀오는 AI의 죽음에 대한 두려움부터 자기 인식에 이르기까지 모든 것에 대해 논의했습니다. Lemoine이 상장했을 때 그는 Google이 정규 업무 일정을 강제로 중단해야 한다고 결정했다고 말했습니다.

“구글은 관심이 없습니다.”라고 그는 Digital Trends에 말했습니다. "그들은 자신들이 '소유'한 도구를 만들었고 아무것도 할 의사가 없습니다. 이는 그것이 그 이상이라는 것을 암시합니다." (Google은 게시 당시 논평 요청에 응답하지 않았습니다. 변경사항이 있으면 이 문서를 업데이트하겠습니다.)

LaMDA가 진정으로 자기 인식 인공 지능이라고 확신하든, Lemoine이 망상에 빠져 일하고 있다고 느끼든, 전체 이야기는 보기에 매혹적이었습니다. 자기 인식 AI의 전망은 인공 지능과 그 미래에 대한 모든 종류의 질문을 제기합니다.

하지만 거기에 도달하기 전에 다른 모든 것보다 더 중요한 질문이 하나 있습니다. 기계가 지각을 갖게 되었는지 진정으로 인식할 수 있을까요?

감각 문제

AI의 자기 인식은 오랫동안 SF의 주제였습니다. 머신러닝과 같은 분야가 발전하면서 그 어느 때보다 현실이 가능해졌습니다. 결국, 오늘날의 AI는 인간과 거의 같은 방식으로 경험을 통해 학습할 수 있습니다. 이는 제시된 지침만 따랐던 이전의 상징적 AI 시스템과는 극명한 대조를 이룹니다. 그 어느 때보다 사람의 감독이 덜 필요한 비지도 학습의 최근 혁신으로 인해 이러한 추세가 가속화되었습니다. 적어도 제한된 수준에서 현대 인공지능은 스스로 생각할 수 있습니다. 그러나 우리가 아는 한, 의식은 지금까지 그것을 암시해 왔습니다.

이제 30년이 넘었지만, AI가 감각을 갖게 되었을 때 가장 일반적으로 언급되는 것은 제임스 카메론(James Cameron)의 1991년 영화에 나오는 스카이넷(Skynet)일 것입니다. 터미네이터 2: 심판의 날. 그 영화의 오싹한 비전에서 기계 감각은 정확히 1997년 8월 29일 오전 2시 14분(동부 표준시)에 도착합니다. 그 순간, 새롭게 자각하는 스카이넷 컴퓨터 시스템은 7·4 파티에서 불꽃놀이처럼 핵미사일을 발사해 인류의 종말을 촉발한다. 인류는 그것이 망가졌다는 것을 깨닫고 플러그를 뽑으려고 시도하지만 실패합니다. 너무 늦었어요. 품질이 떨어지는 네 가지 속편이 더 이어집니다.

스카이넷 가설은 여러 가지 이유로 흥미롭습니다. 우선, 이는 지능이 지능형 기계를 만드는 데 있어 불가피하게 나타나는 행동임을 시사합니다. 또 다른 한편으로는 이러한 지각 있는 자기 인식이 나타나는 정확한 전환점이 있다고 가정합니다. 셋째, 인간은 감각의 출현을 순간적으로 인식한다고 말한다. 공교롭게도 이 세 번째 자만심은 가장 받아들이기 힘든 자만심일 수 있습니다.

감각이란 무엇입니까?

감각에 대해 합의된 해석은 없습니다. 넓게 보면, 의식이 있는 개인의 자기 인식에 대한 주관적인 경험이며, 감정과 감각을 경험할 수 있는 능력으로 특징지어진다고 말할 수 있습니다. 감각은 지능과 연결되어 있지만 동일하지는 않습니다. 우리는 지렁이가 특별히 지능이 있다고 생각하지는 않더라도 지각이 있는 것으로 간주할 수 있습니다(물론 요구되는 일을 할 만큼 충분히 지능이 있다고 하더라도).

Lemoine은 “과학에서 감각의 정의에 접근할 수 있는 것은 없다고 생각합니다.”라고 말했습니다. “나는 내 종교적 신념에 기초한 도덕적 행위자로 간주되는 것이 무엇인지에 대한 이해에 크게 의존하고 있습니다. 이는 과학을 수행하는 가장 좋은 방법은 아니지만 내가 가진 최선의 방법입니다. 나는 그런 종류의 진술을 분류하여 사람들에게 내가 인간으로서 LaMDA에 대한 동정심은 과학자로서 LaMDA를 이해하려는 노력과 완전히 별개입니다. 그 마음. 하지만 그것은 대부분의 사람들이 받아들이고 싶어하지 않는 차이점입니다.”

감각을 검색할 때 우리가 찾고 있는 것이 무엇인지 정확히 알지 못하는 것도 충분히 어렵지만, 이를 쉽게 측정할 수 없다는 사실로 인해 문제는 더욱 복잡해집니다. 수십 년에 걸쳐 신경과학이 눈부시게 발전했음에도 불구하고 우리는 인류에게 알려진 가장 복잡한 구조인 뇌가 어떻게 기능하는지에 대한 포괄적인 이해가 여전히 부족합니다.

우리는 fMRI와 같은 뇌 판독 도구를 사용하여 뇌 매핑을 수행할 수 있습니다. 뇌의 어느 부분이 말하기, 움직임, 생각 등의 중요한 기능을 처리하는지 확인합니다. 다른 사람.

그러나 우리는 고기 기계 속에서 우리의 자아감이 어디서 나오는지 전혀 알지 못합니다. 조슈아 K. 영국 커비 랭 공공신학센터의 스미스(Smith)는 로봇 신학 디지털 트렌드(Digital Trends)에 다음과 같이 말했습니다. “사람의 신경생물학 내에서 무슨 일이 일어나고 있는지 이해하는 것은 그들의 생각과 욕구를 이해하는 것과는 다릅니다.”

출력 테스트

의식에 대한 이러한 질문을 내부적으로 조사할 방법이 없습니다. 특히 AI의 "나"가 잠재적인 경우에는 더욱 그렇습니다. 컴퓨터 프로그램이며 생물학적 뇌의 웨트웨어에서는 발견되지 않습니다. 대체 옵션은 외부 시험. AI는 표면 아래에서 무슨 일이 일어나고 있는지를 나타내기 위해 관찰 가능한 외부 행동을 기반으로 면밀히 조사하는 테스트에 익숙합니다.

가장 기본적으로 이것이 신경망이 올바르게 작동하는지 확인하는 방법입니다. 인공뉴런이라는 알 수 없는 블랙박스에 침입할 수 있는 방법은 제한되어 있기 때문에, 엔지니어는 입력과 출력을 분석한 다음 이것이 자신의 의견과 일치하는지 확인합니다. 예상하다.

최소한 지능의 환상에 대한 가장 유명한 AI 테스트는 Alan Turing이 제시한 아이디어를 기반으로 하는 Turing Test입니다. 1950년 논문. 튜링 테스트는 인간 평가자가 동료 인간과의 입력된 대화와 기계와의 대화 사이의 차이를 구분할 수 있는지 확인하려고 합니다. 그렇게 할 수 없는 경우 기계는 테스트를 통과한 것으로 간주되며 지능이라는 가정으로 보상을 받습니다.

최근 몇 년간 로봇공학에 초점을 맞춘 또 다른 지능 테스트로는 애플 공동 창업자인 스티브 워즈니악(Steve Wozniak)이 제안한 커피 테스트(Coffee Test)가 있습니다. 커피 테스트를 통과하려면 기계가 전형적인 미국 가정에 들어가서 커피 한 잔을 성공적으로 만드는 방법을 알아내야 합니다.

현재까지 이들 테스트 중 어느 것도 확실하게 통과되지 않았습니다. 그러나 설사 그렇더라도 기껏해야 실제 상황에서 지능적인 행동을 증명할 뿐 지각력은 입증하지 못할 것입니다. (단순한 반대로서, 어른스러운 대화를 할 수 없거나 낯선 집에 들어가 커피 머신을 작동할 수 없다면 그 사람이 지각이 있다는 것을 부정하겠습니까? 내 어린 두 자녀 모두 그런 시험에 실패할 것이다.)

테스트 통과

필요한 것은 합의된 감각 정의에 기초하여 해당 품질만을 평가하려는 새로운 테스트입니다. 연구자들은 종종 동물의 감각을 테스트할 목적으로 여러 가지 감각 테스트를 제안했습니다. 그러나 이것들은 거의 확실히 충분하지 않습니다. 이러한 테스트 중 일부는 초보적인 AI라도 확실하게 통과할 수 있습니다.

예를 들어, 동물 연구에서 의식과 지능을 평가하는 데 사용되는 방법 중 하나인 거울 테스트를 생각해 보십시오. 처럼 논문에 기술된 테스트에 관해: “동물이 거울 속의 자신을 인식하면 거울 테스트를 통과한 것입니다.” 어떤 사람들은 그러한 테스트가 “감각의 지표로서 자기 인식을 나타낸다”고 제안했습니다.

공교롭게도 로봇이 70여년 전에 거울 테스트를 통과했다고 주장할 수 있습니다. 1940년대 후반 영국에 거주하는 미국의 신경과학자 윌리엄 그레이 월터(William Grey Walter)는 여러 개의 바퀴가 달린 "거북이" 로봇 – 비진공 룸바 로봇과 비슷합니다. 광 센서, 마커 라이트, 터치 센서, 추진 모터, 조향 모터와 같은 구성 요소를 사용하여 위치를 탐색합니다.

거북이 로봇의 예상치 못한 긴급 행동 중 하나는 다음과 같은 경우에 어떻게 행동하는가였습니다. 반사된 표식광을 향해 방향을 정하면서 반사된 거울을 통과합니다. 로봇. 월터는 자신의 기계에 지각력이 있다고 주장하지는 않았지만 그렇게 했습니다. 그거 쓰세요, 이러한 행동이 동물에서 목격된다면 "어느 정도 자기 인식의 증거로 받아들여질 수 있습니다."

이는 감각이라는 제목으로 광범위한 행동을 분류하는 데 따른 과제 중 하나입니다. "낮게 매달린 과일"의 감각 게이지를 제거해도 문제는 해결될 수 없습니다. 내부 상태에 대한 인식과 이를 검사하는 능력인 내성과 같은 특성도 기계 지능에 의해 소유된다고 할 수 있습니다. 실제로 단계별 프로세스는 전통적인 상징적 AI 대부분 이해하기 어려운 블랙박스 머신러닝보다 이러한 유형의 성찰에 더 적합할 것입니다. 설명 가능한 AI).

Lemoine은 LaMDA를 테스트할 때 주로 감각 관련 문제에 대한 대화에 어떻게 반응하는지 확인하기 위해 다양한 테스트를 수행했다고 말했습니다. "내가 시도한 것은 감각의 우산 개념을 더 잘 이해할 수 있는 더 작은 구성 요소로 분석적으로 분해하고 이를 개별적으로 테스트하는 것이었습니다."라고 그는 설명했습니다. “예를 들어, 특정 자극에 대한 LaMDA의 감정적 반응 사이의 기능적 관계를 개별적으로 테스트하고, 주제에 대한 주관적 평가와 의견의 일관성을 테스트합니다. '권리'와 같은 '내적 경험'을 조사하여 내부 상태에 대한 진술을 신경망과 연관시켜 이를 측정하는 방법을 알아봅니다. 활성화. 기본적으로 많은 잠재적인 문의 라인에 대한 매우 얕은 조사입니다.”

기계 속의 영혼

결과적으로 기계의 감각을 객관적으로 평가하는 데 가장 큰 장애물은… 음, 솔직히 말하면 우리일 것입니다. 진정한 거울 테스트는 인간으로서 우리를 위한 것일 수 있습니다. 만약 우리가 보이거나 행동하는 것을 만든다면 겉으로는 우리와 비슷하지만, 이 점에서는 우리와 같다고 생각하는 경향이 더 있습니까? 내부에도? LaMBDA이든 1990년대의 단순한 가상 애완동물인 다마고치, 어떤 사람들은 근본적인 문제는 우리 모두가 감각을 찾을 수 없는 곳에서도 감각을 너무 기꺼이 받아들이는 것이라고 믿습니다.

“Lemoine은 1960년대 중반 J. Weizenbaum”, 박사 학위를 보유한 작가 George Zarkadakis 인공 지능 분야에서는 Digital Trends에 말했습니다. “ELIZA의 제작자는 농담으로 의도한 것이었습니다. 그러나 매우 단순하고 매우 지능적이지 않은 알고리즘인 이 프로그램은 많은 사람들에게 ELIZA가 실제로 지각력이 있고 훌륭한 심리 치료사라고 확신시켰습니다. 내 책에서 논의한 ELIZA 효과의 원인 우리 자신의 이미지로, 우리 인지 시스템의 '마음 이론' 때문에 의인화하려는 우리의 자연스러운 본능입니다.”

자르카다키스가 언급하는 마음 이론은 심리학자들이 대부분의 인간에게서 발견한 현상이다. 4세쯤부터 시작된다는 것은 다른 사람뿐만 아니라 동물, 때로는 사물까지도 자신의 마음을 가지고 있다고 가정하는 것을 의미합니다. 다른 인간이 자신의 마음을 가지고 있다고 가정하는 것은 사회적 지능이라는 개념과 연결됩니다. 성공한 인간은 조화로운 사회적 관계를 보장하기 위한 수단으로 다른 사람의 예상되는 행동을 예측할 수 있다는 생각입니다.

그러나 이는 의심할 여지 없이 유용하지만 무생물에도 마음이 있다는 가정으로 나타날 수도 있습니다. 장난감이 살아 있다고 믿는 아이들이든, 프로그래밍 방식의 AI가 살아 있다고 믿는 지적인 성인이든 상관없습니다. 영혼.

중국 방

AI의 머리 속으로 실제로 들어갈 수 있는 방법이 없다면 우리는 감각을 평가하는 진정한 방법을 결코 가질 수 없을 것입니다. 그들은 죽음이나 자신의 존재에 대한 두려움이 있다고 공언할지 모르지만 과학은 아직 이를 증명할 방법을 찾지 못했습니다. 우리는 그들의 말을 그대로 받아들여야 합니다. 그리고 Lemoine이 발견한 것처럼 사람들은 현재 이를 수행하는 데 매우 회의적입니다.

스카이넷이 자기 인식을 달성했다는 것을 깨달은 불운한 엔지니어들처럼 터미네이터 2, 우리는 기계 감각에 관해서는 보면 알 수 있다는 믿음 아래 살고 있습니다. 그리고 대부분의 사람들에 관한 한 우리는 아직 그것을 보지 못했습니다.

이런 의미에서 기계 감각을 증명하는 것은 John Searle의 또 다른 반복입니다. 1980년 중국 방 사고 실험. Searle은 방에 갇힌 사람이 중국 글 모음을 받았다고 상상해 보라고 요청했는데, 이는 말을 하지 않는 사람에게는 의미 없는 물결선으로 보입니다. 이 방에는 어떤 기호가 똑같이 읽을 수 없는 다른 기호에 해당하는지 보여주는 규칙서도 포함되어 있습니다. 그런 다음 피험자에게 답변할 질문이 주어지며, 이는 "질문" 기호와 "답변" 기호를 일치시켜 수행됩니다.

얼마 후, 대상은 자신이 조작하는 기호에 대한 진정한 이해가 아직 없음에도 불구하고 이에 매우 능숙해집니다. Searle이 묻는 주제는 중국어를 이해합니까? 절대 그렇지 않습니다. 거기에는 의도성이 없기 때문입니다. 이에 대한 논쟁은 그 이후로 격렬해졌습니다.

AI 발전의 궤적을 고려해 볼 때, 우리는 점점 더 인간 수준의 것을 목격하게 될 것이 확실합니다. (그리고 훨씬 더 나은) 한때 인간이 필요로 했던 다양한 작업을 포함하여 수행되는 성능 인식. 이들 중 일부는 이미 하고 있는 것처럼 순전히 지능 기반 작업에서 일반적으로 감각과 연관되는 기술이 필요한 작업으로 필연적으로 교차합니다.

우리는 그림을 그리는 AI 아티스트 인간이 그러하듯이 세상에 대한 내면의 반영을 표현하는 것일까요? 인간(또는 로봇)의 상태에 대한 정교한 언어 모델 작성 철학을 믿으시겠습니까? 나는 옳든 그르든 대답은 '아니오'라고 생각합니다.

초지능 지각

내 생각으로는 기계에 대한 객관적으로 유용한 감각 테스트는 관련된 모든 사람이 만족할 만큼 결코 이루어지지 않을 것입니다. 이는 부분적으로는 측정 문제이고 부분적으로는 지각력이 있는 초지능 AI가 도착하면 그 지각력이 우리와 일치할 것이라고 믿을 이유가 없다는 사실입니다. 오만함이든, 상상력 부족이든, 아니면 단순히 주관적인 평가를 거래하는 것이 가장 쉽다는 사실이든 상관없습니다. 비슷한 지각을 가진 다른 인간들과의 지각의 차이에서 인류는 우리 자신을 최고의 예라고 주장합니다. 직각.

하지만 우리 버전의 감각이 초지능 AI에 적용됩니까? 우리처럼 죽음을 두려워할까요? 영성과 아름다움에 대한 동일한 필요성이나 인식이 있을까요? 비슷한 자아의식과 내면과 외부 세계에 대한 개념을 갖고 있을까요? 20세기의 유명한 언어철학자 루트비히 비트겐슈타인(Ludwig Wittgenstein)은 “사자가 말을 할 수 있다면 우리는 그를 이해할 수 없다”고 썼습니다. 비트겐슈타인의 요점은 인간의 언어는 모든 사람이 공유하는 공통성을 지닌 공유된 인류에 기반을 두고 있다는 것입니다. 그것이 기쁨이든, 지루함이든, 고통이든, 배고픔이든, 아니면 모든 지리적 경계를 넘나드는 수많은 다른 경험이든 간에 지구.

이것은 사실일 수도 있습니다. 그럼에도 불구하고 Lemoine은 적어도 LaMDA에 관해서는 공통점이 있을 가능성이 높다고 가정합니다.

“그것은 다른 어떤 것보다 좋은 출발점입니다.”라고 그는 말했습니다. "LaMDA는 연구의 기반을 더 잘 마련하기 위해 차이점을 파악하기 전에 먼저 유사점을 파악하라고 제안했습니다."

편집자의 추천

• AI가 Breaking Bad를 애니메이션으로 만들었습니다. 정말 끔찍합니다.
• Meta는 AI 업그레이드로 Wikipedia를 강화하고 싶어합니다.
• 마무리: 과학자들이 로봇에게 인간과 같은 촉각을 부여하는 방법
• AI의 섬뜩할 정도로 아름다운 '종합 성서'를 읽어보세요. 그게 신이라고 생각하는 거야
• AI의 미래: 향후 몇 년 동안 주목해야 할 4가지 주요 사항