Facebook은 AI를 구축했습니다. 의도적으로 잊어버리는 것

“안녕하세요, HAL. 내 말 들리나요, HAL?” 우주 비행사 Dave Bowman은 필사적으로 자신의 감정을 억제하려고 노력하며 말했습니다.

잠시 멈춘 후 감정 없는 단조로운 목소리로 컴퓨터가 응답했습니다. “그렇습니다, 데이브. 나는 당신을 읽었습니다.”

“포드 베이 문을 열어라, HAL.”

또 다른 긴 멈춤. 전능한 AI인 HAL이었습니다. 그걸 통제했던 디스커버리 원 우주선, 정말 그를 무시하고 있나요? 물론 불가능하다고 Bowman은 생각했습니다. 지금 당장 HAL은 행동에 나서 복종할 것입니다.

“미안해요, 데이브.” HAL이 계속 말했습니다. “그렇게 할 수 없을 것 같아.”

"뭐가 문제 야?" 데이브가 물었다.

“글쎄요, 데이브. 여는 방법을 잊어버렸어요.”

알았어, 상황이 정확히 그런 건 아니었어 2001: 스페이스 오디세이, 그러나 농담은 기본적으로 스스로 작성됩니다. 결국, 인공 지능과 관련하여 좋은 기억력은 연구자들이 시스템에 부여하고자 하는 전제 조건 중 하나인 것 같습니다. 누구도 AI를 원하지 않습니다. 그것은 사물을 잊어버리는 일상적이고 눈에 띄지 않는 지능을 본뜬 것입니다. 그렇다면 왜일까요? 페이스북 건망증이 있는 AI를 구축하고 있나요? 그리고 왜 웨이터와 고객 수프에 들어가는 파리에 대한 오래된 농담처럼 우리 모두가 곧 그것을 원하게 될까요?

망각에 대해 생각할 때 우리가 생각하는 것

그 대답은 우리가 하다 여기저기서 일을 잊어버리는 일상적이고 눈에 띄지 않는 지능에 가까운 것을 원합니다. 인간은 휴가를 떠나기 전에 기념일, 지갑, 차고 문 닫는 것 같은 중요한 것들을 잊어버립니다. 그것은 차선책의 망각입니다. 하지만 우리는 정보를 유지할 필요가 없기 때문에 정보 조각을 잊어버리기도 합니다. 단기 및 장기로 통과하기 전에 싱크대 배수구의 음식물 수집기에 걸린 찌꺼기 메모리.

안에 유명한 실험, 사람들은 잘못된 동전이 표시된 사진 모음에서 미국 동전을 올바르게 인식하도록 요청 받았습니다. 참가자들은 매일 동전을 보고 사용했지만 놀라울 정도로 작업 능력이 부족했습니다. 연구원들은 다음과 같이 썼습니다. “균형상 결과는 물체의 시각적 세부 사항이 매우 친숙한 물건이라 할지라도 일반적으로 일상 생활에 유용한 정도까지만 기억에서 사용할 수 있습니다. 삶."

뇌가 하드 드라이브 저장 장치처럼 가득 찰 수 있다고 말하는 것만큼 간단하지는 않지만 확실히 단기적인 문제가 있습니다. 더 이상 필요하지 않으면 쇠퇴하는 것처럼 보이는 기억, 반면에 다른 기억은 우리 뇌에 파고들어 그곳에서 살아갑니다. 임대료가 없습니다. 예? 지난 연휴에 크리스마스 장식을 어디에 챙겼는지 생각해 보세요. 다음으로, 프런트 데스크에서 마지막으로 머물렀던 호텔의 객실까지 정신적으로 걸어가십시오. 이 호텔은 다시는 머물지 않을 것 같습니다. 어떤 정보도 귀하의 웰빙에 매우 중요하지 않습니다. 그럼에도 불구하고 한 정보는 필요하고 다른 정보는 필요하지 않습니다. 어쨌든 당신의 두뇌는 어떤 것을 쓰레기통에 버려야 할지 알고 있습니다.

이것이 Facebook의 새로운 AI의 아이디어입니다. Expire-Span이라는 프로젝트. 처럼 인공지능 모델은 기사나 책과 같은 긴 형식의 데이터세트에 점점 더 많이 적용되고 있으며, 이러한 모델과 관련된 계산 비용은 더 많은 정보를 기억하려고 할 때 증가합니다. 사람들이 자신의 삶에 대한 풍부한 멀티미디어 데이터를 점점 더 많이 수집함에 따라 문제는 더욱 시급해지고 있습니다.

"우리가 보유하고 있는 콘텐츠의 양이 증가함에 따라 가장 중요한 문제는 스토리지입니다." 안젤라 팬, Facebook AI Research Paris의 연구 과학자는 Digital Trends에 말했습니다. “예를 들어 휴대폰의 메모리 용량은 제한되어 있습니다. 이는 개인 정보 보호를 이유로 웨어러블 및 기타 온디바이스 유형 애플리케이션에서 훨씬 더 큰 문제입니다. 사람들은 콘텐츠가 서버나 클라우드가 아닌 장치에 저장되기를 원하므로 스토리지가 강조됩니다. 도전한다.”

현재 AI 모델은 기억에 대해 프랭크 시나트라(Frank Sinatra)의 접근 방식을 취합니다. 즉, 전부 기억하거나 전혀 기억하지 않는다는 것입니다. 매 시간 단계에서 생성된 모든 정보를 저장하거나 미리 정해진 시간이 지나면 모두 잊어버립니다. 사인바야르 수흐바타르, 또 다른 Facebook A.I. 연구 과학자는 이를 지난 주에 일어난 모든 일을 완벽하게 기억하지만 그 이상은 전혀 기억하지 못하는 것에 비유합니다.

AI에 건망증 구축

연구자들은 AI에 "망각" 기능을 내장했습니다. 이전 모델. 장단기 기억 예를 들어, (LSTM) 모델은 기계 학습을 구동하는 핵심 기술 중 하나인 순환 신경망(RNN)에 망각 메커니즘을 추가했습니다. "RNN에는 하나의 벡터로 구성된 내부 메모리가 있으므로 이를 잊어버린다면 이를 새로운 정보로 덮어쓰는 것을 의미합니다"라고 Sukhbaatar는 Digital Trends에 말했습니다.

대조적으로 Expire-Span은 수천 개의 벡터를 포함할 수 있는 외부 메모리에 망각 메커니즘을 추가합니다. 새로운 정보가 관찰되지만 이름이 우유병에 ​​있는 만료 라벨의 종류를 연상시키는 Expire-Span은 해당 정보가 메모리에 유지되어야 하는 기간을 결정하는 능력을 가지고 있습니다. 정보가 미래에 중요하지 않다고 판단되면 해당 정보는 점차적으로 활용될 수 있습니다. AI에서 궁극적으로 근절되기 전에 부패합니다. 더 유용한 공간을 만들기 위한 모델의 메모리 정보.

이를 위해서는 모델이 특정 항목과 관련된 것과 관련되지 않은 것을 예측할 수 있어야 합니다. 올바른 만료일을 지정하기 전에 해당 정보는 AI에서 사라집니다. 체계. 관련 없는 정보를 버려서 Facebook의 A.I. 더 큰 규모로 정보를 처리할 수 있습니다.

Facebook의 많은 인공 지능 연구와 마찬가지로 소셜 네트워킹 거대 기업은 Expire-Span이 가까운 시일 내에 핵심 제품에 포함될 것이라고 발표하지 않았습니다. 그러나 Facebook이 점점 더 많은 사용자 데이터를 처리함에 따라 스마트 안경으로 전환한다는 소문), 이 기술이 어떻게 적용될 수 있는지 알아보는 것은 어렵지 않습니다. 미래의 A.I. 도구는 막대한 양의 데이터를 처리함에도 불구하고 고성능 수준에서 성능을 발휘할 수 있는데 Expire-Span이 그 이유일 수 있습니다.

건망증이 있는 AI를 만든다고 가정하는 실수를 저지르지 마십시오. A.I를 향한 또 다른 발걸음을 내디딘 것입니다. 그러나 더 인간적입니다. 인간이 사물을 잊어버리는 정확한 이유는 여전히 연구자들의 많은 조사 대상입니다. 현대 AI를 지배하는 뇌에서 영감을 받은 신경망과 마찬가지로 Facebook의 망각 알고리즘도 망각 이론을 모델로 삼았습니다. 생체 충실도로 그것을 복제하려는 시도가 아닙니다.

"뇌는 완전히 이해되지 않은 매우 복잡한 시스템이며 인간의 기억을 형성하는 다양한 유형의 기억이 있습니다"라고 Sukhbaatar는 말했습니다. “다른 모든 AI와 마찬가지로 Expire-Span도 마찬가지입니다. 메커니즘은 아마도 탁월한 그러나 궁극적으로 뇌가 실제로 어떻게 작동하는지 충실하게 반영하지는 않습니다. 특히 기억은 그 자체로 매우 활발한 연구 분야입니다. 우리가 설명하는 인간 기억 비유는 명확성을 위해서만 추가되었지만 확실히 우리 작업에 영감을 주었습니다.”

그리고 잊지 마세요!

편집자의 추천

• 페이스북의 새로운 이미지 인식 AI. 10억 장의 인스타그램 사진을 학습했습니다.
• 페이스북의 새로운 A.I. 이미지 인식을 완전히 새로운 차원으로 끌어올리다
• 어떻게 A.I. 아직 존재하지도 않는 악성코드를 물리칠 수 있습니다