인공지능 프로그램 모든 것을 다 하겠다고 약속하다, 날씨 예측부터 자율주행차 조종까지. 이제 AI는 영상 감시 시스템에 적용되어 진행 중인 범죄를 탐지하는 것이 아니라 범죄가 발생하기 전에 식별함으로써 범죄 활동을 저지할 수 있다고 약속합니다. 성폭행 등 폭력을 예방하는 것이 목표이지만, 훌륭한 의도 로 변하다 마이너리티 리포트-스타일의 범죄 전 악몽?
그러한 가능성은 다음 에피소드의 줄거리처럼 보일 수도 있습니다. 검은 거울, 그러나 그것은 더 이상 공상 과학 소설의 내용이 아닙니다. 보안 및 보안 분야에 뿌리를 둔 이스라엘 기업 코르티카(Cortica) AI 연구, 최근에 파트너십을 맺었습니다 인도에서는 Best Group과 협력하여 공공 장소의 CCTV 카메라에서 스트리밍되는 테라바이트급 데이터를 분석했습니다. 목표 중 하나는 도시 거리, 버스 정류장, 기차역과 같은 공공 장소의 안전을 향상시키는 것입니다.
런던이나 뉴욕과 같은 도시의 법 집행 기관에서는 이미 일반적인 일입니다. 얼굴 인식을 사용하다 비디오 카메라 감시의 일환으로 번호판 일치. 그러나 Cortica의 AI는 누군가가 곧 폭력 범죄를 저지를 것이라는 신호를 보내는 "행동 이상"을 찾아 훨씬 더 발전할 것을 약속합니다.
이 소프트웨어는 모니터링을 통해 테러리스트를 식별하려는 군대 및 정부 보안 검색 시스템 유형을 기반으로 합니다. 사람들은 실시간으로 소위 미시적 표현, 즉 사람의 사악한 행동을 믿을 수 있는 미세한 경련이나 버릇을 찾고 있습니다. 의도. 그러한 숨길 수 없는 징후는 너무 작아서 숙련된 탐정은 피할 수 있지만 깜박이지 않는 AI의 눈은 피할 수 없습니다.
거래가 발표되기 전 텔아비브에서 열린 회의에서 공동 창립자이자 COO인 Karina Odinaev는 Cortica의 소프트웨어가 다음과 같이 설명했습니다. 전통적인 고정관념에 따라 쉽게 분류되지 않는 개체를 식별하는 데 따른 문제를 해결하기 위한 것입니다. Odinaev가 설명한 한 가지 예는 다음과 같습니다. 코너 케이스 (고속도로에서 트럭에서 침대가 떨어지는 등) 운전 상황에서 마주치는 상황을 정확하게 자율주행차를 제어하는 프로그램이 처리할 수 있어야 하는 일종의 고유한 이벤트 미래.
Odinaev는 “이를 위해서는 비지도 학습이 필요합니다.”라고 말했습니다. 즉, 소프트웨어는 인간이 학습하는 것과 동일한 방식으로 학습해야 합니다.
뇌에 직접 가다
Cortica의 AI 소프트웨어 모니터 사람들은 실시간으로 미세한 표현, 즉 사람의 사악한 의도를 믿을 수 있는 미세한 경련이나 버릇을 찾고 있습니다.
그러한 프로그램을 만들기 위해 Cortica는 신경망 경로 (이름에도 불구하고 실제 두뇌가 작동하는 방식보다는 확률과 컴퓨팅 모델을 기반으로 합니다.) 대신 코르티카는 근원지인 쥐 뇌의 피질 부분으로 갔다. Cortica는 뇌 조각을 생체 외(신체 외부)에서 살아 있게 유지하고 이를 미세 전극 배열에 연결함으로써 피질이 특정 자극에 어떻게 반응하는지 연구할 수 있었습니다. 전기 신호를 모니터링함으로써 연구원들은 특정 개념을 처리하는 파벌(clique)이라고 불리는 특정 뉴런 그룹을 식별할 수 있었습니다. 거기에서 회사는 뇌의 원래 프로세스를 시뮬레이션하기 위해 서명 파일과 수학적 모델을 구축했습니다.
Cortica에 따르면 그 결과는 투명성을 유지하면서 고급 학습을 허용하는 AI에 대한 접근 방식입니다. 즉, 시스템이 실수를 하면, 예를 들어 폭동이 곧 일어날 것이라고 잘못 예상하거나 앞차가 곧 다가올 것이라고 잘못 예상하는 것입니다. 진입로에서 꺼내기 — 프로그래머는 오류의 원인이 되는 프로세스나 서명 파일로 문제를 쉽게 추적할 수 있습니다. 심판. (이를 본질적으로 블랙박스이며 실수할 경우 완전히 재교육해야 할 수 있는 소위 딥러닝 신경망과 대조해 보세요.)
처음에는 Cortica의 Autonomous AI를 인도의 Best Group이 사용하여 공공 장소의 카메라에서 생성된 방대한 양의 데이터를 분석하여 안전성과 효율성을 향상시킬 것입니다. Best Group은 인프라 개발에 관여하는 다각화된 회사이자 정부 및 건설 고객에게 주요 공급업체입니다. 따라서 일이 원활하게 진행될 때와 그렇지 않을 때를 구분하는 방법을 배우고 싶어합니다.
그러나 Cortica의 소프트웨어는 앞으로 훨씬 더 많은 기능을 수행할 것으로 기대됩니다. 예를 들어, 미래의 로봇택시에서는 승객 행동을 모니터링하고 성폭행을 예방하는 데 사용될 수 있습니다. Cortica의 소프트웨어는 비디오 카메라뿐만 아니라 드론과 위성의 데이터도 결합할 수 있습니다. 그리고 법을 준수하는 시민과 이전 시민 간의 행동 차이를 판단하는 방법을 배울 수 있습니다. 범죄자들뿐만 아니라 평화롭고 붐비는 시장과 곧 반전될 정치적 시위 사이에서도 마찬가지입니다. 폭력적인.
이러한 예측 정보를 통해 도시에서는 인명 피해가 발생하기 전에 잠재적으로 위험한 상황에 법 집행 기관을 배치할 수 있습니다. 그러나 잘못된 손에 의해 악용될 수도 있습니다. 예를 들어 독재 정권은 그러한 정보를 사용하여 반대 의견을 진압하고 사람들이 시위를 조직할 기회도 갖기 전에 체포할 수 있습니다.
범죄 예측 소프트웨어를 사용하면 도시에서는 인명 피해가 발생하기 전에 잠재적으로 위험한 상황에 법 집행 기관을 배치할 수 있습니다. 그러나 잘못된 손에 의해 악용될 수도 있습니다.
뉴욕시에서 Cortica의 Autonomous AI가 자율주행차에 어떻게 적용되는지 시연하는 동안 Cortica의 부사장인 Patrick은 Flynn은 회사가 가장 정확한 분류 데이터를 제공하기 위해 소프트웨어를 효율적이고 안정적으로 만드는 데 중점을 두고 있다고 설명했습니다. 가능한. 예를 들어 사고를 피하기 위해 자동차를 멈추거나 속도를 높이는 등 고객이 해당 정보를 사용하여 수행하는 작업은 고객에게 달려 있습니다. 도시나 정부가 경찰 자원을 할당하는 방법에도 동일하게 적용됩니다.
플린은 “정책 결정은 코르티카의 영역 밖에 있다”고 말했다.
보안 강화를 위해 개인정보를 포기하시겠습니까?
그럼에도 불구하고 AI와 웹캠이 널리 퍼져 있는 네트워크의 결합은 개인 정보 보호와 개인의 자유에 대한 더 많은 우려를 불러일으키기 시작했습니다. 사람들이 걱정하는 것은 외국의 독재 정부뿐만이 아닙니다.
뉴올리언스의 Mitch Landrieu 시장은 다음을 포함하는 4천만 달러 규모의 범죄 퇴치 감시 계획을 제안했습니다. 기업이 운영하는 개인 웹캠의 라이브 피드와 시립 카메라를 함께 네트워킹하고 개인. 이 제안은 이미 연방 이민 관리들이 카메라를 이용해 서류미비 노동자들을 찾아 추방할 것이라는 우려로 이민 노동자들로부터 대중의 항의를 불러일으켰습니다.
경찰의 범죄 예측을 돕는 알고리즘 | 마하 | NBC 뉴스
그러는 동안 마치 감옥에 갇힌 피험자들처럼 검은 거울 전 세계적으로 소비자는 이미 자신도 모르게 AI 기반 감시를 받고 있을 수 있습니다. 구글의 249달러 클립 카메라예를 들어, AI의 초보적인 형태를 사용하여 중요하다고 판단되는 것을 발견하면 자동으로 사진을 찍습니다. 아마존, 누구의 알렉사 이미 도청 편집증의 대상이 된 그는 인기 비디오 초인종 회사인 Ring을 인수했습니다. GE Appliances는 또한 올해 말 주방용 비디오 카메라 장착 허브를 선보일 계획입니다. 유럽에서는 Electrolux가 올해 웹캠이 내장된 스팀 오븐을 선보일 예정입니다.
이러한 기술이 빅 브라더의 유령을 키우는 동안 우리의 모든 움직임을 모니터링, 여전히 칭찬할 만한 희망이 있습니다. 정교한 AI Cortica의 프로그램처럼 안전과 효율성을 향상하고 생명을 구할 수 있습니다. 예를 들어, 그러한 기술이 다음 분야에서 사용 가능하고 사용된다면 어떤 일이 일어났을지 궁금해하지 않을 수 없습니다. 19세 니콜라스 크루즈(Nikolas Cruz)가 마저리 스톤맨 더글러스 고등학교(Marjory Stoneman Douglas High)에서 17명을 살해하기 위해 타고 갔던 우버(Uber) 학교. 우버 운전자는 크루즈에게서 어떤 문제도 발견하지 못했지만, AI가 장착된 카메라가 그의 의도를 드러내는 미세한 표정을 감지하고 경찰에 알릴 수 있었을까요? 앞으로 우리는 알게 될 것입니다.
