AI가 미래의 학교 총격 사건을 예방하기 위해 단서를 수집하는 방법

최근 미국에서 발생한 치명적인 학교 총격 사건을 고려하여 교육자, 부모, 보안 전문가는 문제 해결에 도움이 되는 기술을 찾고 있습니다. 가장 먼저 사용하는 것은 인공지능.

"우리의 목표는 아이들이 결코 학교에 총을 갖고 싶어하지 않도록 하는 것입니다."라고 공동 창립자이자 최고 위원회인 Suzy Loughlin은 말했습니다. 파이어스톰, 위기 관리 회사는 말했다. 이를 위해 회사는 앨라배마대학교 평생교육원과 협력하여 미래에 범죄를 저지를 위험이 있는 어린이에게서 조기 경고 신호를 찾는 예방 프로그램을 개발했습니다. 폭력적인 행위.

행동 위험 위협 평가 프로그램(Behavioral Risk Threat Assessment Program)을 위해 BERTHA라고 명명된 이 아이디어는 2007년 버지니아 공대에서 32명이 살해된 대량 총격 사건에서 비롯되었습니다. 이는 미국 역사상 가장 치명적인 사건 중 하나입니다. 지난 2월 플로리다주 파크랜드의 마저리 스톤맨 더글러스 고등학교에서 총격 사건이 발생해 17명이 사망했다. 지난 5월 10명의 학생과 교사가 희생된 텍사스 산타페 고등학교 총격 사건으로 인해 이 문제에 대한 관심이 다시 강조되었습니다. 살해 당했다.

1989년 이후 학교 총기 난사 피해자, 원천: 마더 존스

위험 평가 프로그램은 자살이나 폭력을 행사하기 전에 도움과 개입이 필요할 수 있는 어린이를 잡기 위한 안전망으로 생각됩니다. 이전의 각 사건 이후에 입증된 것처럼 관리자, 학부모 및 학생은 왜 조기 경고 신호가 있는지 궁금해합니다. 사이버 괴롭힘, 총기에 대한 암시, 1999년 콜로라도에서 발생한 콜럼바인 고등학교 총격 사건에 대한 언급 등은 눈에 띄지 않았습니다. 더 일찍.

AI를 활용해 단서를 찾는다

문제는 포럼과 소셜 미디어에서 생성된 엄청난 양의 데이터를 선별하는 것이 어렵다는 점이었습니다. 학교 상담사 또는 심리학자에게 자녀의 상태를 알릴 수 있는 바늘 몇 개를 찾기 위해 미디어 계정을 사용합니다. 문제. 따라서 온라인에서 이러한 단서를 필터링하기 위해 관리자는 인공 지능 도구를 활용하고 있습니다.

뉴욕에 본사를 둔 Meelo Logic의 창립자이자 CEO인 Mina Lux는 "우리는 AI 구성 요소입니다."라고 설명했습니다. 그녀의 회사는 Firestorm과 함께 BERTHA 프로그램을 진행하여 빅 데이터라고 알려진 데이터를 분류하는 초기 작업을 수행하고 있습니다. "우리의 초점은 맥락을 이해하기 위한 지식 자동화입니다."

Meelo의 소프트웨어는 댓글과 게시물을 원래 소스로 추적할 수 있습니다. 회사는 이 과정을 인과적 추론이라고 부르지만, 이는 다른 사람이 우려를 표명했을 수 있는 원래 개인인 최초의 환자를 찾는 것과 더 유사합니다.

Firestorm의 COO인 Hart Brown은 "일반적으로 온라인에서 초기 폭발이 발생하고 의도적으로 이를 공개합니다. 이는 도움을 요청하는 것일 수 있습니다."라고 설명했습니다. "그리고 80%의 경우에는 적어도 한 명 이상의 사람이 알고 있기 때문에 첫 번째 게시물이 비공개라고 해도 다른 사람이 이를 공개할 가능성이 높습니다."

AI 프로그램은 사용된 속어, 맥락, 위치 및 관련 링크를 기반으로 초기 심사를 제공합니다. 그런 다음 Firestorm의 BERTHA 대시보드는 개입 가능한 활동을 표시합니다. 상담사, 교사, 심리학자 등 사람들이 개입하여 실제 위협이 있는지 여부를 평가합니다. 아이가 분노나 자살 경향을 보이기 때문에 특별한 주의가 필요한지, 아니면 활동이 다음과 같은지 여부 온화한.

"그러나 어느 누구도 결정을 내릴 책임이 없습니다"라고 대학의 프로그램 관리자인 Brenda Truelove는 말했습니다. 전국의 교육자를 위한 프로그램 및 관련 e-러닝 프로그램에 대해 Firestorm과 협력해 온 앨라배마 출신입니다. "한 사람이 뭔가를 놓칠 수 있으므로 무엇을 해야할지 결정하는 것은 사람들의 팀입니다."

Truelove는 이 프로그램이 교사, 법의학 심리학자 및 기타 전문가의 경험을 바탕으로 잠재적인 위기에 대처하기 위한 공식을 만들었다고 언급했습니다.

안전이 향상되면 개인 정보 보호가 줄어듭니까?

AI의 잠재력은 미래의 학교 총격 사건 방지 이러한 추적 및 데이터 분석은 개인 정보 보호 및 정확성, 그리고 안전이 모든 우려보다 우선하는지 여부에 대한 불가피한 우려를 불러일으킵니다.

범인이 학생들에게 총격을 가하기 시작했을 때 Marjory Stoneman Douglas 고등학교의 9학년 학생인 Bryce Albert는 3층 복도에 있었습니다. Albert는 살인자가 복도로 내려오는 것을 보고 교사가 Albert를 교실로 들여보냈고 그는 살아 남았습니다. 그 경험 이후로 그는 개인 정보 보호에 대한 생각이 바뀌었습니다.

Albert는 Digital Trends와의 인터뷰에서 당국이 자신의 소셜 미디어 사용을 추적하는 것에 대해 "전에는 내 일에 개입하지 않으려고 했어요."라고 말했습니다. "그런데 지금은 생각이 완전히 바뀌었어요."

Meelo의 Lux는 AI 프로그램이 개인 계정에 액세스하지 않는다는 점을 강조했습니다. 모든 정보는 공개됩니다. Firestorm의 Loughlin은 자체적으로 데이터를 수집하거나 저장하지 않는다는 사실을 강조했습니다. 이는 이미 학생 기록을 보관한 경험이 있는 개별 학교에서 관리합니다. (Firestorm은 학교당 $2,500의 라이센스 비용을 청구하는 반면, University of Alabama는 Alabama K-12 교육자를 위한 무료 온라인 교육 과정을 제공합니다. 학교에서는 Firestorm의 기본 9단계 프로그램 수립 공식을 사용하여 자체 조기 경보 프로젝트를 무료로 진행할 수도 있습니다.)

Lux는 풍자와 같은 언어의 미묘함이 모든 AI 연구에서 어려울 수 있다는 점을 인정합니다. 밀로는 다른 AI 기업의 일종의 이미지 분석보다는 텍스트 분석에 중점을 두고 있으며, 코르티카처럼, 공부하다. 그럼에도 불구하고 인간 참가자들에게도 오해의 여지가 있습니다.

“문자 메시지를 통해 감정을 전달하는 것은 어렵습니다.”라고 Albert는 인정했습니다.

반면에 냉정한 프로그램은 선호하는 프로그램을 선택하지 않거나 문제가 앞에 있음을 나타낼 수 있는 감정적 또는 행동적 변화를 무시하지 않습니다.

Firestorm의 Brown은 “궁극적으로 편견을 최대한 제거하면 더 정확해질 수 있습니다.”라고 말했습니다. HR 담당자나 상담사는 개인의 감정적 폭발을 최소화할 수 있습니다. 예를 들어 그런 일이 항상 발생한다고 말하면서 말입니다. 깜박이지 않는 컴퓨터는 그런 변명을 하지 않습니다.

“그러나 그 사람을 인터뷰하고 후속 조치를 취하려면 여전히 인간의 손길이 필요합니다.”라고 Brown은 말했습니다. “컴퓨터는 그 사람이 퇴학을 받아야 하는지, 상담이 필요한지 판단하지 않습니다.”

AI는 솔루션이 아닌 도구이다

이 이야기를 위해 Digital Trends가 인터뷰한 모든 전문가는 AI가 여전히 미래의 학교 총격 사건을 막기 위한 초기 필터 또는 도구일 뿐이라는 사실을 강조했습니다. 위험에 처한 어린이에 대한 경고를 생성할 수 있지만 교육자에게 개입 방법, 시기 또는 개입 여부를 알려줄 수는 없습니다. 학교에는 여전히 학생을 아는 교사부터 심리학자에 이르기까지 자체 전문가 팀이 필요하며 앞으로도 계속해서 필요할 것입니다.

“통계에 따르면 학교 총격 사건이 발생할 때마다 또 다른 학교 총격 사건이 발생할 확률이 더 높아집니다.”라고 Lux는 말했습니다.

결국 인간적인 요소가 가장 중요한 요소이다. Albert는 “사람들에게 말하고 도움을 요청하세요.”라고 말했습니다. “도움을 요청하는 것을 두려워하지 마세요.”

편집자의 추천

• AI의 섬뜩할 정도로 아름다운 '종합 성서'를 읽어보세요. 그게 신이라고 생각하는 거야
• 로봇에게 숨바꼭질 놀이를 가르치는 것이 차세대 AI의 핵심이 될 수 있는 이유
• 일체 포함. 폐 엑스레이에서 코로나바이러스의 숨길 수 없는 징후를 발견하는 데 도움이 될 수 있음
• 긍정성 기준으로 필터링: 이 새로운 A.I. 온라인 댓글 스레드를 해독할 수 있음
• 스마트 AI 아기의 이동성 문제가 언제 나타나는지 바디수트를 통해 알 수 있음