Как ИИ может собирать улики, чтобы предотвратить стрельбу в школах в будущем

В свете недавних смертоносных школьных перестрелок в США преподаватели, родители и эксперты по безопасности обращаются к технологиям, которые помогут решить эту проблему. На первый план выходит использование искусственный интеллект.

«Наша цель — сделать так, чтобы ребенок никогда не захотел принести в школу оружие», — Сьюзи Лафлин, соучредитель и главный совет Огненный шторм, фирма по управлению кризисом, сообщила. С этой целью в партнерстве со Школой непрерывного образования Университета Алабамы компания разработала профилактическую программу, которая ищет ранние признаки у детей, которые могут быть подвержены риску совершения в будущем насильственные действия.

Идея, получившая название BERTHA (Программа оценки поведенческих рисков), возникла после массовой стрельбы в Технологическом институте Вирджинии в 2007 году, когда были убиты 32 человека, — одной из самых смертоносных в истории США. Февральская стрельба в средней школе имени Марджори Стоунман Дуглас в Паркленде, штат Флорида, в результате которой погибло 17 человек, принесла еще больше внимание к этой проблеме, что еще раз подчеркнуло в мае стрельба в средней школе Санта-Фе в Техасе, где погибли 10 учеников и учителей. были убиты.

Жертвы школьной стрельбы с 1989 года, Источник: Мать Джонс

Программа оценки рисков задумана как страховочная сеть, позволяющая поймать детей, которым может потребоваться помощь и вмешательство, прежде чем они начнут склоняться к суициду или насилию. Как было продемонстрировано после каждого предыдущего инцидента, администраторы, родители и учащиеся задаются вопросом, почему появляются ранние предупреждающие знаки, такие как киберзапугивание, намеки на оружие и упоминания о стрельбе в средней школе «Колумбайн» в Колорадо в 1999 году — не замечены ранее.

Использование ИИ для поиска улик

Проблема заключалась в сложности анализа гор данных, генерируемых на форумах и в социальных сетях. СМИ, чтобы найти несколько игл, которые могли бы предупредить школьного консультанта или психолога о том, что ребенок находится в беда. Поэтому, чтобы отфильтровать такие подсказки в Интернете, администраторы задействуют инструменты искусственного интеллекта.

«Мы — компонент искусственного интеллекта», — объяснила Мина Люкс, основатель и генеральный директор нью-йоркской компании Meelo Logic. Ее компания вместе с Firestorm работает над программой BERTHA, чтобы выполнить первоначальную тяжелую работу по сортировке того, что стало известно как большие данные. «Наша цель — автоматизация знаний для понимания контекста».

Программное обеспечение Meelo может отслеживать комментарии и публикации до их исходного источника. Компания называет этот процесс причинно-следственным рассуждением, но он больше похож на поиск нулевого пациента, первоначального человека, по поводу которого кто-то другой мог выразить беспокойство.

«Обычно в сети происходит первоначальная вспышка гнева, и они намеренно обнародуют это — это может быть призыв о помощи», — объяснил Харт Браун, главный операционный директор Firestorm. «И в 80 процентах случаев об этом знает как минимум еще один человек, поэтому даже если первое сообщение является личным, кто-то другой, скорее всего, опубликует его».

Программа искусственного интеллекта обеспечивает первоначальную проверку на основе используемых жаргонных терминов, контекста, местоположения и связанных ссылок. Затем панель мониторинга BERTHA Firestorm помечает активность для возможного вмешательства. Именно здесь люди — консультанты, учителя, психологи — вступают в игру, чтобы оценить, существует ли реальная угроза. нуждается ли ребенок в дополнительном внимании, потому что он проявляет гнев или суицидальные наклонности, или если это занятие доброкачественный.

«Но ни один человек не несет ответственности за принятие решения», — сказала Бренда Трулав, администратор программы в университете. из Алабамы, который работал с Firestorm над этой программой и связанной с ней программой электронного обучения для преподавателей по всей стране. «Один человек может что-то упустить, поэтому именно команда людей решает, что делать».

Трулав отметил, что программа основана на опыте учителей, судебных психологов и других экспертов, направленных на создание формулы борьбы с потенциальными кризисами.

Означает ли повышенная безопасность меньшую конфиденциальность?

Хотя потенциал ИИ в предотвращение будущих школьных перестрелок может быть многообещающим, такое отслеживание и анализ данных вызывают неизбежные опасения по поводу конфиденциальности и точности, а также того, преобладает ли безопасность над какими-либо опасениями.

Брайс Альберт, девятиклассник средней школы Марджори Стоунман Дуглас, находился в коридоре третьего этажа, когда стрелок начал стрелять по ученикам. Когда Альберт увидел, как убийца идет по коридору, учитель впустил Альберта в класс, и он выжил. После этого случая у него изменилось мнение о конфиденциальности.

«Раньше я говорил: не лезь в свои дела», — рассказал Альберт Digital Trends о том, что власти отслеживают его использование социальных сетей. «Но теперь я полностью передумал».

Люкс из Meelo подчеркнул, что программы ИИ не имеют доступа к каким-либо частным учетным записям; вся информация общедоступна. Лафлин из Firestorm подчеркнул тот факт, что они не собирают и не хранят данные сами. Его ведут отдельные школы, которые уже имеют опыт ведения учета учащихся. (Firestorm взимает лицензионный сбор в размере 2500 долларов США за школу, а Университет Алабамы предлагает бесплатный онлайн-курс обучения для преподавателей K-12 Алабамы. Школы также могут бесплатно работать над собственными проектами раннего предупреждения, используя базовую формулу из девяти шагов Firestorm для создания таких программ.)

Люкс признает, что такие тонкости языка, как сарказм, могут оказаться трудными для любого исследования ИИ. Meelo фокусируется на текстовом анализе, а не на анализе изображений, который используют другие компании, занимающиеся искусственным интеллектом. как Кортика, изучать. Тем не менее, даже среди участников-людей есть место для неправильной интерпретации.

«Трудно вызвать эмоции посредством текстовых сообщений», — признал Альберт.

С другой стороны, беспристрастная программа не выбирает фаворитов и не игнорирует те виды эмоциональных или поведенческих изменений, которые могут указывать на то, что впереди проблемы.

«В конечном счете, это может быть более точным, если устранить как можно больше предвзятости», — сказал Браун из Firestorm. Специалист по персоналу или консультант может свести к минимуму эмоциональные всплески человека, например, сказав, что это происходит постоянно. Немигающий компьютер не оправдывает себя подобным образом.

«Но для того, чтобы взять интервью у этого человека, все равно требуется человеческий подход», — сказал Браун. «Компьютер не определит, нужно ли исключить этого человека или ему нужна консультация».

ИИ — это инструмент, а не решение

Все эксперты Digital Trends, с которыми общалась эта история, подчеркивали тот факт, что ИИ по-прежнему является лишь начальным фильтром или инструментом для предотвращения будущих школьных перестрелок. Он может генерировать оповещения о детях, находящихся в группе риска, но не может сказать педагогам, как, когда и даже следует ли им вмешаться. Школы по-прежнему нуждаются в собственной команде экспертов — от учителей, знающих учеников, до психологов — и, вероятно, будут продолжать нуждаться в них.

«Статистика показывает, что с каждой стрельбой в школе увеличивается вероятность повторения еще одной стрельбы», — сказал Люкс.

В конечном счете, человеческий фактор является наиболее важным фактором. «Говорите с людьми и просите о помощи», — сказал Альберт. «Не бойтесь просить о помощи».

Рекомендации редакции

• Прочтите устрашающе красивое «синтетическое писание» ИИ. который думает, что это Бог
• Почему обучение роботов игре в прятки может стать ключом к созданию искусственного интеллекта следующего поколения
• А.И. может помочь обнаружить характерные признаки коронавируса на рентгенограммах легких
• Фильтр по позитиву: этот новый искусственный интеллект. может обезвредить потоки онлайн-комментариев
• Умный ИИ Боди могут выявить, когда у младенцев возникают проблемы с подвижностью