Como a IA pode coletar pistas para evitar futuros tiroteios em escolas

À luz dos recentes tiroteios mortais em escolas nos Estados Unidos, educadores, pais e especialistas em segurança estão recorrendo à tecnologia para ajudar a resolver o problema. Na vanguarda está o uso de inteligência artificial.

“Nosso objetivo é garantir que uma criança nunca queira levar uma arma para a escola”, disse Suzy Loughlin, cofundadora e chefe do conselho da Tempestade de fogo, uma empresa de gerenciamento de crises, disse. Para esse fim, em parceria com a Escola de Educação Continuada da Universidade do Alabama, a empresa desenvolveu um programa de prevenção que procura sinais de alerta precoce em crianças que podem estar em risco de cometer futuros atos violentos.

Chamada de BERTHA, para Programa de Avaliação de Ameaças de Risco Comportamental, a ideia surgiu do tiroteio em massa de 2007 em Virginia Tech, quando 32 pessoas foram assassinadas – um dos mais mortíferos da história dos EUA. O tiroteio em fevereiro na escola secundária Marjory Stoneman Douglas, em Parkland, Flórida, que matou 17 pessoas, trouxe mais atenção à questão, sublinhada novamente em Maio, pelo tiroteio na Escola Secundária de Santa Fé, no Texas, onde 10 estudantes e professores foram mortos.

Vítimas de tiroteio em escola desde 1989, Fonte: Mãe Jones

O programa de avaliação de riscos é concebido como uma rede de segurança para capturar crianças que possam necessitar de ajuda e intervenção antes que se tornem suicidas ou violentas. Conforme demonstrado após cada incidente anterior, administradores, pais e alunos se perguntam por que os sinais de alerta precoce - como cyberbullying, alusões a armas e referências ao tiroteio na Columbine High School, no Colorado, em 1999 – não foram notados mais cedo.

Usando IA para procurar pistas

O desafio tem sido a dificuldade de examinar as montanhas de dados gerados em fóruns e redes sociais. contas da mídia para encontrar as poucas agulhas que podem alertar um conselheiro escolar ou psicólogo de que uma criança está em dificuldade. Assim, para filtrar essas pistas online, os administradores estão recorrendo a ferramentas de inteligência artificial.

“Somos o componente de IA”, explicou Mina Lux, fundadora e CEO da Meelo Logic, com sede em Nova York. Sua empresa está trabalhando no programa BERTHA com a Firestorm para realizar o trabalho pesado inicial de classificação do que ficou conhecido como big data. “Nosso foco é a automação do conhecimento para entender o contexto.”

O software do Meelo pode rastrear comentários e postagens até sua fonte original. A empresa refere-se ao processo como raciocínio causal, mas é mais análogo a encontrar o paciente zero, o indivíduo original sobre o qual outra pessoa pode ter expressado preocupação.

“Normalmente, há uma explosão inicial online, e eles estão tornando isso público propositalmente – pode ser um pedido de ajuda”, explicou Hart Brown, COO da Firestorm. “E em 80% dos casos, pelo menos uma outra pessoa sabe, por isso, mesmo que a primeira postagem seja privada, é provável que outra pessoa a torne pública.”

O programa de IA fornece a triagem inicial, com base nas gírias usadas, contexto, localização e links relacionados. Em seguida, o painel BERTHA do Firestorm sinaliza atividades para possível intervenção. É aí que as pessoas – conselheiros, professores, psicólogos – intervêm para avaliar se existe uma ameaça real, se uma criança precisa de atenção extra porque está demonstrando raiva ou tendências suicidas, ou se a atividade é benigno.

“Mas ninguém é responsável por tomar a decisão”, disse Brenda Truelove, administradora de programa da Universidade do Alabama, que tem trabalhado com Firestorm no programa e em um programa de e-learning associado para educadores em todo o país. “Uma pessoa pode perder alguma coisa, então é uma equipe que decide o que fazer.”

Truelove observou que o programa se baseia na experiência de professores, psicólogos forenses e outros especialistas para criar uma fórmula para lidar com crises potenciais.

Maior segurança significa menos privacidade?

Embora o potencial da IA ​​em evitando futuros tiroteios em escolas pode ser promissor, esse rastreamento e análise de dados levantam preocupações inevitáveis ​​sobre privacidade e precisão, e se a segurança substitui quaisquer preocupações.

Bryce Albert, um aluno do nono ano da Marjory Stoneman Douglas High School, estava no corredor do terceiro andar quando o atirador começou a atirar contra os alunos. Quando Albert viu o assassino vindo pelo corredor, um professor deixou Albert entrar na sala de aula e ele sobreviveu. Desde essa experiência, ele mudou de ideia sobre privacidade.

“Antes, eu pensava: não entre nas minhas coisas”, disse Albert ao Digital Trends, sobre as autoridades que monitoram seu uso de mídia social. “Mas agora mudei totalmente de ideia.”

Lux de Meelo enfatizou que os programas de IA não acessam nenhuma conta privada; todas as informações são públicas. Loughlin, da Firestorm, ressaltou o fato de que eles próprios não coletam ou armazenam os dados. É mantido por escolas individuais, que já têm experiência em manter registros de alunos. (Firestorm cobra uma taxa de licença de US$ 2.500 por escola, enquanto a Universidade do Alabama oferece um curso de treinamento on-line gratuito para educadores do ensino fundamental e médio do Alabama. As escolas também podem trabalhar gratuitamente em seus próprios projetos de alerta precoce, usando a fórmula básica de nove etapas do Firestorm para estabelecer tais programas.)

Lux reconhece que as sutilezas da linguagem, como o sarcasmo, podem ser um desafio para qualquer pesquisa em IA. Meelo se concentra na análise textual, em vez do tipo de análise de imagem que outras empresas de IA, como Córtica, estudar. Ainda assim, há espaço para interpretações erradas, mesmo por parte dos participantes humanos.

“É difícil obter emoções através de mensagens de texto”, reconheceu Albert.

Por outro lado, um programa imparcial não tem favoritos nem ignora os tipos de mudanças emocionais ou comportamentais que podem indicar que problemas estão por vir.

“Em última análise, pode ser mais preciso eliminando o máximo de preconceitos possível”, disse Brown do Firestorm. Um profissional ou conselheiro de RH pode minimizar as explosões emocionais de uma pessoa, por exemplo, dizendo que isso acontece o tempo todo. O computador que não pisca não dá tais desculpas.

“Mas ainda é necessário um toque humano para entrevistar essa pessoa”, disse Brown. “O computador não determinará se essa pessoa precisa ser expulsa ou se precisa de aconselhamento.”

IA é uma ferramenta, não uma solução

Todos os especialistas com quem a Digital Trends conversou para esta história enfatizaram o fato de que a IA ainda é apenas um filtro ou ferramenta inicial para impedir futuros tiroteios em escolas. Pode gerar alertas sobre crianças em risco, mas não pode dizer aos educadores como, quando ou mesmo se devem intervir. As escolas ainda precisam da sua própria equipa de especialistas – desde professores que conhecem os alunos até psicólogos – e é provável que continuem a precisar deles.

“As estatísticas mostram que, com cada tiroteio em uma escola que acontece, há uma probabilidade maior de que aconteça outro tiroteio em uma escola”, disse Lux.

Em última análise, o elemento humano é o fator mais importante. “Fale com as pessoas e peça ajuda”, disse Albert. “Não tenha medo de pedir ajuda.”

Recomendações dos Editores

• Leia a estranhamente bela “escritura sintética” de uma IA. que pensa que é Deus
• Por que ensinar robôs a brincar de esconde-esconde pode ser a chave para a IA da próxima geração
• IA pode ajudar a detectar sinais reveladores de coronavírus em radiografias pulmonares
• Filtrar por positividade: esta nova IA. poderia desintoxicar tópicos de comentários online
• IA inteligente macacões podem revelar quando os bebês estão desenvolvendo problemas de mobilidade