Hur AI kan samla ledtrådar för att förhindra framtida skolskjutningar

I ljuset av den senaste tidens dödliga skolskjutningar i USA söker pedagoger, föräldrar och säkerhetsexperter teknik för att lösa problemet. I framkant ligger användningen av artificiell intelligens.

"Vårt mål är att se till att ett barn aldrig vill ta med ett vapen till skolan," Suzy Loughlin, medgrundare och chefsråd för Eldstorm, ett krishanteringsföretag, sade. För detta ändamål, i samarbete med University of Alabama School of Continuing Education, har företaget utvecklat ett förebyggande program som letar efter tidiga varningstecken hos barn som kan riskera att begå framtid våldsamma handlingar.

Idén, kallad BERTHA, för Behavioral Risk Threat Assessment Program, växte fram ur masskjutningen 2007 på Virginia Tech när 32 människor mördades - en av de dödligaste i USA: s historia. Skottlossningen i februari på Marjory Stoneman Douglas High School i Parkland, Florida där 17 människor dödades, ledde till fler uppmärksamhet på frågan, underströk igen i maj, av skjutningen på Santa Fe High School i Texas där 10 elever och lärare dödades.

Offren för skolskjutning sedan 1989, Källa: Mamma Jones

Riskbedömningsprogrammet är tänkt som ett skyddsnät för att fånga upp barn som kan behöva hjälp och ingripande innan de blir suicidala eller våldsamma. Som visats efter varje tidigare incident undrar administratörer, föräldrar och elever varför tidiga varningstecken - som nätmobbning, anspelningar på vapen och referenser till skjutningen på Columbine High School i Colorado 1999 - märktes inte tidigare.

Använder AI för att söka efter ledtrådar

Utmaningen har varit svårigheten att sålla genom bergen av data som genererats i forum och sociala medier mediakonton för att hitta de få nålar som kan varna en skolkurator eller psykolog om att ett barn befinner sig i problem. Så för att filtrera bort sådana ledtrådar online, anlitar administratörer artificiell intelligens.

"Vi är AI-komponenten", förklarade Mina Lux, grundare och VD för New York-baserade Meelo Logic. Hennes företag arbetar på BERTHA-programmet tillsammans med Firestorm för att utföra det inledande tunga lyftet av att sortera genom det som har blivit känt som big data. "Vårt fokus är kunskapsautomatisering för att förstå sammanhanget."

Meelos programvara kan spåra kommentarer och inlägg tillbaka till sin ursprungliga källa. Företaget hänvisar till processen som orsaksresonemang, men det är mer analogt med att hitta patient noll, den ursprungliga individen som någon annan kan ha uttryckt oro över.

"Vanligtvis finns det ett första utbrott online, och de gör det medvetet offentligt - det kan vara ett rop på hjälp," förklarade Hart Brown, COO för Firestorm. "Och i 80 procent av fallen vet åtminstone en annan person, så även om det första inlägget är privat, kommer sannolikt någon annan att göra det offentligt."

AI-programmet tillhandahåller den första screeningen, baserat på använda slangtermer, sammanhang, plats och relaterade länkar. Sedan flaggar Firestorms BERTHA-instrumentpanel aktivitet för möjlig intervention. Det är där människor - kuratorer, lärare, psykologer - går in för att bedöma om det finns ett verkligt hot, om ett barn behöver extra uppmärksamhet för att det uppvisar ilska eller självmordstendenser, eller om aktiviteten är godartad.

"Men ingen person är ansvarig för att fatta beslutet", säger Brenda Truelove, programadministratör vid universitetet från Alabama som har arbetat med Firestorm på programmet och ett tillhörande e-lärningsprogram för lärare över hela landet. "En person kan missa något, så det är ett team av människor som bestämmer vad de ska göra."

Truelove noterade att programmet är baserat på erfarenhet från lärare, rättsmedicinska psykologer och andra experter för att skapa en formel för att hantera potentiella kriser.

Betyder ökad säkerhet mindre integritet?

Medan potentialen för AI i förhindra framtida skolskjutningar kan vara lovande, sådan spårning och dataanalys väcker oundvikliga farhågor om integritet och noggrannhet, och om säkerheten åsidosätter eventuella problem.

Bryce Albert, en elev i nian vid Marjory Stoneman Douglas High School, var i korridoren på tredje våningen när skytten började skjuta mot elever. När Albert såg mördaren komma ner i korridoren släppte en lärare in Albert i ett klassrum och han överlevde. Sedan den upplevelsen har han haft en förändring i tanken om integritet.

"Förut tänkte jag, gå inte in på mina saker," sa Albert till Digital Trends, om myndigheter som spårar hans användning av sociala medier. "Men nu har jag ändrat mig totalt."

Meelo’s Lux betonade att AI-programmen inte kommer åt några privata konton; all information är offentlig. Firestorms Loughlin underströk det faktum att de inte samlar in eller lagrar data själva. Det underhålls av de enskilda skolorna, som redan har erfarenhet av att föra elevregister. (Firestorm tar ut en licensavgift på $2 500 per skola, medan University of Alabama erbjuder en gratis onlinekurs för lärare i Alabama K-12. Skolor kan också arbeta med sina egna projekt för tidig varning gratis genom att använda Firestorms grundläggande niostegsformel för att upprätta sådana program.)

Lux erkänner att finesser i språket, såsom sarkasm, kan visa sig vara utmanande för all AI-forskning. Meelo fokuserar på textanalys, snarare än den typ av bildanalys som andra AI-företag, som Cortica, studie. Ändå finns det utrymme för misstolkningar även för mänskliga deltagare.

"Det är svårt att få känslor genom att skicka sms," erkände Albert.

Å andra sidan spelar ett passionerat program inte favoriter eller ignorerar de typer av känslomässiga eller beteendemässiga förändringar som kan tyda på att problem är framför sig.

"I slutändan kan det bli mer exakt genom att eliminera så mycket partiskhet som möjligt," sa Firestorm's Brown. En HR-person eller rådgivare kan minimera en persons känslomässiga utbrott, till exempel genom att säga att det händer hela tiden. Datorn som inte blinkar gör inga sådana ursäkter.

"Men det kräver fortfarande en mänsklig beröring att följa igenom, att intervjua den personen," sa Brown. "Datorn avgör inte om den personen behöver utvisas eller behöver rådgivning."

AI är ett verktyg, inte en lösning

Alla experter som Digital Trends talade med för den här historien betonade det faktum att AI fortfarande bara är ett första filter eller verktyg för att stoppa framtida skolskjutningar. Det kan generera varningar om barn i riskzonen, men det kan inte berätta för lärare hur, när eller ens om de ska ingripa. Skolor behöver fortfarande sitt eget team av experter – från lärare som känner eleverna till psykologer – och kommer sannolikt att fortsätta att behöva dem.

"Statistik visar att med varje skolskjutning som händer, det finns en högre sannolikhet för att en annan skolskjutning händer," sa Lux.

I slutändan är det mänskliga elementet den viktigaste faktorn. "Prata med folk och be om hjälp," sa Albert. "Var inte rädd för att be om hjälp."

Redaktörens rekommendationer

• Läs den kusligt vackra "syntetiska skriften" av en A.I. som tror att det är Gud
• Varför lära robotar att leka kurragömma kan vara nyckeln till nästa generations A.I.
• A.I. kan hjälpa till att upptäcka tydliga tecken på coronavirus i lungröntgen
• Filtrera efter positivitet: Denna nya A.I. skulle kunna avgifta kommentartrådar på nätet
• Smart A.I. bodysuits kan avslöja när bebisar utvecklar rörelseproblem