Як штучний інтелект може збирати підказки, щоб запобігти майбутній стрілянині в школах

У світлі нещодавньої смертоносної стрілянини в школах Сполучених Штатів педагоги, батьки та експерти з безпеки шукають технології, які допоможуть вирішити цю проблему. На перший план виходить використання штучний інтелект.

«Наша мета — переконатися, що дитина ніколи не захоче брати зброю до школи», — сказала Сьюзі Лафлін, співзасновник і голова ради вогняна буря, компанія з антикризового управління, сказала. З цією метою компанія співпрацює зі Школою безперервної освіти Університету Алабами розробили профілактичну програму, яка шукає ранні попереджувальні ознаки у дітей, які можуть ризикувати в майбутньому насильницькі дії.

Ідея під назвою BERTHA для програми оцінки поведінкових ризиків виникла в результаті масової стрілянини в Техніці Вірджинії в 2007 році, коли було вбито 32 людини — однієї з найбільш смертоносних в історії США. Лютнева стрілянина в середній школі Marjory Stoneman Douglas у Паркленді, штат Флорида, в результаті якої загинули 17 людей, принесла ще більше увагу до проблеми, знову підкресленої в травні, стріляниною в середній школі Санта-Фе в Техасі, де 10 учнів і вчителів були вбиті.

Жертви стрілянини в школі з 1989 року, Джерело: Мати Джонс

Програма оцінки ризиків задумана як сітка безпеки для виявлення дітей, які можуть потребувати допомоги та втручання, перш ніж вони стануть суїцидальними чи агресивними. Як було показано після кожного попереднього інциденту, адміністратори, батьки та учні дивуються, чому такі ранні попереджувальні знаки кіберзалякування, натяки на зброю та згадки про стрілянину в середній школі Колумбайн у Колорадо в 1999 році — не помічено раніше.

Використання ШІ для пошуку підказок

Виклик полягав у складності просіювання крізь гори даних, отриманих на форумах і в соціальних мережах ЗМІ, щоб знайти кілька голок, які могли б попередити шкільного консультанта чи психолога про те, що дитина в біда. Тому, щоб відфільтрувати такі підказки в Інтернеті, адміністратори залучають інструменти штучного інтелекту.

«Ми — компонент штучного інтелекту», — пояснила Міна Люкс, засновник і генеральний директор нью-йоркської компанії Meelo Logic. Її компанія працює над програмою BERTHA разом із Firestorm, щоб виконати початкову важку роботу з сортування того, що стало відомо як великі дані. «Ми зосереджені на автоматизації знань для розуміння контексту».

Програмне забезпечення Meelo може відстежувати коментарі та публікації до їх початкового джерела. Компанія називає цей процес причинно-наслідковим міркуванням, але це більше аналогічно пошуку нульового пацієнта, оригінальної особи, щодо якої хтось інший міг висловити занепокоєння.

«Зазвичай в Інтернеті відбувається перший спалах, і вони навмисно оприлюднюють це — це може бути заклик про допомогу», — пояснив Гарт Браун, операційний директор Firestorm. «У 80% випадків принаймні ще одна особа знає, тому навіть якщо перша публікація приватна, хтось інший, швидше за все, оприлюднить її».

Програма штучного інтелекту забезпечує початкову перевірку на основі використаних сленгових термінів, контексту, місця розташування та відповідних посилань. Після цього інформаційна панель BERTHA Firestorm позначає активність для можливого втручання. Саме тут люди — консультанти, вчителі, психологи — втручаються, щоб оцінити, чи існує реальна загроза, чи потребує дитина додаткової уваги через те, що вона демонструє гнів чи схильність до суїциду, або якщо ця діяльність є доброякісний.

«Але ніхто не несе відповідальності за прийняття рішення», — сказала Бренда Трулав, програмний адміністратор університету з Алабами, який працював із Firestorm над цією програмою та пов’язаною програмою електронного навчання для педагогів по всій країні. «Одна людина може щось упустити, тому команда людей вирішує, що робити».

Трулав зазначив, що програма базується на досвіді вчителів, судових психологів та інших експертів для створення формули для вирішення потенційних криз.

Чи означає підвищення безпеки менше конфіденційності?

Хоча потенціал ШІ в запобігання майбутнім стрілянинам у школах може бути багатообіцяючим, таке відстеження та аналіз даних неминуче викликають занепокоєння щодо конфіденційності та точності, а також щодо того, чи безпека переважає будь-які занепокоєння.

Брайс Альберт, учень дев'ятого класу середньої школи Marjory Stoneman Douglas, був у коридорі третього поверху, коли стрілець почав стріляти в учнів. Коли Альберт побачив убивцю, що йде коридором, вчитель впустив Альберта в клас, і він вижив. Після того досвіду він змінив своє ставлення до приватного життя.

«Раніше я думав, не вдавайся в мої речі», — сказав Альберт Digital Trends про те, як органи влади відстежують його використання соціальних мереж. «Але зараз я повністю змінив свою думку».

Meelo’s Lux підкреслив, що програми ШІ не мають доступу до жодних приватних облікових записів; вся інформація публічна. Лофлін із Firestorm підкреслив той факт, що вони самі не збирають і не зберігають дані. Його ведуть окремі школи, які вже мають досвід ведення обліку учнів. (Firestorm стягує ліцензійну плату в розмірі 2500 доларів США за школу, тоді як Університет Алабами пропонує безкоштовний онлайн-курс для викладачів K-12 Алабами. Школи також можуть безкоштовно працювати над власними проектами раннього попередження, використовуючи базову дев’ятиступеневу формулу Firestorm для створення таких програм.)

Люкс визнає, що такі тонкощі мови, як сарказм, можуть виявитися складними для будь-якого дослідження ШІ. Meelo зосереджується на текстовому аналізі, а не на аналізі зображень, який проводять інші компанії зі штучного інтелекту. як Кортика, вивчення. Тим не менш, є місце для неправильного тлумачення навіть для людей-учасників.

«Важко викликати емоції через текстові повідомлення», — визнав Альберт.

З іншого боку, безпристрасна програма не відтворює фаворитів і не ігнорує емоційні чи поведінкові зміни, які можуть вказувати на те, що попереду проблеми.

«Зрештою, це може бути більш точним, якщо усунути якомога більше упереджень», — сказав Браун з Firestorm. Співробітник відділу кадрів або консультант може звести до мінімуму емоційні спалахи людини, наприклад, сказати, що це відбувається постійно. Немиготливий комп’ютер не виправдовує.

«Але для того, щоб взяти інтерв’ю в цієї людини, все одно потрібен людський дотик», — сказав Браун. «Комп’ютер не визначить, чи потрібно цю особу виключити чи потрібна консультація».

ШІ – це інструмент, а не рішення

Усі експерти, з якими Digital Trends спілкувалися для цієї історії, наголошували на тому факті, що штучний інтелект все ще є лише початковим фільтром або інструментом, щоб зупинити майбутню шкільну стрілянину. Він може генерувати попередження про дітей, які знаходяться в групі ризику, але він не може сказати педагогам, як, коли або навіть якщо вони повинні втрутитися. Школам все ще потрібна власна команда експертів — від учителів, які знають учнів, до психологів — і, ймовірно, вони й надалі будуть потрібні.

«Статистика показує, що з кожною шкільною стріляниною існує більша ймовірність ще однієї шкільної стрілянини», – сказав Люкс.

Зрештою, людський фактор є найважливішим фактором. «Поговоріть з людьми та попросіть допомоги», — сказав Альберт. «Не бійтеся просити про допомогу».

Рекомендації редакції

• Прочитайте моторошно красиве «синтетичне писання» штучного інтелекту. що думає, що це Бог
• Чому навчання роботів грати в хованки може стати ключем до Штучного інтелекту наступного покоління
• А.І. може допомогти виявити ознаки коронавірусу на рентгенівських знімках легенів
• Фільтрувати за позитивністю: цей новий штучний інтелект може детоксикувати потоки онлайн-коментарів
• Smart A.I. боді можуть виявити, коли у дітей виникають проблеми з рухливістю