Программы искусственного интеллекта обещай сделать все, от предсказания погоды до пилотирования автономных автомобилей. Теперь искусственный интеллект применяется в системах видеонаблюдения, обещая предотвращать преступную деятельность не путем обнаружения совершающихся преступлений, а путем выявления преступления – до того, как оно произойдет. Цель состоит в том, чтобы предотвратить насилие, такое как сексуальные посягательства, но может ли такое замечательные намерения превратиться в Отчет меньшинствакошмары в стиле допреступления?
Такая возможность может показаться сюжетной линией из эпизода Черное зеркало, но это уже не из области научной фантастики. Cortica, израильская компания с глубокими корнями в сфере безопасности и исследования искусственного интеллекта, недавно сформировал партнерство в Индии с Best Group для анализа терабайтов потоковой передачи данных с камер видеонаблюдения в общественных местах. Одна из целей — повысить безопасность в общественных местах, таких как улицы города, автобусные остановки и вокзалы.
Для правоохранительных органов таких городов, как Лондон и Нью-Йорк, уже является обычным явлением использовать распознавание лиц и сопоставление номерных знаков в рамках их видеокамеры наблюдения. Но ИИ Cortica обещает пойти гораздо дальше, выявляя «поведенческие аномалии», которые сигнализируют о том, что кто-то собирается совершить насильственное преступление.
Программное обеспечение основано на типе военных и правительственных систем проверки безопасности, которые пытаются идентифицировать террористов путем мониторинга. люди в режиме реального времени ищут так называемые микровыражения — незначительные подергивания или манеры, которые могут опровергнуть гнусные намерения человека. намерения. Такие явные признаки настолько малы, что могут ускользнуть от опытного детектива, но не от немигающего глаза ИИ.
На встрече в Тель-Авиве перед объявлением о сделке соучредитель и главный операционный директор Карина Одинаева объяснила, что программное обеспечение Cortica предназначен для решения проблем с идентификацией объектов, которые нелегко классифицировать в соответствии с традиционными стереотипами. Один из примеров, описанных Одинаевым, касался угловые шкафы (например, падение кровати с грузовика на шоссе), которые встречаются в дорожных ситуациях, а именно уникальные события, с которыми программы, управляющие автономными автомобилями, должны будут справиться в будущее.
«Для этого необходимо обучение без учителя», — сказал Одинаев. Другими словами, программное обеспечение должно учиться так же, как учатся люди.
Прямо в мозг
Программное обеспечение Cortica для искусственного интеллекта мониторы люди в режиме реального времени ищут микровыражения — незначительные подергивания или манеры, которые могут опровергнуть гнусные намерения человека.
Чтобы создать такую программу, Cortica не пошла на хитрость. маршрут нейронной сети (который, несмотря на свое название, основан на вероятностях и вычислительных моделях, а не на том, как работает реальный мозг). Вместо этого Кортика направилась к источнику, в данном случае к корковому сегменту мозга крысы. Сохранив часть мозга живой ex vivo (вне тела) и подключив ее к массиву микроэлектродов, Cortica смогла изучить, как кора реагирует на определенные стимулы. Мониторинг электрических сигналов позволил исследователям идентифицировать определенные группы нейронов, называемые кликами, которые обрабатывали определенные концепции. На основе этого компания создала файлы сигнатур и математические модели для моделирования исходных процессов в мозге.
Результатом, по мнению Кортики, является подход к ИИ, который позволяет проводить углубленное обучение, оставаясь при этом прозрачным. Другими словами, если система допускает ошибку — скажем, она ошибочно ожидает, что вот-вот вспыхнет бунт или что впереди едущая машина вот-вот врежется. выехать с подъездной дорожки — программисты могут легко отследить проблему до процесса или файла подписи, ответственного за ошибочную суждение. (Сравните это с так называемыми нейронными сетями глубокого обучения, которые по сути представляют собой черные ящики и, возможно, придется полностью переобучаться, если они допустят ошибку.)
Первоначально автономный искусственный интеллект Cortica будет использоваться Best Group в Индии для анализа огромных объемов данных, генерируемых камерами в общественных местах, с целью повышения безопасности и эффективности. Best Group — диверсифицированная компания, занимающаяся развитием инфраструктуры и крупный поставщик государственным и строительным заказчикам. Поэтому он хочет научиться определять, когда дела идут гладко, а когда нет.
Но есть надежда, что в будущем программное обеспечение Cortica сможет делать значительно больше. В будущем его можно будет использовать в роботакси, например, для мониторинга поведения пассажиров и предотвращения сексуальных посягательств. Программное обеспечение Cortica также может объединять данные не только с видеокамер, но также с дронов и спутников. И оно может научиться судить о поведенческих различиях не только между законопослушными гражданами и бывшими преступников, но и между мирным многолюдным рынком и политической демонстрацией, которая вот-вот перерастет в жестокий.
Такая прогнозирующая информация позволит городу направить правоохранительные органы в потенциально опасную ситуацию до того, как погибнут люди. Однако в чужих руках им также можно злоупотреблять. Например, деспотический режим может использовать такую информацию для подавления инакомыслия и ареста людей еще до того, как у них появится возможность организовать протест.
Программное обеспечение для прогнозирования преступлений позволит городу задействовать правоохранительные органы в потенциально опасной ситуации до того, как погибнут люди. Однако в чужих руках им также можно злоупотреблять.
В Нью-Йорке во время демонстрации того, как автономный искусственный интеллект Cortica применяется к автономным автомобилям, вице-президент Cortica Патрик Флинн пояснил, что компания сосредоточена на том, чтобы сделать программное обеспечение эффективным и надежным для предоставления наиболее точных классификационных данных. возможный. Что клиенты будут делать с этой информацией — например, остановить машину или увеличить скорость, чтобы избежать аварии, — зависит от них. То же самое относится и к тому, как город или правительство могут распределять ресурсы полиции.
«Политические решения находятся строго за пределами Кортики», — сказал Флинн.
Откажемся ли мы от конфиденциальности ради повышения безопасности?
Тем не менее, объединение ИИ с сетями, которые повсеместно используют веб-камеры, начинает вызывать больше беспокойства по поводу конфиденциальности и личной свободы. И людей беспокоят не только иностранные деспотические правительства.
В Новом Орлеане мэр Митч Ландриу предложил план наблюдения за борьбой с преступностью стоимостью 40 миллионов долларов, который включает в себя объединение муниципальных камер в сеть с прямыми трансляциями с частных веб-камер, принадлежащих предприятиям и лица. Это предложение уже вызвало публичные протесты со стороны рабочих-иммигрантов, обеспокоенных тем, что федеральные иммиграционные чиновники будут использовать камеры для выслеживания нелегальных рабочих и их депортации.
Алгоритм, помогающий полиции предсказывать преступления | Мах | Новости Эн-Би-Си
Между тем, подобно субъектам, попавшим в ловушку Черное зеркало В мире потребители, возможно, уже невольно подвергаются такой слежке с помощью искусственного интеллекта. Google — 249 долларов Зажимы камеры, например, использует элементарную форму искусственного интеллекта для автоматического фотографирования, когда видит что-то важное. Амазонка, чья Алекса уже является предметом паранойи подслушивания, приобрел популярный видеодомофон компании Ring. Позднее в этом году GE Appliances также планирует представить кухонный центр, оборудованный видеокамерой. В Европе Electrolux в этом году представит пароварку со встроенной веб-камерой.
Хотя эти технологии порождают призрак Большого Брата следим за каждым нашим шагом, все еще есть похвальная надежда, что использование сложный ИИ например, программа Cortica может повысить безопасность, эффективность и спасти жизни. Например, нельзя не задаться вопросом, что бы произошло, если бы такая технология была доступна и использовалась в Uber, на котором 19-летний Николас Круз ехал, чтобы убить 17 человек в школе Марджори Стоунман Дуглас. Школа. Водитель Uber не заметил ничего плохого в отношении Круза, но могла ли камера с искусственным интеллектом обнаружить микровыражения, раскрывающие его намерения, и предупредить полицию? В будущем мы, возможно, узнаем.
