Programy umělé inteligence slib udělat všechno, od předpovídání počasí až po pilotování autonomních aut. Nyní je umělá inteligence aplikována na video monitorovací systémy, které slibují mařit trestnou činnost nikoli odhalováním probíhajících zločinů, ale identifikací zločinu – ještě předtím, než k němu dojde. Cílem je předcházet násilí, jako jsou sexuální útoky, ale mohly by takové obdivuhodné úmysly změnit se v Zpráva o menšinách-styl nočních můr před zločinem?
Taková možnost se může zdát jako dějová linie z epizody Černé zrcadlo, ale už to není sci-fi. Cortica, izraelská společnost s hlubokými kořeny v oblasti bezpečnosti a výzkum AI, nedávno vytvořili partnerství v Indii s Best Group analyzovat terabajty datových proudů z CCTV kamer ve veřejných prostorách. Jedním z cílů je zlepšit bezpečnost na veřejných místech, jako jsou městské ulice, autobusové zastávky a vlaková nádraží.
Je to již běžné pro vymáhání práva ve městech jako Londýn a New York využívat rozpoznávání obličeje a porovnávání SPZ jako součást jejich kamerového dohledu. Umělá inteligence společnosti Cortica však slibuje, že půjde mnohem dále tím, že bude hledat „anomálie chování“, které signalizují, že se někdo chystá spáchat násilný trestný čin.
Software je založen na typu vojenských a vládních bezpečnostních prověřovacích systémů, které se snaží identifikovat teroristy sledováním lidé v reálném čase, hledající takzvané mikrovýrazy – nepatrné záškuby nebo způsoby, které mohou uvěřit záměry. Takové výmluvné znaky jsou tak malé, že mohou uniknout zkušenému detektivovi, ale ne nemrkajícímu oku AI.
Na setkání v Tel Avivu před oznámením dohody spoluzakladatelka a provozní ředitelka Karina Odinaevová vysvětlila, že software společnosti Cortica je určen k řešení problémů při identifikaci objektů, které nelze snadno klasifikovat podle tradičních stereotypů. Jeden příklad, který Odinajev popsal, je zapojen rohová pouzdra (jako je pád lůžka z kamionu na dálnici), s nimiž se v jízdních situacích setkáváme přesně druh jedinečných událostí, které budou muset programy řídící autonomní vozy zvládnout budoucnost.
"K tomu potřebujete učení bez dozoru," řekl Odinajev. Jinými slovy, software se musí učit stejným způsobem, jakým se učí lidé.
Jde přímo do mozku
Software AI společnosti Cortica monitory lidé v reálném čase, hledající mikrovýrazy – nepatrné záškuby nebo manýry, které mohou odporovat nekalým úmyslům člověka.
K vytvoření takového programu Cortica nešla trasa neuronové sítě (který je navzdory svému názvu založen spíše na pravděpodobnostech a počítačových modelech než na tom, jak skutečné mozky fungují). Místo toho Cortica šla ke zdroji, v tomto případě kortikálnímu segmentu krysího mozku. Udržením části mozku naživu ex vivo (mimo tělo) a jeho připojením k mikroelektrodovému poli byla Cortica schopna studovat, jak mozková kůra reaguje na konkrétní podněty. Sledováním elektrických signálů byli vědci schopni identifikovat specifické skupiny neuronů nazývané kliky, které zpracovávaly specifické koncepty. Odtud společnost vytvořila soubory podpisů a matematické modely pro simulaci původních procesů v mozku.
Výsledkem je podle Cortica přístup k AI, který umožňuje pokročilé učení a přitom zůstává transparentní. Jinými slovy, pokud systém udělá chybu – řekněme, že falešně předvídá, že se blíží vzpoura nebo že se chystá auto vpředu. vyjeďte z příjezdové cesty – programátoři mohou snadno vysledovat problém zpět k procesu nebo souboru podpisu, který je odpovědný za chybné rozsudek. (Porovnejte to s takzvanými neuronovými sítěmi hlubokého učení, které jsou v podstatě černými skříňkami a pokud udělají chybu, bude možná nutné je kompletně přeškolit.)
Zpočátku bude autonomní AI společnosti Cortica použita společností Best Group v Indii k analýze obrovského množství dat generovaných kamerami na veřejných místech, aby se zlepšila bezpečnost a účinnost. Best Group je diverzifikovaná společnost zabývající se rozvojem infrastruktury a významným dodavatelem pro vládní a stavební klientelu. Chce se tedy naučit, jak rozpoznat, kdy věci běží hladce – a kdy ne.
Doufáme však, že software Cortica bude v budoucnu dělat mnohem více. Mohla by být použita v budoucích robotaxech například k monitorování chování cestujících a prevenci sexuálních útoků. Software Cortica může také kombinovat data nejen z videokamer, ale také z dronů a satelitů. A může se naučit posuzovat rozdíly v chování, nejen mezi občany dodržujícími zákony a bývalými občany zločinců, ale také mezi poklidným přeplněným tržištěm a politickou demonstrací, která se právě chystá násilný.
Takové prediktivní informace by městu umožnily nasadit do potenciálně nebezpečné situace policii, než dojde ke ztrátě životů. V nesprávných rukou by však mohl být také zneužit. Například despotický režim může tyto informace použít k potlačení nesouhlasu a zatčení lidí ještě předtím, než budou mít možnost zorganizovat protest.
Software pro prediktivní kriminalitu by městu umožnil nasadit do potenciálně nebezpečné situace orgány činné v trestním řízení dříve, než dojde ke ztrátě životů. V nesprávných rukou by však mohl být také zneužit.
V New Yorku, během ukázky toho, jak je Cortica's Autonomous AI aplikována na autonomní auta, viceprezident Cortica, Patrick Flynn vysvětlil, že společnost se zaměřuje na to, aby byl software efektivní a spolehlivý, aby poskytoval co nejpřesnější klasifikační data možný. Co klienti s těmito informacemi udělají – například zastaví auto nebo zrychlí, aby se vyhnuli nehodě – je na nich. Totéž by platilo pro to, jak by město nebo vláda mohla přidělovat policejní zdroje.
"Rozhodnutí o politice jsou přísně mimo oblast Cortica," řekl Flynn.
Vzdali bychom se soukromí kvůli lepšímu zabezpečení?
Nicméně sňatek AI se sítěmi, které jsou všudypřítomné s webovými kamerami, začíná vyvolávat větší obavy o soukromí a osobní svobodu. A nejsou to jen zahraniční despotické vlády, kterých se lidé obávají.
V New Orleans navrhl starosta Mitch Landrieu plán sledování boje proti zločinu za 40 milionů dolarů, který zahrnuje propojení městských kamer s živými přenosy ze soukromých webových kamer provozovaných podniky a Jednotlivci. Návrh již vyvolal protesty veřejnosti ze strany přistěhovaleckých pracovníků, kteří se obávají, že federální imigrační úředníci použijí kamery k lovu pracovníků bez dokumentů a deportaci.
Algoritmus pomáhající policii předvídat zločin | Mach | Zprávy NBC
Mezitím, jako subjekty uvězněné v a Černé zrcadlo Ve světě se spotřebitelé už možná nevědomky podrobují takovému dohledu s umělou inteligencí. Google 249 dolarů Klipy fotoaparát, například používá základní formu AI k automatickému pořizování snímků, když vidí něco, co považuje za významné. Amazon, jehož Alexa je již předmětem odposlechové paranoie, koupil populární videozvonky společnost Ring. Společnost GE Appliances také plánuje uvedení rozbočovače vybaveného videokamerou pro kuchyně koncem tohoto roku. V Evropě Electrolux letos představí parní troubu s vestavěnou webovou kamerou.
Zatímco tyto technologie vyvolávají přízrak Velkého bratra sledovat každý náš pohyb, stále existuje chvályhodná naděje, že použití sofistikovaná AI jako program Cortica by mohl zlepšit bezpečnost, efektivitu a zachránit životy. Člověk se například nemůže ubránit otázce, co by se stalo, kdyby taková technologie byla dostupná a používaná Uber, který 19letý Nikolas Cruz vzal na cestu, aby zavraždil 17 lidí na Marjory Stoneman Douglas High Škola. Řidič Uberu si s Cruzem nevšiml ničeho špatného, ale mohla kamera vybavená umělou inteligencí detekovat mikrovýrazy odhalující jeho záměry a upozornit policii? V budoucnu se to možná dozvíme.
