Programy umelej inteligencie sľúbiť, že urobí všetko, od predpovedania počasia až po pilotovanie autonómnych áut. Teraz sa AI používa na systémy video sledovania, ktoré sľubujú zmarenie trestnej činnosti nie odhaľovaním prebiehajúcich trestných činov, ale identifikáciou trestného činu skôr, ako k nemu dôjde. Cieľom je zabrániť násiliu, ako sú sexuálne útoky, ale mohlo by to tak byť obdivuhodné úmysly zmeniť na Správa o menšinách-štýlové nočné mory pred zločinom?
Takáto možnosť sa môže zdať ako zápletka z epizódy Čierne zrkadlo, ale už to nie je sci-fi. Cortica, izraelská spoločnosť s hlbokými koreňmi v oblasti bezpečnosti a výskum AI, nedávno vytvorili partnerstvo v Indii s Best Group na analýzu terabajtov dátových tokov z CCTV kamier vo verejných priestoroch. Jedným z cieľov je zlepšiť bezpečnosť na verejných miestach, ako sú ulice mesta, autobusové zastávky a vlakové stanice.
Presadzovanie práva v mestách ako Londýn a New York je už bežné používať rozpoznávanie tváre a zhodu poznávacej značky ako súčasť ich sledovania videokamerou. Ale AI spoločnosti Cortica sľubuje, že to posunie oveľa ďalej tým, že bude hľadať „anomálie správania“, ktoré signalizujú, že sa niekto chystá spáchať násilný trestný čin.
Softvér je založený na type vojenských a vládnych bezpečnostných skríningových systémov, ktoré sa snažia identifikovať teroristov monitorovaním ľudí v reálnom čase, hľadajúc takzvané mikrovýrazy – nepatrné zášklby alebo spôsoby, ktoré môžu uveriť zámery. Takéto výpovedné znaky sú také malé, že môžu uniknúť skúsenému detektívovi, ale ani nemihnúcemu oku AI.
Na stretnutí v Tel Avive pred oznámením dohody spoluzakladateľka a COO Karina Odinaevová vysvetlila, že softvér Cortica je určený na riešenie problémov pri identifikácii objektov, ktoré sa nedajú ľahko klasifikovať podľa tradičných stereotypov. Odinajev opísal jeden príklad zapojenia rohové puzdrá (ako je pád postele z kamiónu na diaľnici), s ktorými sa stretávame v jazdných situáciách druh jedinečných udalostí, ktoré budú musieť programy riadiace autonómne autá zvládnuť budúcnosti.
"Na to potrebujete učenie bez dozoru," povedal Odinaev. Inými slovami, softvér sa musí učiť rovnakým spôsobom, akým sa učia ľudia.
Ide priamo do mozgu
Softvér AI spoločnosti Cortica monitory ľudí v reálnom čase, hľadajúc mikrovýrazy – nepatrné zášklby alebo spôsoby, ktoré môžu spochybniť nekalé úmysly človeka.
Na vytvorenie takéhoto programu Cortica nešla trasa neurónovej siete (ktorý je napriek svojmu názvu založený skôr na pravdepodobnostiach a výpočtových modeloch než na tom, ako skutočné mozgy fungujú). Namiesto toho Cortica išla ku zdroju, v tomto prípade ku kortikálnemu segmentu mozgu potkana. Udržaním kúska mozgu nažive ex vivo (mimo tela) a jeho spojením s mikroelektródovým poľom bola Cortica schopná študovať, ako kôra reaguje na konkrétne podnety. Monitorovaním elektrických signálov boli vedci schopní identifikovať špecifické skupiny neurónov nazývané kliky, ktoré spracovávali špecifické koncepty. Odtiaľ spoločnosť vytvorila podpisové súbory a matematické modely na simuláciu pôvodných procesov v mozgu.
Výsledkom je podľa Cortica prístup k AI, ktorý umožňuje pokročilé vzdelávanie a zároveň zostáva transparentný. Inými slovami, ak systém urobí chybu – povedzme, že falošne predvída, že čoskoro vypuknú nepokoje alebo že sa chystá auto vpredu. vyjsť z príjazdovej cesty – programátori môžu ľahko vysledovať problém späť k procesu alebo súboru podpisu, ktorý je zodpovedný za chybné rozsudok. (Porovnajte to s takzvanými neurónovými sieťami hlbokého učenia, ktoré sú v podstate čiernymi skrinkami a ak urobia chybu, možno bude potrebné ich úplne preškoliť.)
Autonómnu AI spoločnosti Cortica bude spočiatku používať spoločnosť Best Group v Indii na analýzu obrovského množstva údajov generovaných kamerami na verejných miestach s cieľom zlepšiť bezpečnosť a efektivitu. Best Group je diverzifikovaná spoločnosť zaoberajúca sa rozvojom infraštruktúry a významným dodávateľom pre vládnych a stavebných klientov. Chce sa teda naučiť, ako zistiť, kedy veci bežia hladko – a kedy nie.
Dúfame však, že softvér Cortica bude v budúcnosti robiť oveľa viac. Mohlo by sa použiť v budúcich robotických osiach napríklad na monitorovanie správania cestujúcich a predchádzanie sexuálnym útokom. Softvér Cortica môže tiež kombinovať dáta nielen z videokamier, ale aj z dronov a satelitov. A môže sa naučiť posudzovať rozdiely v správaní, nielen medzi občanmi, ktorí dodržiavajú zákony, a bývalými občanmi zločincov, ale aj medzi pokojným preplneným trhom a politickou demonštráciou, ktorá sa čoskoro zmení násilný.
Takéto prediktívne informácie by mestu umožnili nasadiť orgány činné v trestnom konaní v potenciálne nebezpečnej situácii skôr, ako dôjde k strate životov. V nesprávnych rukách sa však dá aj zneužiť. Napríklad despotický režim môže použiť takéto informácie na potlačenie nesúhlasu a zatknutie ľudí ešte predtým, než mali možnosť zorganizovať protest.
Softvér na prediktívny zločin by mestu umožnil nasadiť orgány činné v trestnom konaní v potenciálne nebezpečnej situácii ešte pred stratou životov. V nesprávnych rukách sa však dá aj zneužiť.
V New Yorku, počas demonštrácie toho, ako sa Cortica’s Autonomous AI aplikuje na autonómne autá, viceprezident Corticy Patrick Flynn vysvetlil, že spoločnosť sa zameriava na to, aby bol softvér efektívny a spoľahlivý, aby poskytoval čo najpresnejšie klasifikačné údaje možné. Čo klienti urobia s týmito informáciami – napríklad zastavia auto alebo zrýchlia, aby sa vyhli nehode – je na nich. To isté by sa týkalo toho, ako by mesto alebo vláda mohla prideľovať policajné zdroje.
"Rozhodnutia o politike sú prísne mimo oblasti Cortica," povedal Flynn.
Vzdali by sme sa súkromia kvôli zlepšeniu bezpečnosti?
Spojenie AI so sieťami, v ktorých sú všadeprítomné webové kamery, však začína vyvolávať väčšie obavy o súkromie a osobnú slobodu. A nie sú to len zahraničné despotické vlády, ktorých sa ľudia obávajú.
V New Orleans starosta Mitch Landrieu navrhol plán sledovania boja proti zločinu za 40 miliónov dolárov, ktorý zahŕňa prepojenie mestských kamier so živými prenosmi zo súkromných webových kamier prevádzkovaných spoločnosťami a jednotlivcov. Návrh už vyvolal verejné protesty zo strany prisťahovaleckých pracovníkov, ktorí sa obávajú, že federálni imigrační úradníci použijú kamery na dolapenie pracovníkov bez dokladov a ich deportáciu.
Algoritmus, ktorý pomáha polícii predpovedať zločin | Mach | Správy NBC
Medzitým, ako subjekty uväznené v a Čierne zrkadlo Vo svete sa spotrebitelia už možno nevedomky podrobujú takémuto dohľadu poháňanému AI. Google 249 dolárov Fotoaparát klipov, napríklad používa základnú formu AI na automatické fotenie, keď vidí niečo, čo považuje za dôležité. Amazon, ktorého Alexa je už predmetom paranoje odpočúvania, kúpila populárny video zvonček spoločnosť Ring. GE Appliances tiež plánuje uviesť na trh koncom tohto roka rozbočovač vybavený videokamerou pre kuchyne. V Európe Electrolux predstaví tento rok parnú rúru so vstavanou webovou kamerou.
Zatiaľ čo tieto technológie vyvolávajú prízrak Veľkého brata sledovať každý náš pohyb, stále existuje chvályhodná nádej, že použitie sofistikovaná AI ako program Cortica by mohol zlepšiť bezpečnosť, efektivitu a zachrániť životy. Človek sa napríklad nemôže ubrániť otázke, čo by sa stalo, keby bola takáto technológia dostupná a používaná Uber, ktorý vzal 19-ročný Nikolas Cruz na cestu, aby zavraždil 17 ľudí na Marjory Stoneman Douglas High Škola. Vodič Uberu si s Cruzom nevšimol nič zlé, ale mohla kamera vybavená AI rozpoznať mikrovýrazy odhaľujúce jeho zámery a upozorniť políciu? V budúcnosti sa to možno dozvieme.
