Programi umetne inteligence obljubi, da bo naredil vse, od napovedovanja vremena do pilotiranja avtonomnih avtomobilov. Zdaj se umetna inteligenca uporablja za videonadzorne sisteme, ki obljubljajo, da bodo preprečili kriminalne dejavnosti ne z odkrivanjem kaznivih dejanj v teku, ampak z identifikacijo zločina – preden se zgodi. Cilj je preprečiti nasilje, kot so spolni napadi, vendar bi lahko občudovanja vredne namere spremeniti se v Manjšinsko poročilonočne more pred zločinom?
Takšna možnost se lahko zdi kot zaplet iz epizode Črno ogledalo, vendar to ni več znanstvena fantastika. Cortica, izraelsko podjetje z globokimi koreninami na področju varnosti in Raziskave AI, nedavno ustanovil partnerstvo v Indiji z družbo Best Group za analizo terabajtov podatkov, ki se pretakajo s kamer CCTV na javnih območjih. Eden od ciljev je izboljšati varnost na javnih mestih, kot so mestne ulice, avtobusne postaje in železniške postaje.
Za organe pregona v mestih, kot sta London in New York, je že običajno
uporabite prepoznavanje obraza in ujemanje registrskih tablic kot del njihovega nadzora video kamer. Toda umetna inteligenca Cortice obljublja, da bo šla še dlje z iskanjem "vedenjskih anomalij", ki signalizirajo, da bo nekdo zagrešil nasilen zločin.
Programska oprema temelji na vrsti vojaških in vladnih varnostnih sistemov za preverjanje, ki poskušajo identificirati teroriste z nadzorom ljudje v realnem času, iščejo tako imenovane mikroizraze - majhne trzanje ali manire, ki lahko ovržejo nečednost osebe namere. Takšni kontrolni znaki so tako majhni, da se lahko izognejo izkušenemu detektivu, ne pa tudi neutripajočemu očesu umetne inteligence.
Na sestanku v Tel Avivu pred objavo posla je soustanoviteljica in COO Karina Odinaev pojasnila, da programska oprema Cortice je namenjen reševanju izzivov pri prepoznavanju predmetov, ki jih ni enostavno razvrstiti glede na tradicionalne stereotipe. En primer, ki ga je opisal Odinaev, je vpleten kotni kovčki (kot je postelja, ki pade s tovornjaka na avtocesti), na katere naletimo med vožnjo, natančno vrste edinstvenih dogodkov, ki jih bodo programi za nadzor avtonomnih avtomobilov morali obvladati v prihodnost.
"Za to potrebujete nenadzorovano učenje," je dejal Odinaev. Z drugimi besedami, programska oprema se mora učiti na enak način, kot se učijo ljudje.
Gre neposredno v možgane
Programska oprema AI podjetja Cortica monitorji ljudje v realnem času, iščejo mikro-izraze - majhne trzanje ali manire, ki lahko zanikajo nečedne namere osebe.
Če želite ustvariti tak program, Cortica ni šla pot nevronske mreže (ki kljub svojemu imenu temelji na verjetnostih in računalniških modelih in ne na tem, kako dejanski možgani delujejo). Namesto tega je Cortica šla do vira, v tem primeru kortikalnem segmentu podganjih možganov. S tem, ko je del možganov ohranil pri življenju ex vivo (zunaj telesa) in ga povezal z nizom mikroelektrod, je Cortica lahko preučila, kako se je korteks odzval na določene dražljaje. S spremljanjem električnih signalov so raziskovalci lahko identificirali specifične skupine nevronov, imenovane klike, ki so obdelovale specifične koncepte. Od tam je podjetje zgradilo podpisne datoteke in matematične modele za simulacijo prvotnih procesov v možganih.
Rezultat je po Cortici pristop k umetni inteligenci, ki omogoča napredno učenje, hkrati pa ostaja pregleden. Z drugimi besedami, če se sistem zmoti - na primer napačno predvideva, da bo kmalu izbruhnil nemir ali da bo avto spredaj umaknite se z dovoza — programerji lahko zlahka izsledijo težavo nazaj do procesa ali podpisne datoteke, ki je odgovorna za napako obsodba. (Primerjajte to s tako imenovanimi nevronskimi mrežami globokega učenja, ki so v bistvu črne skrinjice in jih bo morda treba popolnoma znova usposobiti, če naredijo napako.)
Na začetku bo Best Group v Indiji uporabljal Cortikin avtonomni AI za analizo ogromnih količin podatkov, ki jih ustvarijo kamere na javnih mestih, da bi izboljšali varnost in učinkovitost. Best Group je razvejano podjetje, ki se ukvarja z razvojem infrastrukture in glavni dobavitelj državnim in gradbenim strankam. Zato se želi naučiti, kako ugotoviti, kdaj stvari tečejo gladko - in kdaj ne.
Vendar upamo, da bo Cortičina programska oprema v prihodnosti naredila veliko več. Lahko bi ga uporabili v prihodnjih robotaksijih za spremljanje vedenja potnikov in preprečevanje spolnih napadov, na primer. Cortičina programska oprema lahko tudi združuje podatke ne samo iz video kamer, ampak tudi iz dronov in satelitov. In lahko se nauči presojati vedenjske razlike, ne samo med državljani, ki spoštujejo zakone, in nekdanjimi kriminalcev, temveč tudi med mirnim natrpanim trgom in političnimi demonstracijami, ki se bodo kmalu obrnile nasilen.
Takšne napovedne informacije bi mestu omogočile napotitev organov kazenskega pregona v potencialno nevarno situacijo, preden so izgubljena življenja. Vendar pa je v napačnih rokah lahko tudi zlorabljen. Despotski režim bi lahko na primer takšne informacije uporabil za zatiranje nestrinjanja in aretacijo ljudi, še preden bi sploh imeli priložnost organizirati protest.
Programska oprema za predvidevanje kriminala bi mestu omogočila, da napoti organe pregona v potencialno nevarno situacijo, preden so izgubljena življenja. Vendar pa je v napačnih rokah lahko tudi zlorabljen.
V New Yorku je med demonstracijo uporabe Cortičine avtonomne umetne inteligence v avtonomnih avtomobilih podpredsednik Cortice Patrick Flynn je pojasnil, da je podjetje osredotočeno na to, da bo programska oprema učinkovita in zanesljiva za zagotavljanje najbolj natančnih podatkov o klasifikaciji mogoče. Kaj bodo stranke naredile s temi informacijami – na primer ustavile avto ali pospešile, da bi se izognile nesreči – je odvisno od njih. Enako bi veljalo za to, kako lahko mesto ali vlada dodeli policijske vire.
"Politične odločitve so strogo zunaj območja Cortice," je dejal Flynn.
Ali bi se zaradi boljše varnosti odrekli zasebnosti?
Kljub temu pa združitev umetne inteligence z omrežji, v katerih so vseprisotne spletne kamere, začenja povzročati večjo zaskrbljenost glede zasebnosti in osebne svobode. In ljudje niso zaskrbljeni le zaradi tujih despotskih vlad.
V New Orleansu je župan Mitch Landrieu predlagal 40 milijonov dolarjev vreden načrt nadzora za boj proti kriminalu, ki vključuje povezovanje občinskih kamer v živo z zasebnimi spletnimi kamerami, ki jih upravljajo podjetja in posamezniki. Predlog je že sprožil javne proteste priseljenskih delavcev, zaskrbljenih, da bodo zvezni uradniki za priseljence uporabili kamere za lov na delavce brez dokumentov in njihovo deportacijo.
Algoritem, ki policiji pomaga napovedati kriminal | Mach | NBC News
Medtem, kot subjekti, ujeti v a Črno ogledalo V svetu se potrošniki morda že nehote podrejajo takšnemu nadzoru, ki ga poganja umetna inteligenca. Googlovih 249 $ Posnetki fotoaparata, na primer, uporablja osnovno obliko umetne inteligence za samodejno fotografiranje, ko vidi nekaj, kar se mu zdi pomembno. Amazonka, katere Alexa je že predmet prisluškovalne paranoje, je kupil priljubljeno podjetje za video zvonce Ring. GE Appliances prav tako načrtuje, da bo pozneje v tem letu predstavila vozlišče za kuhinje, opremljeno z video kamero. V Evropi bo Electrolux letos prvič predstavil parno pečico z vgrajeno spletno kamero.
Medtem ko te tehnologije dvigujejo spekter Big Brotherja spremljajo vsak naš korak, še vedno obstaja hvale vredno upanje, da uporaba sofisticiran AI program Cortica bi lahko izboljšal varnost, učinkovitost in rešil življenja. Človek se na primer ne more vprašati, kaj bi se zgodilo, če bi bila takšna tehnologija na voljo in se uporabljala v Uber, s katerim se je 19-letni Nikolas Cruz odpravljal na pot umorit 17 ljudi v šolo Marjory Stoneman Douglas High Šola. Voznik Uberja s Cruzom ni opazil nič narobe, toda ali bi lahko kamera, opremljena z umetno inteligenco, zaznala mikroizraze, ki bi razkrili njegove namere, in opozorila policijo? V prihodnosti bomo morda izvedeli.
