Izvršni direktor IBM-a Arvind Krishna kaže da tvrtka više neće razvijati niti nuditi softver za prepoznavanje lica ili analizu opće namjene. U pismo od 8. lipnja upućen Kongresu i napisan kao podrška Zakonu o pravdi u policiji iz 2020., Krishna zagovara nove reforme koje podupiru odgovornu upotrebu tehnologije — i bore se protiv sustavne rasne nepravde i policije loše ponašanje.
“IBM se čvrsto protivi i neće odobriti upotrebu bilo koje tehnologije, uključujući tehnologiju prepoznavanja lica koju nude drugi proizvođači, za masovni nadzor, rasno profiliranje, kršenja osnovnih ljudskih prava i sloboda ili bilo koje svrhe koja nije u skladu s našim vrijednostima i načelima povjerenja i transparentnosti,” napisao je Krishna u pismo.
Preporučeni videozapisi
Krishna, koji je preuzeo dužnost izvršnog direktora u travnju, dodao je da je vrijeme da Kongres započne nacionalni dijalog o implikacijama tehnologije prepoznavanja lica i kako bi je "trebalo koristiti domaće tijelo za provođenje zakona agencije.”
Povezano
- Zaštitite javnost od rizika umjetne inteligencije, Bijela kuća poručuje tehnološkim divovima
- Tehnički čelnici pozivaju na pauzu razvoja GPT-4.5, GPT-5 zbog 'rizika velikih razmjera'
- Microsoft napušta svoj jezivi AI koji čita emocije
Izvršni direktor također je izrazio svoju zabrinutost u vezi s rasnom pristranošću koja se često nalazi u umjetna inteligencija sustavi danas. Krishna je nadalje nazvao potrebom za većim nadzorom nad revizijom alata umjetne inteligencije, osobito kada se koriste u provedbi zakona i nacionalne politike koje „dovode veću transparentnost i odgovornost policiji, kao što su kamere na tijelu i moderna analitika podataka Tehnike."
Rekli su ljudi koji su upoznati s tim CNBC da je smrt Georgea Floyda, crnca, dok je bio u pritvoru policije Minneapolisa i popratni fokus na reformu policije i rasnu nejednakost uvjerio je IBM da ugasi svoje prepoznavanje lica proizvoda.
Tijekom posljednjih nekoliko godina sustavi za prepoznavanje lica dramatično su napredovali zahvaljujući razvoju u područjima kao što je strojno učenje. Međutim, bez ikakvog službenog nadzora, uglavnom im je dopušteno neregulirano djelovanje i kršenje privatnosti korisnika. Prije svega, tehnologiju prepoznavanja lica doveo je u prvi plan nacionalnih razgovora startup pod nazivom Clearview AI koja je uspjela izgraditi bazu podataka s više od 3 milijarde slika prvenstveno s stranica društvenih medija. Clearview se od tada suočio s reakcijom tvrtki kao što je Twitter i trenutno se nosi s bezbrojnim tužbama zbog povrede privatnosti.
Clearview AI također navodno koriste agencije za provođenje zakona u tekućim prosvjedima Black Lives Matter diljem SAD-a. Stručnjaci su tvrdili da ovi sustavi mogu pogrešno identificirati ljude, budući da su uglavnom obučeni korištenjem bijelih muških lica.
Krishna nije rekao hoće li tvrtka preispitati svoju odluku ako i kada Kongres uvede nove zakone kojima bi se povećala kontrola tehnologije kao što je prepoznavanje lica. Obratili smo se IBM-u i ažurirat ćemo ovu priču kada dobijemo odgovor.
Preporuke urednika
- Medicinski zdravstveni stručnjaci posljednji su uzbunili zbog razvoja umjetne inteligencije
- AI bi mogao zamijeniti oko 7800 radnih mjesta u IBM-u kao dio pauze zapošljavanja
- Google je propustio veliku šansu s tehnologijom sličnom ChatGPT-u, tvrdi izvješće
- Zoomov A.I. tehnologija za otkrivanje emocija tijekom poziva uznemirila je kritičare
- IBM tvrdi da njegov novi procesor može otkriti prijevaru u stvarnom vremenu
Nadogradite svoj životni stilDigitalni trendovi pomažu čitateljima da prate brzi svijet tehnologije sa svim najnovijim vijestima, zabavnim recenzijama proizvoda, pronicljivim uvodnicima i jedinstvenim brzim pregledima.
