Generalni direktor IBM-a Arvind Krishna pravi, da podjetje ne bo več razvijalo ali ponujalo splošne programske opreme za prepoznavanje ali analizo obraza. notri pismo z dne 8. junija naslovljeno na kongres in napisano v podporo Zakonu o pravosodju v policiji iz leta 2020, Krishna zagovarja nov reforme, ki podpirajo odgovorno uporabo tehnologije — in se borijo proti sistematični rasni krivici in policiji neprimerno vedenje.
»IBM odločno nasprotuje in ne bo odobril uporabe nobene tehnologije, vključno s tehnologijo za prepoznavanje obrazov, ki jo ponujajo drugi prodajalci, za množični nadzor, rasno profiliranje, kršitve osnovnih človekovih pravic in svoboščin ali kateri koli namen, ki ni v skladu z našimi vrednotami ter načeli zaupanja in preglednosti,« je zapisal Krishna v pismo.
Priporočeni videoposnetki
Krishna, ki je mesto izvršnega direktorja prevzel aprila, je dodal, da je čas, da kongres začne nacionalni dialog o posledicah tehnologije za prepoznavanje obrazov in o tem, kako naj jo »uporabljajo domači organi pregona agencije."
Povezano
- Zaščitite javnost pred tveganji umetne inteligence, Bela hiša sporoča tehnološkim velikanom
- Tehnični voditelji pozivajo k premoru razvoja GPT-4.5, GPT-5 zaradi "velikih tveganj"
- Microsoft opušča svoj srhljiv AI, ki bere čustva
Izvršni direktor je izrazil tudi pomisleke glede rasne pristranskosti, ki jo pogosto najdemo v umetna inteligenca sistemi danes. Krishna je nadalje pozval k potrebi po večjem nadzoru nad revizijo orodij umetne inteligence, zlasti kadar se uporabljajo v kazenskem pregonu in nacionalne politike, ki »policiji prinašajo večjo preglednost in odgovornost, kot so telesne kamere in sodobna podatkovna analitika tehnike."
Poznavalci so povedali CNBC da je smrt temnopoltega Georgea Floyda med pridržanjem policije v Minneapolisu in spremljevalna osredotočenost na reformo policije in rasno neenakost je prepričala IBM, da zapre svoje prepoznavanje obrazov izdelkov.
V zadnjih nekaj letih so sistemi za prepoznavanje obrazov dramatično napredovali zahvaljujoč razvoju na področjih, kot je strojno učenje. Vendar pa je bilo brez uradnega nadzora v veliki meri dovoljeno delovati neregulirano in kršiti zasebnost uporabnikov. Najpomembneje je, da je tehnologijo prepoznavanja obrazov v ospredje nacionalnih pogovorov postavilo zagonsko podjetje, imenovano Clearview AI ki je lahko zgradil zbirko podatkov z več kot 3 milijardami slik, ki so predvsem črpale s strani družbenih medijev. Clearview se je od takrat soočil z negativnim odzivom podjetij, kot je Twitter, in se trenutno ukvarja z neštetimi tožbami glede zasebnosti.
Organi kazenskega pregona naj bi Clearview AI uporabljali tudi v potekajočih protestih Black Lives Matter po ZDA. Strokovnjaki so trdili da lahko ti sistemi napačno identificirajo ljudi, saj so v veliki meri usposobljeni za uporabo belih moških obrazov.
Krishna ni povedal, ali bo podjetje ponovno razmislilo o svoji odločitvi, če in ko bo kongres uvedel nove zakone, ki bodo uvedli več nadzora nad tehnologijo, kot je prepoznavanje obraza. Obrnili smo se na IBM in bomo posodobili to zgodbo, ko bomo prejeli odgovor.
Priporočila urednikov
- Medicinski zdravstveni strokovnjaki so zadnji alarmirali zaradi razvoja umetne inteligence
- Umetna inteligenca bi lahko nadomestila približno 7800 delovnih mest v IBM-u kot del premora pri zaposlovanju
- Google je zamudil veliko priložnost s tehnologijo, podobno ChatGPT, trdi poročilo
- Zoomov A.I. tehnologija za zaznavanje čustev med klici je razburila kritike
- IBM trdi, da lahko njegov novi procesor zazna goljufije v realnem času
Nadgradite svoj življenjski slogDigitalni trendi bralcem pomagajo slediti hitremu svetu tehnologije z vsemi najnovejšimi novicami, zabavnimi ocenami izdelkov, pronicljivimi uvodniki in enkratnimi vpogledi v vsebine.
