IBM-sjef Arvind Krishna sier at selskapet ikke lenger vil utvikle eller tilby generell ansiktsgjenkjennings- eller analyseprogramvare. I et brev 8. juni adressert til kongressen og skrevet til støtte for Justice in Policing Act fra 2020, tar Krishna til orde for nye reformer som støtter ansvarlig bruk av teknologi – og bekjemper systematisk rasemessig urettferdighet og politi dårlig oppførsel.
«IBM motsetter seg bestemt og vil ikke tolerere bruk av teknologi, inkludert ansiktsgjenkjenningsteknologi som tilbys av andre leverandører, for masseovervåking, raseprofilering, brudd på grunnleggende menneskerettigheter og friheter, eller ethvert formål som ikke er i samsvar med våre verdier og prinsipper om tillit og åpenhet», skrev Krishna i brev.
Anbefalte videoer
Krishna, som overtok sjefsrollen i april, la til at det er på tide for kongressen å starte en nasjonal dialog om implikasjonene av ansiktsgjenkjenningsteknologi og hvordan den "bør brukes av innenlandske rettshåndhevelser byråer."
I slekt
- Beskytt publikum mot AI-risiko, sier Det hvite hus til teknologigiganter
- Tekniske ledere krever pause i utviklingen av GPT-4.5 og GPT-5 på grunn av "storskala risiko"
- Microsoft slutter med sin skumle, følelseslesende A.I.
Konsernsjefen ga også uttrykk for sine bekymringer angående rasemessig skjevhet som ofte finnes i kunstig intelligens systemer i dag. Krishna sa videre behovet for mer tilsyn for å revidere verktøy for kunstig intelligens, spesielt når de brukes i rettshåndhevelse og nasjonale retningslinjer som "bringer større åpenhet og ansvarlighet til politiet, for eksempel kroppskameraer og moderne dataanalyse teknikker."
Folk som er kjent med saken fortalte CNBC at døden til George Floyd, en svart mann, mens han var i varetekt av Minneapolis-politiet og medfølgende fokus på politireform og rasemessig ulikhet overbeviste IBM om å legge ned sin ansiktsgjenkjenning Produkter.
I løpet av de siste årene har ansiktsgjenkjenningssystemer utviklet seg dramatisk takket være utviklingen innen felt som maskinlæring. Men uten noe offisielt tilsyn på plass, har de stort sett fått lov til å kjøre uregulert og krenke brukernes personvern. Mest bemerkelsesverdig ble ansiktsgjenkjenningsteknologi brakt i forkant av den nasjonale samtalen av en oppstart kalt Clearview AI som var i stand til å bygge en database med mer enn 3 milliarder bilder som primært skrapte sosiale medier. Clearview har siden møtt et tilbakeslag fra selskaper som Twitter og håndterer for tiden en myriade av personvernsøksmål.
Clearview AI er også angivelig ansatt av rettshåndhevelsesbyråer i de pågående Black Lives Matter-protestene over hele USA. Eksperter har argumentert at disse systemene kan feilidentifisere mennesker, ettersom de i stor grad er trent ved å bruke hvite mannlige ansikter.
Krishna sa ikke om selskapet ville revurdere avgjørelsen sin hvis og når kongressen introduserer nye lover for å bringe mer gransking til teknologi som ansiktsgjenkjenning. Vi har kontaktet IBM og vil oppdatere denne historien når vi hører tilbake.
Redaktørenes anbefalinger
- Medisinske helseeksperter er det siste innen alarm over AI-utvikling
- AI kan erstatte rundt 7800 jobber hos IBM som en del av en ansettelsespause
- Google gikk glipp av store sjanser med ChatGPT-lignende teknologi, hevder det
- Zooms A.I. teknologi for å oppdage følelser under samtaler opprører kritikere
- IBM hevder den nye prosessoren kan oppdage svindel i sanntid
Oppgrader livsstilen dinDigitale trender hjelper leserne å følge med på den fartsfylte teknologiverdenen med alle de siste nyhetene, morsomme produktanmeldelser, innsiktsfulle redaksjoner og unike sniktitter.
