IBM CEO Arvind Krishna siger, at virksomheden ikke længere vil udvikle eller tilbyde generelle ansigtsgenkendelses- eller analysesoftware. I et brev af 8. juni adresseret til Kongressen og skrevet til støtte for Justice in Policing Act af 2020, Krishna går ind for nye reformer, der understøtter ansvarlig brug af teknologi - og bekæmper systematisk racemæssig uretfærdighed og politi dårlig opførsel.
"IBM er stærkt imod og vil ikke tolerere brug af nogen teknologi, inklusive ansigtsgenkendelsesteknologi, der tilbydes af andre leverandører, til masseovervågning, raceprofilering, krænkelser af grundlæggende menneskerettigheder og friheder eller ethvert formål, der ikke er i overensstemmelse med vores værdier og principper om tillid og gennemsigtighed,” skrev Krishna i brev.
Anbefalede videoer
Krishna, der overtog den administrerende direktør i april, tilføjede, at det er tid for kongressen at indlede en national dialog om konsekvenserne af ansigtsgenkendelsesteknologi, og hvordan den "bør anvendes af den nationale retshåndhævelse agenturer."
Relaterede
- Beskyt offentligheden mod AI-risici, fortæller Det Hvide Hus til teknologigiganter
- Tekniske ledere opfordrer til pause i udviklingen af GPT-4.5, GPT-5 på grund af 'risici i stor skala'
- Microsoft forlader sin uhyggelige, følelseslæsende A.I.
Den administrerende direktør gav også udtryk for sine bekymringer vedrørende racemæssige skævheder, som ofte findes i kunstig intelligens systemer i dag. Krishna kaldte endvidere behovet for mere tilsyn for at auditere kunstig intelligens-værktøjer, især når de bruges i retshåndhævelse og nationale politikker, der "bringer større gennemsigtighed og ansvarlighed til politiet, såsom kropskameraer og moderne dataanalyse teknikker."
Folk med kendskab til sagen fortalte CNBC at George Floyd, en sort mands død, mens han var varetægtsfængslet af Minneapolis politi og medfølgende fokus på politireform og racemæssig ulighed overbeviste IBM om at lukke ned for sin ansigtsgenkendelse Produkter.
I løbet af de sidste par år har ansigtsgenkendelsessystemer udviklet sig dramatisk takket være udviklingen inden for områder som maskinlæring. Men uden noget officielt tilsyn på plads, har de stort set fået lov til at køre ureguleret og krænke brugernes privatliv. Mest bemærkelsesværdigt blev ansigtsgenkendelsesteknologi bragt i spidsen for den nationale samtale af en startup kaldet Clearview AI der var i stand til at opbygge en database med mere end 3 milliarder billeder, der primært skraber sociale medier. Clearview har siden mødt et tilbageslag fra virksomheder som Twitter og har i øjeblikket at gøre med et utal af privatlivssager.
Clearview AI bliver angiveligt også ansat af retshåndhævende myndigheder i de igangværende Black Lives Matter-protester i hele USA. Eksperter har argumenteret at disse systemer kan fejlidentificere folk, da de stort set er trænet ved at bruge hvide mandlige ansigter.
Krishna sagde ikke, om virksomheden ville genoverveje sin beslutning, hvis og når Kongressen indfører nye love for at bringe mere kontrol over teknologi såsom ansigtsgenkendelse. Vi har kontaktet IBM og vil opdatere denne historie, når vi hører tilbage.
Redaktørens anbefalinger
- Medicinske sundhedseksperter de seneste til at slå alarm over AI-udvikling
- AI kunne erstatte omkring 7.800 job hos IBM som en del af en ansættelsespause
- Google gik glip af stor chance med ChatGPT-lignende teknologi, rapporterer påstande
- Zooms A.I. teknologi til at opdage følelser under opkald forstyrrer kritikere
- IBM hævder, at dens nye processor kan opdage svindel i realtid
Opgrader din livsstilDigital Trends hjælper læserne med at holde styr på den hurtige teknologiske verden med alle de seneste nyheder, sjove produktanmeldelser, indsigtsfulde redaktionelle artikler og enestående smugkig.
