IBM-CEO Arvind Krishna zegt dat het bedrijf niet langer algemene gezichtsherkennings- of analysesoftware zal ontwikkelen of aanbieden. In een brief van 8 juni Krishna is gericht aan het Congres en geschreven ter ondersteuning van de Justice in Policing Act van 2020 en pleit voor nieuwe hervormingen die een verantwoord gebruik van technologie ondersteunen – en systematisch raciaal onrecht en politie bestrijden wangedrag.
“IBM verzet zich krachtig tegen het gebruik van welke technologie dan ook, inclusief gezichtsherkenningstechnologie aangeboden door andere leveranciers, en zal het niet tolereren, voor massasurveillance, raciale profilering, schendingen van fundamentele mensenrechten en vrijheden, of enig doel dat niet consistent is met onze waarden en principes van vertrouwen en transparantie”, schreef Krishna in de brief.
Aanbevolen video's
Krishna, die in april de rol van CEO overnam, voegde eraan toe dat het tijd is voor het Congres om een nationale dialoog te beginnen over de implicaties van gezichtsherkenningstechnologie en hoe deze “zou moeten worden gebruikt door de binnenlandse rechtshandhaving agentschappen.”
Verwant
- Bescherm het publiek tegen AI-risico’s, zegt het Witte Huis tegen technologiegiganten
- Tech-leiders roepen op tot pauze van de ontwikkeling van GPT-4.5 en GPT-5 vanwege ‘grootschalige risico’s’
- Microsoft stopt met zijn griezelige, emotielezende A.I.
De CEO uitte ook zijn zorgen over racistische vooroordelen die vaak voorkomen in het bedrijfsleven kunstmatige intelligentie systemen vandaag de dag. Krishna riep verder de noodzaak op van meer toezicht op het controleren van hulpmiddelen voor kunstmatige intelligentie, vooral wanneer deze worden gebruikt bij wetshandhaving en nationaal beleid dat “grotere transparantie en verantwoordelijkheid voor het politiewerk brengt, zoals lichaamscamera’s en moderne data-analyse technieken.”
Mensen die bekend waren met de zaak vertelden het CNBC dat de dood van George Floyd, een zwarte man, terwijl hij in hechtenis zat door de politie van Minneapolis en de De daarmee gepaard gaande focus op politiehervormingen en raciale ongelijkheid overtuigde IBM ervan zijn gezichtsherkenning stop te zetten producten.
De afgelopen jaren zijn gezichtsherkenningssystemen enorm vooruitgegaan dankzij ontwikkelingen op gebieden als machinaal leren. Zonder enig officieel toezicht mogen ze echter grotendeels ongereguleerd opereren en de privacy van gebruikers schenden. Het meest opvallend is dat gezichtsherkenningstechnologie op de voorgrond van het nationale gesprek werd gebracht door een startup genaamd Clearview-AI dat in staat was een database van meer dan 3 miljard afbeeldingen op te bouwen, voornamelijk via sociale-mediasites. Clearview heeft sindsdien te maken gehad met een terugslag van bedrijven als Twitter en heeft momenteel te maken met een groot aantal privacyrechtszaken.
Clearview AI wordt naar verluidt ook ingezet door wetshandhavingsinstanties bij de aanhoudende Black Lives Matter-protesten in de VS. Deskundigen hebben betoogd dat deze systemen mensen verkeerd kunnen identificeren, omdat ze grotendeels zijn getraind met behulp van blanke mannelijke gezichten.
Krishna zei niet of het bedrijf zijn beslissing zou heroverwegen als en wanneer het Congres nieuwe wetten introduceert om technologie zoals gezichtsherkenning beter onder de loep te nemen. We hebben contact opgenomen met IBM en zullen dit verhaal bijwerken als we iets horen.
Aanbevelingen van de redactie
- Medische gezondheidsexperts luiden de laatste tijd alarm over de ontwikkeling van AI
- AI zou ongeveer 7.800 banen bij IBM kunnen vervangen als onderdeel van een aanwervingspauze
- Google heeft grote kansen gemist met ChatGPT-achtige technologie, melden claims
- Zoom's AI technologie om emoties te detecteren tijdens gesprekken maakt critici van streek
- IBM beweert dat zijn nieuwe processor fraude in realtime kan detecteren
Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.
