IBMs vd Arvind Krishna säger att företaget inte längre kommer att utveckla eller erbjuda ansiktsigenkänning eller analysmjukvara för allmänna ändamål. I ett brev den 8 juni riktad till kongressen och skriven till stöd för 2020 års lag om rättvisa i polisarbete, förespråkar Krishna för nya reformer som stöder en ansvarsfull användning av teknik — och bekämpar systematiska rasistiska orättvisor och polis tjänstefel.
"IBM motsätter sig bestämt och kommer inte att acceptera användningen av någon teknik, inklusive ansiktsigenkänningsteknik som erbjuds av andra leverantörer, för massövervakning, rasprofilering, kränkningar av grundläggande mänskliga rättigheter och friheter, eller något syfte som inte är förenligt med våra värderingar och principer om tillit och transparens”, skrev Krishna i brev.
Rekommenderade videor
Krishna, som tog över chefsrollen i april, tillade att det är dags för kongressen att inleda en nationell dialog om konsekvenserna av ansiktsigenkänningsteknik och hur den "bör användas av nationell brottsbekämpning byråer.”
Relaterad
- Skydda allmänheten från AI-risker, säger Vita huset till tekniska jättar
- Tekniska ledare kräver paus i utvecklingen av GPT-4.5, GPT-5 på grund av "storskaliga risker"
- Microsoft slutar med sin läskiga, känsloläsande A.I.
VD: n uttryckte också sin oro angående rasfördomar som ofta finns i artificiell intelligens system idag. Krishna kallade vidare behovet av mer tillsyn för att granska verktyg för artificiell intelligens, särskilt när de används inom brottsbekämpning och nationella policyer som "tillför större transparens och ansvarsskyldighet för polisväsendet, såsom kroppskameror och modern dataanalys tekniker."
Folk som är insatta i saken berättade CNBC att George Floyd, en svart mans död, medan han var i förvar av Minneapolis polis och åtföljande fokus på polisreform och rasmässig ojämlikhet övertygade IBM att lägga ner sin ansiktsigenkänning Produkter.
Under de senaste åren har ansiktsigenkänningssystem utvecklats dramatiskt tack vare utvecklingen inom områden som maskininlärning. Men utan någon officiell tillsyn på plats har de till stor del fått köra oreglerat och kränka användarnas integritet. Mest anmärkningsvärt är att ansiktsigenkänningstekniken togs fram i den nationella konversationen av en startup som heter Clearview AI som kunde bygga en databas med mer än 3 miljarder bilder som främst skrapade sociala medier. Clearview har sedan dess mött en motreaktion från företag som Twitter och hanterar för närvarande en myriad av integritetsprocesser.
Clearview AI sägs också vara anställd av brottsbekämpande myndigheter i de pågående Black Lives Matter-protesterna över hela USA. Experter har argumenterat att dessa system kan felidentifiera människor, eftersom de till stor del tränas med vita manliga ansikten.
Krishna sa inte om företaget skulle ompröva sitt beslut om och när kongressen inför nya lagar för att granska teknik som ansiktsigenkänning mer. Vi har kontaktat IBM och kommer att uppdatera den här historien när vi hör tillbaka.
Redaktörens rekommendationer
- Medicinska hälsoexperter det senaste som larmade om AI-utveckling
- AI skulle kunna ersätta cirka 7 800 jobb hos IBM som en del av en anställningspaus
- Google missade stor chans med ChatGPT-liknande teknik, rapporterar påståenden
- Zooms A.I. teknik för att upptäcka känslor under samtal upprör kritiker
- IBM hävdar att dess nya processor kan upptäcka bedrägerier i realtid
Uppgradera din livsstilDigitala trender hjälper läsare att hålla koll på den snabba teknikvärlden med alla de senaste nyheterna, roliga produktrecensioner, insiktsfulla redaktioner och unika smygtittar.
