Le PDG d'IBM, Arvind Krishna, a déclaré que la société ne développerait ni ne proposerait plus de logiciels de reconnaissance faciale ou d'analyse à usage général. Dans une lettre du 8 juin adressé au Congrès et écrit en soutien à la loi sur la justice dans la police de 2020, Krishna plaide pour de nouvelles des réformes qui soutiennent l’utilisation responsable de la technologie – et combattent l’injustice raciale systématique et la police inconduite.
« IBM s'oppose fermement et ne tolérera l'utilisation d'aucune technologie, y compris la technologie de reconnaissance faciale proposée par d'autres fournisseurs, à des fins de surveillance de masse, de profilage racial, violations des droits et libertés humains fondamentaux, ou tout objectif qui n'est pas conforme à nos valeurs et principes de confiance et de transparence », a écrit Krishna dans le lettre.
Vidéos recommandées
Krishna, qui a assumé le rôle de directeur général en avril, a ajouté qu'il était temps pour le Congrès d'entamer un dialogue national. sur les implications de la technologie de reconnaissance faciale et sur la manière dont elle « devrait être utilisée par les forces de l’ordre nationales » agences. »
En rapport
- Protégez le public des risques liés à l’IA, déclare la Maison Blanche aux géants de la technologie
- Les leaders technologiques appellent à une pause dans le développement de GPT-4.5 et GPT-5 en raison de « risques à grande échelle »
- Microsoft abandonne son IA effrayante qui lit les émotions.
Le PDG a également exprimé ses inquiétudes concernant les préjugés raciaux que l'on retrouve souvent dans intelligence artificielle systèmes aujourd’hui. Krishna a en outre souligné la nécessité d'une surveillance accrue pour auditer les outils d'intelligence artificielle, en particulier lorsqu'ils sont utilisés par les forces de l'ordre. et des politiques nationales qui « apportent une plus grande transparence et une plus grande responsabilité au maintien de l’ordre, comme les caméras corporelles et l’analyse moderne des données ». technique. »
Des personnes proches du dossier ont dit CNBC que la mort de George Floyd, un homme noir, alors qu'il était sous la garde de la police de Minneapolis et du l'accent mis sur la réforme de la police et les inégalités raciales a convaincu IBM de mettre fin à sa technologie de reconnaissance faciale des produits.
Au cours des dernières années, les systèmes de reconnaissance faciale ont considérablement progressé grâce aux développements dans des domaines tels que l’apprentissage automatique. Cependant, sans aucune surveillance officielle, ils ont été largement autorisés à fonctionner de manière non réglementée et à violer la vie privée des utilisateurs. Plus particulièrement, la technologie de reconnaissance faciale a été mise au premier plan de la conversation nationale par une startup appelée IA Clearview qui a pu créer une base de données de plus de 3 milliards d’images en exploitant principalement les sites de médias sociaux. Clearview a depuis fait face à des réactions négatives de la part d'entreprises telles que Twitter et fait actuellement face à une myriade de poursuites en matière de protection de la vie privée.
Clearview AI serait également utilisé par les forces de l'ordre dans le cadre des manifestations en cours Black Lives Matter à travers les États-Unis. Les experts ont soutenu que ces systèmes peuvent identifier à tort les personnes, car elles sont en grande partie formées à l’aide de visages d’hommes blancs.
Krishna n'a pas précisé si l'entreprise reconsidérerait sa décision si et quand le Congrès introduisait de nouvelles lois pour examiner davantage les technologies telles que la reconnaissance faciale. Nous avons contacté IBM et mettrons à jour cette histoire lorsque nous recevrons une réponse.
Recommandations des rédacteurs
- Les experts médicaux en santé sont les derniers à tirer la sonnette d’alarme sur le développement de l’IA
- L'IA pourrait remplacer environ 7 800 emplois chez IBM dans le cadre d'une pause d'embauche
- Google a raté une grande chance avec une technologie de type ChatGPT, selon un rapport
- L’IA de Zoom une technologie permettant de détecter les émotions pendant les appels dérange les critiques
- IBM affirme que son nouveau processeur peut détecter la fraude en temps réel
Améliorez votre style de vieDigital Trends aide les lecteurs à garder un œil sur le monde en évolution rapide de la technologie avec toutes les dernières nouvelles, des critiques de produits amusantes, des éditoriaux perspicaces et des aperçus uniques.
