O CEO da IBM, Arvind Krishna, diz que a empresa não desenvolverá ou oferecerá mais software de reconhecimento facial ou análise de uso geral. Em uma carta de 8 de junho endereçado ao Congresso e escrito em apoio à Lei de Justiça no Policiamento de 2020, Krishna defende novos reformas que apoiem o uso responsável da tecnologia – e combatam a injustiça racial sistemática e a polícia má conduta.
“A IBM se opõe firmemente e não tolerará o uso de qualquer tecnologia, incluindo tecnologia de reconhecimento facial oferecida por outros fornecedores, para vigilância em massa, perfilamento racial, violações dos direitos e liberdades humanos básicos, ou qualquer propósito que não seja consistente com nossos valores e Princípios de Confiança e Transparência”, escreveu Krishna no carta.
Vídeos recomendados
Krishna, que assumiu o cargo de chefe executivo em abril, acrescentou que é hora do Congresso iniciar um diálogo nacional sobre as implicações da tecnologia de reconhecimento facial e como ela “deveria ser empregada pelas autoridades nacionais agências.”
Relacionado
- Proteja o público dos riscos da IA, diz a Casa Branca aos gigantes da tecnologia
- Os líderes tecnológicos pedem uma pausa no desenvolvimento do GPT-4.5 e GPT-5 devido a “riscos em grande escala”
- A Microsoft abandona sua IA assustadora e leitora de emoções.
O CEO também expressou suas preocupações em relação ao preconceito racial que é frequentemente encontrado em inteligência artificial sistemas hoje. Krishna chamou ainda a necessidade de mais supervisão para auditar ferramentas de inteligência artificial, especialmente quando são usadas na aplicação da lei. e políticas nacionais que “trazem maior transparência e responsabilidade ao policiamento, como câmeras corporais e análises modernas de dados técnicas.”
Pessoas familiarizadas com o assunto contaram CNBC que a morte de George Floyd, um homem negro, enquanto estava sob custódia da polícia de Minneapolis e do o foco concomitante na reforma policial e na desigualdade racial convenceu a IBM a encerrar seu reconhecimento facial produtos.
Nos últimos anos, os sistemas de reconhecimento facial avançaram dramaticamente graças ao desenvolvimento em áreas como o aprendizado de máquina. No entanto, sem qualquer supervisão oficial, eles foram amplamente autorizados a funcionar de forma não regulamentada e a violar a privacidade do usuário. Mais notavelmente, a tecnologia de reconhecimento facial foi trazida para o primeiro plano do debate nacional por uma startup chamada IA de visualização clara que foi capaz de construir um banco de dados de mais de 3 bilhões de imagens, principalmente de sites de mídia social. Desde então, a Clearview enfrentou uma reação negativa de empresas como o Twitter e atualmente está lidando com uma infinidade de ações judiciais de privacidade.
A Clearview AI também está sendo empregada por agências de aplicação da lei nos protestos em andamento do Black Lives Matter nos EUA. Especialistas argumentaram que esses sistemas podem identificar erroneamente as pessoas, já que são amplamente treinados com rostos masculinos brancos.
Krishna não disse se a empresa reconsideraria sua decisão se e quando o Congresso introduzisse novas leis para trazer mais escrutínio a tecnologias como o reconhecimento facial. Entramos em contato com a IBM e atualizaremos esta história quando recebermos resposta.
Recomendações dos Editores
- Especialistas em saúde médica são os mais recentes a soar o alarme sobre o desenvolvimento de IA
- A IA poderia substituir cerca de 7.800 empregos na IBM como parte de uma pausa nas contratações
- Google perdeu grande chance com tecnologia semelhante ao ChatGPT, afirma relatório
- IA do Zoom tecnologia para detectar emoções durante ligações incomoda críticos
- IBM afirma que seu novo processador pode detectar fraudes em tempo real
Atualize seu estilo de vidaDigital Trends ajuda os leitores a manter o controle sobre o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais criteriosos e prévias únicas.
