No início deste mês, ambos Amazonas e IBM recuou da controversa tecnologia de reconhecimento facial.
Conteúdo
- Tecnologia de reconhecimento facial pública versus privada
- Um sistema ético
A Amazon anunciou que não permitiria mais que a polícia usasse sua tecnologia de reconhecimento facial Rekognition, e a IBM prometeu que desistiria de qualquer desenvolvimento adicional da tecnologia.
Vídeos recomendados
As medidas ocorreram no momento em que as ferramentas foram criticadas por imprecisões e potencial uso indevido como técnica de vigilância em massa para cidades inteligentes.
Relacionado
- Autoridades canadenses iniciam investigação sobre o aplicativo de reconhecimento facial Clearview
A Amazon escreveu em seu anúncio que sua decisão foi diretamente inspirada pela pressão dos ativistas para proibir a polícia de usar o reconhecimento facial. Em Declaração da IBM, a empresa escreveu que “se opõe firmemente e não tolerará o uso de qualquer tecnologia, incluindo tecnologia de reconhecimento facial… para vigilância em massa, perfil racial, violações dos direitos e liberdades humanos básicos ou qualquer propósito que não seja consistente com nossos valores e Princípios de Confiança e Transparência.
Mas alguns especialistas em segurança cibernética não estão convencidos – e as decisões provavelmente pouco contribuirão para retardar a onda de tecnologia de reconhecimento facial no futuro.
“Isso só abre um monte de questões, como, eles estiveram envolvidos com vigilância em massa? software antes?” perguntou David Harding, diretor técnico da empresa de segurança cibernética ImageWare. “Por que não violou seus princípios de confiança e transparência antes disso? Parece ser muito estranho. Há muito para desempacotar aqui.”
George Brostoff, CEO da empresa de tecnologia de digitalização facial 3D SensibleVision, disse à Digital Trends que acredita que pode ter havido um motivo anterior para as decisões.
“Como em muitas coisas, o anúncio da IBM é provavelmente mais complexo do que parece superficialmente”, disse ele, sugerindo que era improvável que a IBM tivesse muito interesse no reconhecimento facial em primeiro lugar.
A IBM não respondeu a um pedido de comentário sobre o quanto tal medida afetaria seus resultados financeiros ou quanto eles estavam investindo em pesquisa e desenvolvimento de reconhecimento facial.
Tanto Brostoff quanto Harding observaram que a IBM não é necessariamente uma empresa governamental notável no mundo da vigilância facial.
“Muitas empresas que estão implementando [tecnologia de reconhecimento facial] em escala governamental estão empresas das quais ninguém ouviu falar”, disse Ben Goodman, vice-presidente sênior da empresa de segurança cibernética ForjaRock. “Essas empresas não precisam se preocupar com riscos de reputação. Amazon e IBM são grandes nomes, correm mais riscos.”
Goodman questionou que tipo de retorno uma empresa como a Amazon estava obtendo agora no desenvolvimento de tecnologia de reconhecimento facial.
“Eles realmente precisam pensar se vale a pena impedir a privacidade das pessoas. Você está obtendo retorno suficiente com isso”, disse ele. “Veja Clearview A.I. [a empresa FRT que revelou estar eliminando as mídias sociais e vendendo software para aplicação da lei], que falaram descaradamente sobre o que estavam fazendo, e eles estavam destruído. Tenho certeza de que eles não são os únicos a fazer isso, mas isso mostra qual é o humor do público.”
E embora a vigilância facial tenha sido criticada por sua notória imprecisão, rumores de uso como um ferramenta policial durante protestos, e potenciais violações dos direitos de privacidade, é provável que estes últimos comecem a surgir muito em breve como parte da vida quotidiana.
Tecnologia de reconhecimento facial pública versus privada
“O governo nunca deveria ter acesso a [tecnologia de reconhecimento facial] e ela não é compatível com uma sociedade democrática”, disse Saira Hussain, advogada da Electronic Frontier Fundação. “Isso infringe nossos direitos da Primeira e Quarta Emenda.”
Mas a proliferação da tecnologia de reconhecimento facial na esfera privada pode ser inevitável à medida que a tecnologia se torna mais fácil de utilizar. Brostoff previu que dentro de dois anos, o uso do FaceID ou equivalente se tornaria uma prática padrão para tarefas diárias, como fazer check-out em uma loja ou fazer check-in no aeroporto.
Quando se trata da esfera privada, Hussain disse à Digital Trends que teme que as empresas desenvolvam esta tecnologia sem considerar as implicações éticas. Se, por exemplo, a indústria hoteleira começar a adoptar a tecnologia de reconhecimento facial, deverá haver uma forma de as pessoas aderirem, disse ela, em vez de simplesmente torná-la omnipresente.
“Sempre deve haver uma maneira de os hotéis fazerem o check-in de alguém que não deseja aderir ao sistema”, disse ela.
Harold Li, vice-presidente da ExpressVPN, disse à Digital Trends que imaginou que o lançamento estaria disponível primeiro como aplicativos de trabalho para funcionários, “que estão menos inclinados ou capazes de rejeitar esta tecnologia, seja para marcar ponto ou para que empreiteiros verifiquem suas identidades”, escreveu ele em um comunicado. e-mail.
Seguir-se-iam aplicações dirigidas ao consumidor — que já estão em vigor em alguns países.
“Já estamos vendo isso em partes do mundo menos preocupadas com a privacidade, como a China, onde supermercados e estações de metrô permitem que as pessoas paguem escaneando o rosto”, escreveu ele. “Em Cingapura, alguns testes para check-in presencial em hotéis também começaram. Embora isso ainda não pareça ter chegado aos EUA, lojas com muita vigilância, como a Amazon Go, podem começar a normalizar a troca de privacidade por conveniência.”
“É como se uma força imparável encontrasse um objeto imóvel”, disse Goodman. “Obviamente, há um fator de espionagem, um fator de fluência e um fator de privacidade, mas também há um fator de conveniência. Isso significa que posso ficar sem contato em um aeroporto. Isso significa que posso embarcar em um avião sem colocar meu telefone em uma superfície que outras dez pessoas acabaram de tocar.”
Um sistema ético
Se os especialistas estiverem certos e a disseminação da tecnologia de reconhecimento facial for inevitável, como podemos garantir que chegaremos lá sem destruir a privacidade de todos ao longo do caminho?
“Não devemos esquecer que estamos sendo tentados a abrir mão da privacidade em troca de benefícios percebidos”, disse Gabrielle Hermier, assessora de mídia da Surfshark. “As questões de privacidade, consentimento e preconceito de gênero e raça do FRT dos usuários são centrais para o debate e devem ser abordadas primeiro. Fornecedores de FRT como Amazon ou Microsoft e seus usuários, incluindo agências de aplicação da lei e aeroportos, devem compartilhar a responsabilidade de garantir que o FRT não seja tendencioso.”
A questão do preconceito está praticamente casada com a questão do FRT. Como destacou Tom Chivers, da ProPrivacy, com sede no Reino Unido: “O potencial de abuso é demasiado elevado. Estudos sobre reconhecimento facial mostraram uma taxa de falha de 81% na correspondência facial”, escreveu ele em mensagem à DT, referindo-se ao que pesquisadores no Reino Unido descobriram quando testaram o reconhecimento facial da Polícia Metropolitana tecnologia.
Esse estudo descobriu que a tecnologia identificava incorretamente pessoas inocentes em uma taxa astronomicamente alta, de acordo com SkyNews.
O consentimento acordado e a transparência de Li são fundamentais. “Não torne essa tecnologia obrigatória. Deixe os usuários aceitarem, em vez de cancelarem”, escreveu ele, ecoando as preocupações de Hussain. Ele também disse que uma pesquisa ExpressVPN descobriu recentemente que 68% dos adultos norte-americanos disseram estar preocupados com a crescente onipresença da tecnologia de reconhecimento facial. Com base apenas nisso, a resistência e as questões jurídicas também são quase certamente inevitáveis.
“Certamente ainda não chegamos lá em termos de lei”, disse Goodman. “Infelizmente, os nossos quadros jurídicos parecem ser um indicador tardio das emoções das pessoas sobre isto. Você provavelmente precisará que algum evento convincente ocorra em torno do FRT antes que alguém preste atenção nele.”
No final das contas, é do seu rosto que estamos falando – e as pessoas precisarão ser capazes de controlar o acesso aos seus próprios rostos, disseram os defensores.
“Se não houver um processo significativo pelo qual as pessoas possam aderir e ter a capacidade de tomar essa decisão por si mesmas, então não é ético”, disse Hussain. “Quando você fala sobre biometria tão privada quanto seu rosto, e isso não pode ser encoberto em público da mesma forma que você faz com suas mãos, isso é uma erosão da privacidade.”
Recomendações dos Editores
- Microsoft não investirá mais em tecnologias de reconhecimento facial
