El reconocimiento facial pronto podría estar en todas partes, advierten los expertos

A principios de este mes, ambos Amazonas y IBM se alejó de la controvertida tecnología de reconocimiento facial.

Amazon anunció que ya no permitiría a la policía utilizar su tecnología de reconocimiento facial Rekognition, e IBM prometió que no seguiría desarrollando la tecnología.

Las medidas se produjeron cuando las herramientas han sido criticadas por imprecisiones y posible uso indebido como técnica de vigilancia masiva para ciudades inteligentes.

Amazon escribió en su anuncio que su decisión se inspiró directamente en la presión de los activistas para prohibir a la policía el uso del reconocimiento facial. En La declaración de IBM, la compañía escribió que “se opone firmemente y no tolerará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial… para vigilancia masiva, perfiles raciales, violaciones de los derechos y libertades humanos básicos, o cualquier propósito que no sea consistente con nuestros valores y Principios de Confianza y Transparencia.

Pero algunos expertos en ciberseguridad no están convencidos, y las decisiones probablemente harán poco para frenar la avalancha de tecnología de reconocimiento facial en el futuro.

“Esto simplemente abre un montón de preguntas, como, ¿han estado involucrados en vigilancia masiva? software antes?” preguntó David Harding, director técnico de la empresa de ciberseguridad. ImagenWare. “¿Por qué no violó sus principios de confianza y transparencia antes de esto? Parece muy extraño. Hay mucho que desempacar aquí”.

George Brostoff, director ejecutivo de la empresa de tecnología de escaneo facial 3D SensibleVision, dijo a Digital Trends que cree que puede haber habido un motivo anterior a las decisiones.

"Como ocurre con muchas cosas, el anuncio de IBM es probablemente más complejo de lo que parece en la superficie", dijo, sugiriendo que era poco probable que IBM tuviera mucho interés en el reconocimiento facial en primer lugar.

IBM no respondió a una solicitud de comentarios sobre cuánto afectaría tal medida a sus resultados, o cuánto habían estado invirtiendo en investigación y desarrollo de reconocimiento facial.

Tanto Brostoff como Harding señalaron que IBM no es necesariamente un contratista gubernamental destacado en el mundo de la vigilancia facial.

"Muchas de las empresas que están haciendo [tecnología de reconocimiento facial] a escala gubernamental son empresas de las que nadie ha oído hablar", dijo Ben Goodman, vicepresidente senior de la firma de ciberseguridad ForjaRoca. “Estas empresas no tienen que preocuparse por el riesgo reputacional. Amazon e IBM son grandes nombres y corren más riesgos”.

Goodman se preguntó qué tipo de retorno estaba obteniendo una empresa como Amazon en este momento con el desarrollo de la tecnología de reconocimiento facial.

“Realmente necesitan pensar si vale la pena impedir la privacidad de las personas. ¿Están obteniendo suficientes beneficios por eso?”, dijo. “Mire Clearview A.I. [la empresa FRT que se reveló que estaba eliminando las redes sociales y vendiendo software para las fuerzas del orden], que hablaban descaradamente de lo que estaban haciendo, y estaban destruido. Estoy seguro de que no son los únicos que hacen esto, pero eso muestra cuál es el estado de ánimo del público”.

Y aunque la vigilancia facial ha sido ridiculizada por su notoria inexactitud, uso rumoreado como herramienta policial durante las protestas, y posibles violaciones de los derechos de privacidad, es probable que estas últimas comiencen a surgir muy pronto como parte de la vida cotidiana.

Tecnología de reconocimiento facial pública versus privada

“El gobierno nunca debería tener acceso a [la tecnología de reconocimiento facial] y no es compatible con una sociedad democrática”, dijo Saira Hussain, abogada de Electronic Frontier Base. "Infringe nuestros derechos de la Primera y la Cuarta Enmienda".

Pero la proliferación de la tecnología de reconocimiento facial en la esfera privada podría ser inevitable a medida que la tecnología se vuelva más fácil de usar. Brostoff predijo que dentro de dos años, el uso de FaceID o su equivalente se convertiría en una práctica estándar para tareas cotidianas como pagar en una tienda o facturar en el aeropuerto.

Cuando se trata de la esfera privada, Hussain dijo a Digital Trends que teme que las corporaciones desarrollen esta tecnología sin considerar las implicaciones éticas. Si, por ejemplo, la industria hotelera comienza a adoptar la tecnología de reconocimiento facial, debe haber una manera para que la gente pueda optar por ella, dijo, en lugar de simplemente hacerla omnipresente.

"Siempre debería haber una manera para que los hoteles registren a alguien que no quiera participar en el sistema", dijo.

Harold Li, vicepresidente de ExpressVPN, dijo a Digital Trends que imaginó que el lanzamiento estaría disponible primero como aplicaciones de trabajo para los empleados. "que están menos inclinados o son menos capaces de rechazar esta tecnología, ya sea para registrar su entrada o para que los contratistas verifiquen sus identidades", escribió en un correo electrónico.

A esto le seguirían las aplicaciones dirigidas al consumidor, que ya existen en algunos países.

"Ya estamos viendo esto en partes del mundo menos preocupadas por la privacidad, como China, donde tanto los supermercados como las estaciones de metro permiten a las personas pagar escaneando su rostro", escribió. “En Singapur también han comenzado algunas pruebas para el check-in presencial en hoteles. Si bien esto no parece haber llegado a los EE. UU. todavía, las tiendas con mucha vigilancia como Amazon Go pueden comenzar a normalizar el intercambio de privacidad por conveniencia”.

"Es algo así como una fuerza imparable que choca con un objeto inamovible", dijo Goodman. “Obviamente hay un factor de espionaje, un factor de infiltración y un factor de privacidad, pero también está el factor de conveniencia. Significa que puedo ir sin contacto en un aeropuerto. Significa que puedo abordar un avión sin poner mi teléfono sobre una superficie que otras diez personas acaban de tocar”.

Un sistema ético

Si los expertos tienen razón y la difusión de la tecnología de reconocimiento facial es inevitable, ¿cómo podemos asegurarnos de llegar allí sin afectar la privacidad de todos en el camino?

"No debemos olvidar que estamos tentados a renunciar a la privacidad a cambio de beneficios percibidos", dijo Gabrielle Hermier, responsable de medios de tiburón surfista. “Las cuestiones de la privacidad, el consentimiento y el sesgo racial y de género de la FRT son fundamentales para el debate y deben abordarse primero. Los proveedores de FRT como Amazon o Microsoft y sus usuarios, incluidos los organismos encargados de hacer cumplir la ley y los aeropuertos, deberían compartir la responsabilidad de garantizar que FRT no sea parcial”.

La cuestión del sesgo está prácticamente unida a la cuestión de la FRT. Como señaló Tom Chivers, de ProPrivacy, con sede en el Reino Unido, “el potencial de abuso es demasiado alto. Los estudios sobre reconocimiento facial han demostrado una tasa de fracaso del 81% en el reconocimiento facial”, escribió en un mensaje a DT. refiriéndose a lo que encontraron investigadores en el Reino Unido cuando probaron el reconocimiento facial de la Policía Metropolitana tecnología.

Ese estudio encontró que la tecnología identificó incorrectamente a personas inocentes a un ritmo astronómicamente alto. según SkyNews.

Li acordó que el consentimiento y la transparencia son claves. “No hagamos que dicha tecnología sea obligatoria. Dejemos que los usuarios opten por participar en lugar de optar por no participar”, escribió, haciéndose eco de las preocupaciones de Hussain. También dijo que una encuesta de ExpressVPN encontró recientemente que el 68% de los adultos estadounidenses dijeron que estaban preocupados por la creciente ubicuidad de la tecnología de reconocimiento facial. Basándonos únicamente en esto, es casi seguro que las reacciones negativas y las cuestiones legales también son inevitables.

"Ciertamente aún no hemos llegado a ese punto en términos legales", dijo Goodman. “Lamentablemente, nuestros marcos legales parecen ser un indicador rezagado de las emociones de la gente al respecto. Probablemente necesitará que ocurra algún evento convincente alrededor de FRT antes de que alguien le preste atención”.

Al final del día, estamos hablando de tu cara, y las personas necesitarán poder controlar el acceso a sus propias caras, dijeron los defensores.

"Si no existe un proceso significativo mediante el cual las personas puedan optar por participar y tener la capacidad de tomar esa decisión por sí mismas, entonces no es ético", dijo Hussain. "Cuando se habla de datos biométricos tan privados como su rostro, y no se puede ocultar en público de la misma manera que se pueden ocultar las manos, eso es una erosión de la privacidad".

Recomendaciones de los editores

• Microsoft ya no invertirá en tecnologías de reconocimiento facial