El último ejemplo de la arrogancia de Silicon Valley es la aplicación de reconocimiento facial Vista clara de la IA. La aplicación de la pequeña startup es tan poderosa que alguien podría acercarse a usted en la calle, tomarle una foto y averiguar rápidamente su nombre, dirección y número de teléfono, según un informe en The New York Times.
Contenido
- Una nueva herramienta para los abusadores
- Un problema continuo
Esta tecnología probablemente parezca una gran idea para dos tipos de personas: Cumplimiento de la ley y se estremece. Los defensores temen que este tipo de tecnología de reconocimiento facial pueda ser de gran ayuda para los acosadores, las personas con un historial de abuso doméstico, y cualquier otra persona que quiera saber todo sobre usted por un nefasto objetivo.
Vídeos recomendados
"A medida que se difundió la noticia de esta aplicación, las mujeres de todo el mundo suspiraron", dijo Jo O'Reilly, defensora de la privacidad de ProPrivacy, con sede en el Reino Unido, en una declaración a Digital Trends. “Una vez más, la seguridad de las mujeres, tanto en línea como en la vida real, ha pasado a un segundo plano frente al deseo de las nuevas empresas tecnológicas de crear (y monetizar) tecnología cada vez más invasiva”.
Relacionado
- Amazon implementa IA para resumir reseñas de productos
- La IA convirtió Breaking Bad en un anime, y es aterrador
- La tecnología de reconocimiento facial para osos tiene como objetivo mantener seguros a los humanos
Clearview funciona, en parte, extrayendo datos disponibles públicamente de sitios de redes sociales populares como Facebook, Twitter, YouTube y Venmo, entre otros. Un portavoz de la empresa Facebook dijo a Digital Trends que "raspar
Una nueva herramienta para los abusadores
El acoso ha sido durante mucho tiempo un problema para las mujeres en línea, y eso sin una herramienta que pueda rastrear a alguien basándose únicamente en su rostro. Por ahora, Clearview afirma que sólo está vendiendo sus servicios a las fuerzas del orden, que han dado críticas realmente positivas sobre la tecnología. "Sin embargo, guardan un extraño silencio sobre el hecho de que, en las manos equivocadas, este software podría utilizarse para acosar y acechar a casi cualquier persona", dijo O'Reilly. "Esto sería imposible de evitar si el software se pusiera a disposición del público, un escenario que los inversores de Clearview han reconocido que es posible".
"Cualquier tecnología que desarrolles y que sea consumida por humanos, debes pensar en sus fallas", dijo Crystal Justice, directora de marketing y desarrollo de la Línea Nacional de Violencia Doméstica . "Los abusadores siempre están buscando la siguiente herramienta en su caja de herramientas".
La línea directa comenzó a informar sobre el abuso digital como su propia categoría específica en 2015, y desde entonces ha visto un marcado aumento en las cifras, especialmente entre los jóvenes. Justice dijo a Digital Trends que la línea directa recibió 371.000 contactos en 2018, y el 15 por ciento de ellos fueron quejas de abuso digital. En promedio a nivel nacional, una de cada cuatro mujeres y uno de cada siete hombres son sobrevivientes de violencia doméstica, según las cifras de la línea directa.
"Los supervivientes constituyen una gran parte de nuestra población", dijo Justice. "Las empresas de tecnología deben considerar la experiencia de los sobrevivientes al diseñar sus aplicaciones".
Un problema continuo
Este es un patrón persistente con mucha tecnología disruptiva en la actualidad. Cuando Uber se lanzó en 2009, la tecnología parecía demasiado genial para ser verdad. Ya no éramos esclavos de la industria del taxi o del transporte público incompetente en nuestras respectivas ciudades.
Por supuesto, el modelo de Uber también iba en contra de la sabiduría convencional que nos habían enseñado cuando éramos niños: no subirse a autos con extraños. Diez años y varios miles de demandassobre agresión sexual Más tarde, parecería que había una razón: la sabiduría convencional. Para mucha gente, subirse al coche de un extraño no es seguro, incluso cuando pagas para estar allí.
Pero este elemento de pensar en la seguridad, o de tener que moverte por el mundo preocupándote constantemente por tu seguridad física, como muchos Las mujeres y las personas de géneros minoritarios no parecen haber estado en la mente de los hombres (en su mayoría blancos) que fundaron empresas tecnológicas como Uber. como Gorjeo, como tantos otros. Sólo querían hacer algo genial que cambiara el mundo. La idea de que se utilizaría con fines nefastos no se les pasó por la cabeza hasta que fue demasiado tarde.
"Hacer estas cosas para el consumo público pone en riesgo a los sobrevivientes y debemos pensar en las consecuencias no deseadas".
La privacidad y la seguridad deben integrarse en una aplicación desde el principio, dijo Rachel Gibson, especialista senior en seguridad tecnológica de la Red Nacional para Acabar con la Violencia Doméstica. "Una cosa es que algo se construya con buenas intenciones, pero sabemos que la tecnología puede usarse mal", dijo Gibson a Digital Trends. “Lo consideramos una nueva tecnología, un viejo comportamiento. Todavía se violaba a la gente en los taxis [antes de Uber], pero tenemos que pensar en cómo la tecnología hoy en día puede facilitar viejos comportamientos como el acoso y la agresión”.
Algo como Clearview, dijo Gibson, si bien tiene sus usos para el cumplimiento de la ley, ciertamente plantea preguntas sobre cómo o por qué sería útil para el público en general. "Hacer estas cosas para el consumo público pone en riesgo a los sobrevivientes y debemos pensar en las consecuencias no deseadas", dijo.
Justice dijo que ve que la conversación sobre el papel de la tecnología en la seguridad pública está cambiando. "El discurso ha cambiado desde MeToo", dijo. “Y ya era hora también. Esto no es un problema nuevo. No estamos viendo necesariamente un aumento de la violencia doméstica, estamos viendo que finalmente se está discutiendo. Y ahora podemos incluir en los complejos elementos de cómo la tecnología es parte de eso”.
Gibson también dijo que había tenido conversaciones con varias "importantes empresas tecnológicas" (aunque no lo haría). especificar cuál), y dijeron que ahora estaban “tratando de ser conscientes” de construir para la privacidad y seguridad.
Clearview le dio a Digital Trends una breve declaración, diciendo que "se toman estas preocupaciones en serio y no tienen planes para un lanzamiento comercial". En una publicación de blog, la compañía enfatizó que su producto no estaba disponible para el público y que estaría disponible "solo para agencias policiales y profesionales de seguridad selectos".
Si cree que usted o alguien que conoce está sufriendo abuso por parte de su pareja, comuníquese con la Línea Directa Nacional contra la Violencia Doméstica, las 24 horas del día, los 7 días de la semana, al 1−800−799−7233.
Recomendaciones de los editores
- Los comentarios basados en IA llegarán a Wimbledon el próximo mes
- Elon Musk está estableciendo un proyecto de inteligencia artificial generativa en Twitter, según un informe
- Google Smart Canvas obtiene una integración más profunda entre aplicaciones
- Nvidia alquila su plataforma AI Superpod por 90.000 dólares al mes
- Portland prohíbe el uso público y privado de la tecnología de reconocimiento facial
