¡Esa tortuga es un arma! Los científicos destacan un defecto importante en el reconocimiento de imágenes

en su periódico, el equipo de investigadores del MIT describe un algoritmo que cambia la textura de un objeto lo suficiente como para engañar a los algoritmos de clasificación de imágenes. La prueba de lo que el equipo llama “ejemplos contradictorios” resulta desconcertante para los sistemas de reconocimiento de imágenes. independientemente del ángulo desde el que se vean los objetos, como la tortuga impresa en 3D que se identifica constantemente como un rifle. Esas son malas noticias para los sistemas de seguridad que utilizan A.I. para detectar posibles amenazas a la seguridad.

“En realidad, no es sólo que estén evitando la categorización correcta: están clasificados como adversarios elegidos. clase, por lo que podríamos haberlos convertido en cualquier otra cosa si hubiéramos querido”, dijo el investigador Anish Athalye a Digital Tendencias. “Las clases de rifle y espresso se eligieron uniformemente al azar. Los ejemplos contradictorios se produjeron utilizando un algoritmo llamado Expectativa sobre Transformación (EOT), que se presenta en nuestro artículo de investigación. El algoritmo toma cualquier modelo 3D texturizado, como una tortuga, y encuentra una manera de cambiar sutilmente el textura tal que confunde a una red neuronal determinada haciéndole pensar que la tortuga es cualquier objetivo elegido clase."

Si bien puede ser divertido que una tortuga impresa en 3D sea reconocida como un rifle, los investigadores señalan que las implicaciones son bastante aterradoras. Imaginemos, por ejemplo, un sistema de seguridad que utiliza inteligencia artificial para señalar armas o bombas, pero que puede ser engañado haciéndoles creer que son tomates, tazas de café o incluso completamente invisibles. También subraya la fragilidad del tipo de sistemas de reconocimiento de imágenes en los que se basarán los vehículos autónomos, a alta velocidad, para discernir el mundo que los rodea.

“Nuestro trabajo demuestra que los ejemplos contradictorios son un problema mayor de lo que mucha gente pensaba anteriormente, y muestra que los ejemplos contradictorios para Redes neuronales son una preocupación real en el mundo físico”, continuó Athalye. "Este problema no es sólo una curiosidad intelectual: es un problema que debe resolverse para que los sistemas prácticos que utilizan el aprendizaje profundo estén a salvo de ataques".

Recomendaciones de los editores

• Ford puede usar tu voz para hacer que las ruedas de tu auto sean a prueba de robos
• Un gran avance en la bioimpresión podría permitir la impresión 3D de órganos de reemplazo
• Por fin existe una forma de rastrear armas impresas en 3D “irrastreables”

Mejora tu estilo de vidaDigital Trends ayuda a los lectores a mantenerse al tanto del vertiginoso mundo de la tecnología con las últimas noticias, reseñas divertidas de productos, editoriales interesantes y adelantos únicos.