El aprendizaje automático se vuelve loco con estos adhesivos fascinantes

Si, como nosotros, te has dado un atracón de Black Mirror y pasas noches en vela pensando en la inminente toma de posesión planetaria de la IA, esto te proporcionará el consuelo que tanto necesitas. Los sistemas de aprendizaje automático tienen más inclinación por las pegatinas psicodélicas que por la muerte humana, según un grupo de investigadores de Google.

El aprendizaje automático se vuelve loco con estos adhesivos fascinantes

El equipo en cuestión, absorto en las formas de engañar a la IA, descubrió que los sistemas de aprendizaje automático pueden distraerse con calcomanías psicodélicas altamente localizadas, lo que provoca un descuido en la visión informática más amplia. En un caso, la IA (intoxicación previa a la etiqueta) registró una imagen de un plátano. Agrega la pegatina a la mezcla y la IA tomó una tostadora. La banana quedó debidamente relegada.

La forma en que funciona es relativamente simple: la IA usa atajos cognitivos, como lo hacen los humanos, para captar imágenes visualmente. Uno de esos atajos es que atribuye diversos grados de importancia a los diferentes píxeles, una hazaña que le permite, por ejemplo, registrar un barco en medio de un paisaje marino como la imagen más importante en la pantalla. Las olas, las nubes, las gaviotas y cosas por el estilo quedan relegadas a un segundo plano, y el trabajo analítico pesado se reserva para la pieza de resistencia marítima, el barco mismo.

tostadora

Los ingenieros de Google vieron y explotaron una vulnerabilidad en esta dinámica, creando una serie de imágenes tan fascinantes que la IA se fija involuntariamente en ellas, a saber, estas calcomanías psicodélicas funky, que alejan a la IA de lo que debería enfocarse. Esto se hace en función de un sistema específico, no de una imagen, lo que significa que las imágenes en cuestión harán su magia sin importar lo que mire el sistema de reconocimiento de imágenes. Los investigadores presentaron sus hallazgos en la conferencia Neural Information Processing Systems en Long Beach, California.

Este no es solo un caso de los ingenieros de Google corriendo alrededor de la IA por el simple hecho de hacerlo (aunque esto huele a algún tipo de viaje de poder vertiginoso). Las aplicaciones prácticas para el descubrimiento incluyen eludir los sistemas de seguridad en aeropuertos o prisiones, lo que permite que el material de contrabando eluda el reconocimiento. Aunque con un enorme esfuerzo, habilidad técnica y medios. No obstante, es posible.

Los trucos anteriores consistían en jugar con píxeles colocados estratégicamente para engañar al reconocimiento de imágenes para que pensara que un objeto es, de hecho, uno completamente diferente. Sin embargo, el enfoque altamente localizado de las pegatinas psicodélicas para la IA es una herramienta mucho más poderosa, por no mencionar inocua, que los antecedentes. En otras palabras, algo que se vendería como pan caliente por 8,99 libras esterlinas en Urban Outfitters tiene la capacidad de engañar a sistemas de aprendizaje automático muy avanzados. Ahora que lo pienso, ¿es eso un consuelo después de todo?

Imágenes: Parche Adversario; Tom B. Brown, Dandelion Mané, Aurko Roy, Martín Abadi, Justin Gilmer