Los sistemas de vigilancia y reconocimiento facial han evolucionado de forma considerable, aunque también lo han hecho los métodos para engañar a esta clase de software. Acorde a expertos en servicios de seguridad en la nube, un grupo de investigadores de IBM han desarrollado una camiseta estampada con un parche de color caleidoscópico que vuelve al portador indetectable para los sistemas de reconocimiento facial con inteligencia artificial. Esta camiseta es una nueva opción de lo que los expertos llaman “artículos adversarios”, que son objetos físicos pensados para contrarrestar alguna implementación tecnológica, como los sistemas de vigilancia.
Estos objetos alteran el funcionamiento de las redes neuronales utilizadas para la detección de objetos. En condiciones normales, una red neuronal reconoce a un individuo u objeto dentro de su campo visual y le asigna una etiqueta de reconocimiento.
El grupo de investigadores encontró los puntos límite de una red neuronal, que son los umbrales dentro de los que se decide si algo es o no determinado objeto. Gracias a esto, los expertos pudieron crear un diseño capaz de confundir al sistema de clasificación de la red con inteligencia artificial.
Los expertos realizaron las pruebas empleando dos redes neuronales de reconocimiento de objetos (YOLOv2 y Faster R-CNN). Gracias a esto, los expertos en servicios de seguridad en la nube identificaron las áreas del cuerpo en las que era posible agregar píxeles para confundir al sistema de inteligencia artificial, por lo que el usuario se volvía virtualmente invisible para las cámaras de vigilancia.
Investigaciones anteriores ya han buscado el diseño de objetos adecuado para engañar a estos sistemas. Hace un par de años, un equipo de Carnegie Mellon creó unos anteojos capaces de esquivar a los sistemas de vigilancia más sofisticados y así evitar que el portador fuese detectado. Otras investigaciones se han enfocado en los sistemas de monitoreo de tránsito y límites de velocidad.
No obstante, los expertos en servicios de seguridad en la nube señalan que los intentos anteriores han sido probados sólo sobre material estático, pues lograr que esto funcione con los sistemas de vigilancia reales es mucho más complejo: “Pasar completamente inadvertido para los sistemas de vigilancia durante una secuencia de video completa es el verdadero desafío”, asegura Battista Biggio, investigador de la Universidad de Cagliari.
Los creadores de esta camiseta aseguran ser los primeros en superar estos retos y evadir la detección incluso en una secuencia de video completa. Acorde a su informe, esto se debe al uso de un “transformador”, un método para medir la forma en la que se mueve una camiseta para posteriormente agregar esos patrones al diseño.
A pesar del éxito obtenido durante las pruebas, el Instituto Internacional de Seguridad Cibernética (IICS) prevé que será complicado que esta clase de objetos se empleen en la realidad con los mismos resultados, pues estos sistemas se actualizan constantemente y, al depender de cómo es percibido un patrón de formas y colores, múltiples fallas pueden presentarse.
Fuente y redacción: noticiasseguridad.com
