El diseñador alemán Simon Weckert creó una camisa hawaiana capaz de esquivar los sistemas de reconocimiento por inteligencia artificial. La bautizó "Digital Camouflage" y la desarrolló ante la instalación prevista de videovigilancia con IA en la plaza Kottbusser Tor, en Berlín.

El problema que aborda excede a la capital alemana. En Estados Unidos, la empresa Flock y sus competidores ya instalaron 130.000 lectores automáticos de matrículas, según cifras de Gizmodo, en paralelo a un fuerte rechazo social a ese tipo de vigilancia.

Qué es un "ataque adversarial"

La camisa aplica una técnica conocida como ataque adversarial, que usa contra los algoritmos sus propios criterios de reconocimiento.

Weckert explicó a Dezeen que estos sistemas "nunca han aprendido qué es un ser humano", sino cómo son las personas desde un punto de vista estadístico, a partir de millones de imágenes de entrenamiento.

El punto débil que explota el estampado

Para el detector, una persona es un conjunto de estadísticas visuales. La combinación de manchas rosas, verdes y naranjas de la camisa altera esas pistas y busca que el cuerpo deje de presentarse como una forma reconocible como humana. 

Cuanto más llamativo resulta el diseño para el ojo humano, menos sentido tiene para el algoritmo.

Un diseño hecho con la propia IA

Weckert desarrolló el estampado mediante un "bucle adversarial": enfrentó sucesivas versiones del diseño a un sistema de detección y usó cada respuesta para ajustar la siguiente, hasta reducir la confianza con la que el programa reconocía una figura humana. 

Probó el resultado con YOLO, un sistema de detección de objetos de código abierto.

Ya había engañado a Google Maps

No es la primera vez que Weckert juega con la percepción de un sistema automatizado. En 2020 recorrió calles de Berlín con un carrito cargado de 99 teléfonos móviles conectados a internet, y logró que Google Maps interpretara ese desplazamiento lento como un embotellamiento inexistente.

Alrededor de esa misma inquietud creció un pequeño mercado de ropa pensada para despistar cámaras: Gizmodo menciona a Urban Privacy, que vende desde bufandas hasta sudaderas, y a Cap_able, una marca de prendas de punto de precios más elevados.