La Unión Europea (UE) activó este domingo nuevas reglas de transparencia para la inteligencia artificial (IA), que obligan a sistemas como ChatGPT, Gemini y Claude a informar a los usuarios cuando interactúan con una máquina o cuando un contenido fue manipulado.

La Oficina de Inteligencia Artificial de la Comisión Europea también sumó nuevas facultades para supervisar modelos de IA generativa e imponer multas a las empresas que incumplan las obligaciones previstas por la normativa.

Las medidas forman parte de la aplicación progresiva de la Ley de Inteligencia Artificial de la UE, aunque algunas exigencias comenzarán a regir en diciembre.

Qué deben informar las empresas

Desde este domingo, las empresas que desarrollan sistemas de IA deben garantizar que los usuarios sepan cuándo están interactuando con una herramienta automática.

La obligación alcanza a compañías como OpenAI, Google y Anthropic, además de desarrolladores que implementen inteligencia artificial en servicios públicos, atención al cliente o sistemas para gestionar denuncias de fraude.

También deberán informar cuando se utilicen herramientas de reconocimiento de emociones o categorización biométrica para analizar a ciudadanos. La excepción aplica a los usos autorizados por la legislación para prevenir o investigar delitos.

Marcas de agua para contenidos

A partir del 2 de diciembre, los contenidos generados o modificados con inteligencia artificial deberán incorporar mecanismos que permitan identificarlos, como marcas de agua en textos, imágenes, videos y audios.

La norma establece que las plataformas de IA no serán responsables por el contenido creado por sus usuarios. En esos casos, la obligación de informar sobre la manipulación recaerá en quienes publiquen ese material.

Los contenidos artísticos, de ficción o satíricos quedarán exceptuados de esta exigencia. Sin embargo, los materiales generados con IA que involucren información de interés público, como procesos electorales, judiciales o temas de salud pública, deberán advertir su origen, salvo que hayan sido revisados previamente por una persona.

Nada de imágenes sexualizadas 

Desde diciembre también quedará prohibida la creación de imágenes sexualizadas mediante inteligencia artificial sin el consentimiento de las personas afectadas.

La decisión llegó después de la polémica por imágenes generadas con Grok, la herramienta de IA de la red social X. La normativa europea exige que las compañías incorporen medidas de protección para evitar este tipo de usos.

Multas de hasta 15 millones de euros por incumplimientos

Las empresas de inteligencia artificial que no cumplan con las obligaciones de transparencia podrán recibir multas de hasta 15 millones de euros o del 3% de su facturación anual global, según cuál sea la cifra más alta.

En el caso de instituciones y agencias de la Unión Europea, las sanciones podrán alcanzar los 750.000 euros si incumplen los requisitos de transparencia establecidos por la normativa.