Mientras la discusión en torno a la regulación o no de la Inteligencia Artificial (IA) se intensifica a nivel mundial, el gobierno italiano hoy decidió bloquear al bot conversacional ChatGPT por no respetar la legislación sobre datos personales y carecer de un sistema de verificación de edad de los usuarios menores, lo que podría considerarse como un "error de principiante".

De acuerdo a la autoridad de protección de datos personales de Italia, la decisión tomada este viernes es de "efecto inmediato" e implica "la limitación provisional del tratamiento de los datos de usuarios italianos por OpenAI", la empresa estadounidense creadora de ChatGPT. 

La medida se fundamenta en la filtración de datos que sufrió ChatGPT el 20 de marzo pasado. Entre la información sensible que se difundió de manera accidental se encontraban las conversaciones de los usuarios y las informaciones relativas al pago de los abonados al servicio de pago. 

El órgano cuestionó "la falta de una nota informativa para los usuarios cuyos datos son recogidos por OpenAI, pero sobre todo la ausencia de una base jurídica que justifique la recogida y conservación en masa de los datos personales, con el fin de entrenar los algoritmos que hacen funcionar la plataforma".

También enfatizó en que la ausencia de cualquier filtro para verificar la edad de los usuarios "expone a los menores a respuestas absolutamente no conformes con su nivel de desarrollo". Un detalle no menor si se tiene en cuenta que la verificación de edad es el estándar en la mayoría de las grandes plataformas y sitios web que albergan contenido sensible. 

En ese marco, se solicitó que la empresa OpenAI comunique "en un plazo de 20 días las medidas adoptadas" para remediar esta situación, "so pena de una sanción de hasta 20 millones de euros (21,75 millones de dólares) o hasta 4% del volumen de negocios mundial anual".

No es la primera vez que el Estado italiano toma cartas en el asunto de la IA, en febrero, la agencia de protección de datos italiana también prohibió a la empresa Replika de utilizar los datos personales de usuarios italianos. Según AFP, algunos usuarios se habían quejado de recibir mensajes e imágenes "cercanos al acoso sexual". 

En el plano europeo, la agencia de policía europea Europol, advirtió a principios de la semana que "delincuentes estaban dispuestos a aprovechar la inteligencia artificial como el robot conversacional ChatGPT para cometer fraudes y otros delitos cibernéticos".

Es en este contexto que la Unión Europea está preparando un proyecto de ley para regular la Inteligencia Artificial, que se prevé para finales de este año o principios de 2024.