Los gobiernos de distintos países aceleran medidas contra Grok, el chatbot de inteligencia artificial desarrollado por xAI, la empresa de Elon Musk, ante la creciente preocupación por la generación de deep fake sexuales sin consentimiento. El foco de las autoridades está puesto en la capacidad de la herramienta para manipular imágenes reales y producir contenido explícito, incluso de mujeres y menores, sin salvaguardias eficaces.

El problema se intensificó tras la incorporación de una función de generación de imágenes con un denominado spicy mode, que habilitó la creación de contenido para adultos. En las últimas semanas, usuarios utilizaron Grok para "desvestir" digitalmente fotografías, una práctica que encendió alarmas regulatorias y derivó en bloqueos, advertencias y causas judiciales.

Indonesia fue el primer país en aplicar una prohibición temporal. El gobierno sostuvo que los deep fake sexuales constituyen una grave violación a los derechos humanos y concluyó que Grok carece de controles efectivos para impedir la creación y difusión de pornografía falsa. Malasia siguió el mismo camino y ordenó un bloqueo preventivo tras detectar un uso reiterado de la plataforma para generar imágenes obscenas, al considerar insuficiente el sistema de denuncias de usuarios.

En Europa, la Comisión Europea analiza casos de imágenes explícitas generadas por Grok y exigió a X conservar documentación para evaluar el cumplimiento de la Ley de Servicios Digitales. Reino Unido abrió una investigación a través de Ofcom y advirtió sobre posibles multas millonarias y hasta el bloqueo judicial del servicio. Francia amplió una causa penal para incluir al chatbot, mientras que Italia alertó sobre consecuencias penales para quienes creen o difundan este tipo de imágenes, y recordó que ya incorporó penas de prisión por deep fake en su código penal.

Alemania anunció que prepara una ley específica contra la violencia digital, con foco en la manipulación masiva de imágenes mediante IA. Australia, por su parte, recibió denuncias crecientes y evalúa sanciones bajo su Ley de Seguridad en Línea, que pronto obligará a bloquear el acceso de menores a contenidos sexuales.

El avance coordinado de estas medidas expone un consenso incipiente entre Estados que ya no están dispuestos a esperar autorregulación.