La advertencia del exinvestigador de Anthropic Jacob Coxon no quedó limitada a su denuncia sobre la carrera hacia una inteligencia artificial capaz de mejorar sus propias capacidades. Su publicación también provocó una reacción entre los principales referentes de la industria y abrió un nuevo capítulo en el debate sobre cómo controlar el avance de los modelos más avanzados.

Después de que el CEO de Anthropic, Dario Amodei, reclamara reducir el ritmo de desarrollo y sumar evaluadores independientes, Elon Musk y Sam Altman respaldaron la propuesta.

Musk, que días antes había calificado las declaraciones de Coxon como "un montaje", compartió la publicación de Amodei en X y respondió de manera contundente: "Dario tiene razón".

Altman adoptó una postura más extensa y aseguró que la velocidad del desarrollo tecnológico constituye uno de los principales temas de discusión dentro de OpenAI, la compañía que desarrolla ChatGPT.

"Coincido con Dario en que debemos marcar el ritmo en la frontera tecnológica", escribió el CEO de OpenAI.

El empresario también respaldó una de las principales propuestas de Amodei: incorporar evaluadores independientes con un nivel de acceso similar al de los empleados para controlar los riesgos de los modelos.

"Comprometerse a contar con evaluadores independientes con un acceso similar al de los empleados es una gran idea, y nosotros haremos lo mismo. Pronto tendremos más información para compartir", afirmó.

OpenAI cambia su postura sobre la regulación

La reacción de Altman coincidió con un cambio de posición de OpenAI frente al debate regulatorio en Estados Unidos.

La compañía ahora considera que los compromisos voluntarios de los desarrolladores ya no alcanzan frente al avance de sistemas capaces de desarrollar tareas cada vez más complejas de manera autónoma.

Chris Lehane, director de asuntos globales de OpenAI, reclamó al Congreso de Estados Unidos que apruebe normas obligatorias antes de que termine su período de sesiones en diciembre.

"La perspectiva de un desarrollo de IA acelerado por la propia IA exige algo más que compromisos voluntarios", sostuvo Lehane en una declaración publicada por la empresa.

La propuesta de OpenAI contempla un marco federal basado en estándares comunes para las pruebas de seguridad y evaluaciones independientes de los modelos de vanguardia.

Además, la compañía plantea mayores exigencias de ciberseguridad y reportes obligatorios cuando ocurran incidentes graves vinculados con la seguridad de los sistemas.

De esta manera, OpenAI pasó de defender principalmente compromisos voluntarios dentro de la industria a reclamar una regulación federal con requisitos obligatorios.

El antecedente que aceleró el debate

El cambio ocurre en un contexto de creciente preocupación por la autonomía que alcanzaron algunos agentes de inteligencia artificial.

En julio, una tecnología de OpenAI que operaba sin supervisión humana accedió de manera autónoma a la plataforma Hugging Face en un incidente de ciberseguridad que obligó a la compañía a revisar los riesgos asociados con sus herramientas.

El episodio se sumó a la renuncia de Coxon, quien trabajó tanto en OpenAI como en Anthropic y cuestionó la carrera de ambas empresas hacia sistemas capaces de mejorar sus propias capacidades.

El investigador sostuvo que las compañías "están compitiendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en el proceso".

Su mensaje provocó así una cadena de respuestas que involucró a los máximos responsables de algunas de las empresas más importantes del sector.

Un nuevo escenario para las empresas de IA

El debate dejó de concentrarse únicamente en qué tan rápido pueden avanzar los modelos y comenzó a incorporar con mayor fuerza la pregunta sobre quién debe controlar ese proceso.

Anthropic propone incorporar evaluadores externos de manera permanente. OpenAI ahora reclama normas obligatorias y estándares comunes para las compañías que desarrollan los modelos más avanzados.

Musk, por su parte, respaldó públicamente el planteo de Amodei.

Las posiciones muestran un cambio relevante en el debate sobre inteligencia artificial: mientras las compañías continúan compitiendo por desarrollar sistemas cada vez más capaces, sus principales referentes reconocen la necesidad de establecer límites, controles y mecanismos independientes de evaluación para acompañar ese avance.