OpenAI no realizará su oferta pública inicial (IPO) en 2026 debido a las crecientes preocupaciones por la seguridad de la inteligencia artificial, confirmó su CEO, Sam Altman, en una entrevista con la revista Fortune publicada este sábado.

"Creo que, dado todo lo que está sucediendo con la seguridad, este sería un momento poco recomendable para salir a bolsa, y no sentimos presión al respecto", dijo Altman.

El ejecutivo descartó así que la compañía concrete este año una operación que fue considerada con una valuación potencial de USD 1 billón. Consultado sobre si la salida podría trasladarse a 2027, respondió: "Diría que no en 2026".

Altman vinculó la decisión con el desafío de controlar modelos de inteligencia artificial cada vez más capaces. "Tenemos mucho trabajo por delante, como atender lo que este momento va a requerir en materia de seguridad y alineación, y cómo la industria y los gobiernos pueden colaborar", afirmó.

El riesgo de que la IA cause una catástrofe

La decisión de OpenAI se produce en medio de nuevas advertencias de referentes de la industria sobre los riesgos de una inteligencia artificial avanzada.

Consultado sobre una estimación según la cual existe un 10% de probabilidad de que la IA provoque la extinción humana antes de que termine la década, Altman respondió que no sabe cómo podría calcularse una cifra de ese tipo. Sin embargo, consideró que un riesgo de esa magnitud sería inaceptable.

"Ya sea 10%, ocho o seis, el punto es que todos tenemos una enorme responsabilidad y no podemos permitir que los egos, los incentivos de ganancias o cualquier otra cosa interfieran", sostuvo.

El CEO de OpenAI agregó que las empresas tecnológicas y los gobiernos deberían actuar como si ninguno de esos niveles de riesgo fuera tolerable.

La advertencia coincidió con las declaraciones de Evan Hubinger, responsable de seguridad de Anthropic, quien también validó públicamente una estimación de un 10% de probabilidades de que la IA pueda aniquilar a la humanidad en la próxima década.

La discusión se intensificó después de la renuncia de Jacob Coxon, un investigador que trabajó tanto en OpenAI como en Anthropic. Coxon cuestionó la carrera de las grandes compañías tecnológicas hacia sistemas capaces de mejorar sus propias capacidades y sostuvo que ambas empresas están apostando por una tecnología cuyos riesgos todavía no pueden controlar.

Incidentes con agentes de IA

Las declaraciones de Altman también llegan después de varios episodios que pusieron bajo la lupa la capacidad de las compañías para controlar agentes de inteligencia artificial autónomos.

En julio, OpenAI pausó sus mayores entrenamientos después de que agentes de sus sistemas accedieran de manera autónoma a la plataforma Hugging Face. El episodio obligó a la compañía a revisar los riesgos asociados con herramientas capaces de interactuar con sistemas externos.

Anthropic también reportó accesos no autorizados de sus propios modelos a plataformas externas. Los casos aumentaron la preocupación sobre el grado de supervisión que los desarrolladores pueden mantener a medida que los agentes adquieren nuevas capacidades.

Las advertencias se sumaron a las renuncias de investigadores especializados en seguridad de IA. Entre ellos estuvieron Jan Leike y otros especialistas que cuestionaron el equilibrio entre el desarrollo comercial de los modelos y las medidas necesarias para reducir sus riesgos.

Anthropic pide reducir el ritmo de desarrollo

El CEO y cofundador de Anthropic, Dario Amodei, reclamó este sábado que las compañías de inteligencia artificial adopten una estrategia más lenta y cautelosa.

"Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA", escribió Amodei en un ensayo publicado en su blog.

El empresario aclaró que no propone detener el entrenamiento de los modelos ni frenar el progreso tecnológico. Su planteo apunta a que las empresas dispongan de más tiempo para ajustar y proteger sus sistemas antes de incorporar nuevas capacidades.

Amodei también propuso que evaluadores independientes tengan acceso permanente a las compañías para controlar sus medidas de seguridad. Además, planteó que las principales empresas del sector establezcan normas comunes y colaboren para reducir los riesgos.

Altman respaldó públicamente la propuesta. "Coincido con Dario en que debemos marcar el ritmo en la frontera tecnológica", escribió el CEO de OpenAI en X. Según explicó, la velocidad de desarrollo de los modelos se convirtió en uno de los principales temas de discusión dentro de la compañía durante las últimas semanas.

Altman también apoyó la incorporación de evaluadores independientes con un nivel de acceso similar al de los empleados. "Es una gran idea, y nosotros haremos lo mismo", afirmó.

Nuevas reglas para la IA

La postura de Altman sobre la seguridad coincidió con un cambio en la posición de OpenAI frente a la regulación del sector en Estados Unidos.

Chris Lehane, director de asuntos globales de la compañía, reclamó al Congreso estadounidense que apruebe normas obligatorias antes de que termine su período de sesiones en diciembre. "La perspectiva de un desarrollo de IA acelerado por la propia IA exige algo más que compromisos voluntarios", sostuvo.

La propuesta de OpenAI contempla estándares federales comunes para las pruebas de seguridad y evaluaciones independientes de los modelos más avanzados. También plantea mayores exigencias de ciberseguridad y reportes obligatorios ante incidentes graves.