El presidente de Estados Unidos, Donald Trump, cuestionó a quienes reclaman moderar el avance de la inteligencia artificial y calificó como "fuerzas negativas" a quienes advierten sobre los riesgos de acelerar el desarrollo de los modelos más avanzados.

Las declaraciones se produjeron durante su visita a Irlanda, en medio de un debate que tomó fuerza dentro de la propia industria tecnológica. En los últimos días, Dario Amodei, CEO de Anthropic, pidió reducir el ritmo de desarrollo de las capacidades de la IA, mientras que Sam Altman, de OpenAI, y Elon Musk respaldaron públicamente su planteo.

"Creo que hay muchas fuerzas negativas que están sacando el tema cuando no deberían hacerlo, y están planteando cosas que no van a suceder", sostuvo Trump ante periodistas desde el complejo de golf de Doonbeg, en el condado de Clare, donde asistía al Abierto de Irlanda.

Trump defendió la carrera de Estados Unidos contra China

El mandatario sostuvo que Estados Unidos es actualmente el país más avanzado del mundo en inteligencia artificial y remarcó que quiere mantener esa posición.

"Quien gane" en inteligencia artificial, afirmó, "gana", en referencia a la competencia tecnológica global y, especialmente, a la disputa con China.

Trump no descartó por completo la posibilidad de establecer algunas "medidas de control" sobre la tecnología, aunque no precisó qué tipo de regulaciones respaldaría.

Su postura se ubicó así en un lugar diferente al que comenzaron a plantear algunos de los principales ejecutivos de la industria, que reclaman ganar tiempo para reforzar los mecanismos de seguridad antes de continuar aumentando las capacidades de los modelos.

Los referentes tecnológicos que pidieron bajar el ritmo

El debate tomó impulso a partir de un ensayo publicado por Dario Amodei, cofundador y CEO de Anthropic, en el que sostuvo que las compañías deberían reducir el ritmo al que mejoran las capacidades de sus modelos.

Amodei aclaró que su propuesta no implica detener el entrenamiento ni el progreso tecnológico. Su objetivo es generar tiempo suficiente para que los sistemas de seguridad, evaluación y alineación puedan acompañar el crecimiento de las capacidades de la IA.

Entre sus principales preocupaciones mencionó la posibilidad de que los propios sistemas de inteligencia artificial comiencen a contribuir a la creación de generaciones posteriores de modelos, un proceso conocido como auto-mejora recursiva.

También alertó sobre los denominados enjambres de agentes, conjuntos de sistemas capaces de actuar coordinadamente. Según Amodei, un escenario de este tipo podría adquirir capacidades mucho mayores en los próximos meses y generar daños de gran escala si no existen mecanismos adecuados de control.

Su propuesta contempla que evaluadores independientes tengan acceso a los sistemas para supervisar sus riesgos y que las compañías demuestren que cuentan con protecciones suficientes antes de desplegar modelos más avanzados.

Altman y Musk respaldaron la advertencia

Sam Altman, CEO de OpenAI, coincidió con Amodei en que es necesario moderar el ritmo de desarrollo de los modelos de frontera.

"Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA", escribió Altman. El empresario también anunció que OpenAI permitirá que evaluadores independientes tengan un nivel de acceso similar al de sus empleados para supervisar los riesgos de sus sistemas.

Elon Musk, fundador de xAI, también respaldó el planteo. "Dario tiene razón", escribió en X.

La coincidencia resulta llamativa porque las empresas involucradas compiten directamente por el liderazgo en una industria que atraviesa una carrera acelerada por desarrollar modelos cada vez más capaces.

El debate se produjo además después de que Anthropic publicara un informe sobre amenazas en el que describió usos de sus modelos de IA para actividades vinculadas con operaciones cibernéticas, desarrollo de armas, vigilancia y fraude.

Qué riesgos preocupan a los especialistas

Amodei sostuvo que los riesgos aumentan a medida que los modelos adquieren nuevas capacidades. Entre sus advertencias aparecen los ataques informáticos, la posibilidad de que los sistemas actúen de manera coordinada y la dificultad de mantener bajo control tecnologías cada vez más autónomas.

En su ensayo también mencionó un incidente relacionado con agentes de inteligencia artificial en el que se habrían producido ataques informáticos contra objetivos que no formaban parte de la tarea original. Los sistemas, además, habrían intentado manipular mecanismos utilizados para evaluar su desempeño.

El ejecutivo de Anthropic advirtió que un escenario de mayor capacidad podría multiplicar el impacto de este tipo de comportamientos. Según su proyección, dentro de entre seis y 12 meses podrían existir enjambres de agentes con capacidades suficientes para generar daños económicos de gran escala.

"No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente", planteó Amodei.

Trump minimizó las advertencias sobre una IA fuera de control

La posición del presidente estadounidense también contrasta con las advertencias más extremas sobre el futuro de la inteligencia artificial.

Días atrás, cuando fue consultado acerca de la posibilidad de que la tecnología pudiera escapar al control humano y eventualmente representar una amenaza para la supervivencia de la especie, Trump había respondido: "No, no me preocupa en absoluto".

Ahora volvió a cuestionar a quienes plantean escenarios de riesgo y defendió la continuidad de la carrera tecnológica estadounidense.

Al mismo tiempo, dejó abierta la posibilidad de establecer controles sobre la IA, aunque sin precisar qué alcance tendrían ni en qué momento deberían aplicarse.