El mundo está mal preparado para los avances de la Inteligencia Artificial (IA) según un grupo de expertos de alto nivel, quienes advierten que los gobiernos no avanzaron lo suficiente en la regulación de esta tecnología.

Las recomendaciones fueron formuladas por 25 expertos, entre los cuales se encuentran Geoffrey Hinton y Yoshua Bengio, dos de los tres "padrinos de la IA" que ganaron el premio Turing de la ACM, equivalente al Nobel en informática.

Según el grupo, el paso de las empresas tecnológicas a los sistemas autónomos podría "amplificar masivamente" el impacto de la IA, y los gobiernos necesitan regímenes de seguridad que activen medidas reguladoras si los productos alcanzan ciertos niveles de capacidad.

 

 

Inteligencia Artificial: las claves para un desarrollo más seguro

La intervención tomó lugar mientras políticos, expertos y ejecutivos tecnológicos se preparan para reunirse en Seul en la segunda Cumbre sobre Inteligencia Artificial que se celebrará en Seúl los días 21 y 22 de mayo.

El paper académico, titulado "Managing extreme AI risks amid rapid progress" (Gestión de los riesgos extremos de la IA en medio de un rápido progreso), recomienda marcos de seguridad gubernamentales que introduzcan requisitos más estrictos si la tecnología avanza con rapidez.

Por otro lado, puntualizaron en lo siguiente:  

• Que se aumente la financiación de organismos de reciente creación, como los institutos de seguridad de la IA del Reino Unido y Estados Unidos
• Que se obligue a las empresas tecnológicas a llevar a cabo una comprobación de riesgos más rigurosa
• Que se restrinja el uso de sistemas autónomos de IA en funciones sociales clave

"La respuesta de la sociedad, a pesar de los primeros pasos prometedores, no está a la altura de la posibilidad de un progreso rápido y transformador que esperan muchos expertos", advierte el artículo publicado este lunes en la revista Science."La investigación sobre la seguridad de la IA va con retraso. Las actuales iniciativas de gobernanza carecen de los mecanismos e instituciones necesarios para prevenir el uso indebido y la imprudencia, y apenas abordan los sistemas autónomos", remarca. 

Bletchley Park, la primera cumbre de IA

El año pasado, una cumbre mundial sobre seguridad de la IA celebrada en Bletchley Park (Reino Unido) propició un acuerdo de pruebas voluntarias con empresas tecnológicas como Google, Microsoft y Meta de Mark Zuckerberg, mientras que la UE ha promulgado una ley sobre IA y en Estados Unidos una orden ejecutiva de la Casa Blanca ha establecido nuevos requisitos de seguridad de la IA.

El documento afirma que los sistemas avanzados de IA -tecnología que realiza tareas típicamente asociadas a seres inteligentes- podrían ayudar a curar enfermedades y elevar el nivel de vida, pero también conllevan la amenaza de erosionar la estabilidad social y permitir la guerra automatizada. Sin embargo, advierte de que el avance de la industria tecnológica hacia el desarrollo de sistemas autónomos supone una amenaza aún mayor.

"Las empresas se están centrando en el desarrollo de sistemas de IA generalistas que puedan actuar y perseguir objetivos de forma autónoma. El aumento de las capacidades y la autonomía pronto podría amplificar masivamente el impacto de la IA, con riesgos que incluyen daños sociales a gran escala, usos maliciosos y una pérdida irreversible del control humano sobre los sistemas autónomos de IA", señalan los expertos, que añaden que el avance incontrolado de la IA podría llevar a la "marginación o extinción de la humanidad".

La próxima etapa en el desarrollo de la IA comercial es la IA "agéntica", término con el que se designa a los sistemas que pueden actuar de forma autónoma y, en teoría, realizar y completar tareas como la reserva de vacaciones.