Canciller Británica Compara Carrera de IA con Era Nuclear y Exige Regulación Global Urgente

Los gobiernos corren el riesgo de repetir los errores cometidos durante los inicios de la era nuclear si esperan para crear leyes que regulen la inteligencia artificial, advirtió la secretaria de Relaciones Exteriores del Reino Unido, Yvette Cooper.

En un artículo publicado el lunes, Cooper señaló que la IA ofrece avances, pero también presenta nuevos riesgos a medida que la tecnología se vuelve más poderosa y ampliamente disponible.

“El mes pasado, en Shenzhen, China, vi la extraordinaria promesa de la IA y la robótica aplicadas a la atención médica para salvar vidas”, escribió Cooper. “Pero las mismas tecnologías también están transformando el futuro de la guerra, el crimen y la cohesión social de maneras alarmantes”.

Cooper afirmó que gestionar los riesgos que plantea la IA podría convertirse en “el mayor desafío de seguridad de la próxima década” y argumentó que los gobiernos necesitan acuerdos internacionales en torno a la tecnología de frontera antes de que una crisis obligue a actuar.

Cooper comparó la carrera actual por desarrollar sistemas de IA con la carrera armamentista nuclear en sus inicios, señalando que los acuerdos globales de seguridad surgieron solo después de que los países presenciaron la devastación causada por las armas atómicas.

“En el caso nuclear, los acuerdos internacionales llegaron solo después de que el mundo vio el aterrador poder de la nueva tecnología en Hiroshima”, escribió Cooper. “No podemos permitirnos esperar un equivalente de Hiroshima en IA antes de actuar”.

Cooper hizo un llamado a Gran Bretaña para que use su influencia diplomática y reúna a Estados Unidos, China y otras grandes potencias en IA con el fin de establecer principios y estándares de seguridad compartidos, señalando la Cumbre de Seguridad de IA de 2023 en Bletchley Park, donde líderes de 29 países y la Unión Europea se reunieron para discutir los riesgos emergentes de la IA. Cooper calificó esto como un ejemplo de la capacidad del Reino Unido para “unir al mundo en torno a la seguridad de la IA”.

La advertencia de Cooper llega tras meses de crecientes preocupaciones sobre cómo los gobiernos deberían supervisar los sistemas de IA cada vez más poderosos.

En mayo, el Instituto de Seguridad de IA del Reino Unido advirtió sobre los rápidos avances en las capacidades de ciberseguridad de la IA, después de que GPT-5.5 de OpenAI se convirtiera en el segundo modelo en completar un ciberataque simulado sin asistencia humana, después de Claude Mythos Preview de Anthropic.

Días después, el Fondo Monetario Internacional advirtió que la IA podría “amplificar” los ciberataques contra el sistema financiero global al reducir el nivel de habilidad necesario para explotar vulnerabilidades, instando a los legisladores a tratar la ciberseguridad como un asunto de estabilidad financiera y no simplemente como un problema técnico.

En junio, el presidente Donald Trump firmó una orden ejecutiva que crea un marco voluntario para revisar modelos avanzados de IA antes de su lanzamiento, amplía los programas de ciberseguridad de IA y ordena a las agencias evaluar los posibles riesgos de seguridad nacional de los modelos de IA de frontera.

Ese mismo mes, los llamados a reglas más estrictas también provinieron desde dentro de la industria de la IA, con el CEO de Anthropic, Dario Amodei, argumentando que los requisitos de transparencia ya no son suficientes y pidiendo pruebas obligatorias por parte de terceros para los modelos de frontera. A esta demanda le siguió el gobierno de Estados Unidos ordenando a Anthropic restringir el acceso a Claude Fable 5 y Mythos 5 por preocupaciones de seguridad nacional, antes de levantar la orden en julio.