“No Podemos Vibe Codear el Futuro de la Humanidad”, Advierte Jefe de la ONU en Cumbre de IA

El secretario general de la ONU, António Guterres, inauguró el lunes el primer Diálogo Global sobre Gobernanza de la IA en Ginebra, diciéndoles a 193 naciones que la IA ya está superando a las instituciones diseñadas para gobernarla, y que la humanidad está llevando a cabo un experimento consigo misma “sin un plan y sin consentimiento”.

“La inteligencia artificial avanza a una velocidad desbocada”, señaló Guterres en la apertura de su discurso principal. “Una tecnología que puede transformar economías, revolucionar el mundo laboral, influir en elecciones y alterar el equilibrio de la seguridad está siendo desplegada más rápido de lo que cualquiera —incluidas las personas que la construyen— puede seguir el ritmo”.

La sala incluyó a los 193 estados miembros de la ONU, reunidos en Ginebra en el primer Diálogo Global sobre Gobernanza de la IA, un intento multilateral de gobernar una tecnología que ya ha superado a todos los que intentan hacerlo.

El meme que Guterres utilizó para explicar los riesgos de una IA sin regulación fue el vibe coding, un término acuñado por Andrej Karpathy, miembro fundador de OpenAI y exdirector de IA en Tesla, para describir la programación por intuición: le dices a la IA lo que quieres, dejas que se encargue del resto y no miras demasiado de cerca. Merriam-Webster lo añadió recientemente a su diccionario.

Guterres reconoció que el vibe coding “puede hacer maravillas”, a medida que más personas confían en productos construidos con IA.

“Pero no podemos hacer vibe coding con la verdad”, afirmó. “No podemos hacer vibe coding con el futuro de la humanidad”.

Las cifras detrás de esa frase no fueron menores. Guterres señaló que internet tardó 15 años en alcanzar los mil millones de usuarios y la IA solo dos. Describió los sistemas actuales como entidades que “ya no son herramientas que esperan instrucciones: están escribiendo código, actuando en línea y tomando decisiones con cada vez menos supervisión humana”.

“Nuestras instituciones fueron construidas para gobernar máquinas que obedecen órdenes. No están preparadas para máquinas que deciden”.

El diálogo nació del Pacto Digital Global de 2024, que estableció por primera vez la gobernanza internacional de la IA como un mandato de la ONU. Su sesión inaugural dos años después también recibió el informe preliminar del Panel Científico Internacional Independiente sobre Inteligencia Artificial —40 científicos de 140 países— que publicó la semana pasada el hallazgo de que nadie puede garantizar actualmente que la IA no causará daños catastróficos.

La velocidad fue una de las tres advertencias que Guterres extrajo del panel. La segunda fue el poder: la computación, los datos y el talento concentrados en un puñado de empresas y países, con la mayor parte del mundo excluida de decisiones que ya la están moldeando, algo que también preocupa a otros expertos en IA como Yann Lecun, Andy Kowinski y Yoshua Bengio.

La tercera fue la verdad: una mentira generada por máquinas ahora persuade con la misma eficacia que un hecho verificado, erosionando constantemente lo que Guterres llamó “la integridad de nuestro ecosistema informativo”.

Niños como conejillos de indias y robots asesinos

Entre las propuestas concretas de Guterres se encuentra un Compromiso de Seguridad Infantil en IA que exige a las empresas demostrar la seguridad mediante pruebas independientes antes de que cualquier IA llegue a los niños, mantener tolerancia cero con la generación de imágenes de abuso sexual infantil y conectar a niños en situación de riesgo con apoyo humano real en lugar de dejarlos solos con un chatbot. “Ningún niño debería ser un conejillo de indias de la IA sin regular”.

Y luego estaban los robots asesinos. Guterres calificó las armas autónomas letales —máquinas que seleccionan y matan un objetivo sin juicio humano— como “moralmente repugnantes” y exigió su prohibición mediante el derecho internacional.

Los estados ya están en la mesa de discusión. No sugirió que se tomaran su tiempo.

El Diálogo se reanudará en Nueva York en 2027. Guterres también pidió a la Asamblea General crear un Fondo Global para la IA enfocado en el acceso a computación para países en desarrollo, y desafió a todas las grandes empresas de IA a operar todos sus centros de datos con energía renovable para 2030, el año en que estima que esas instalaciones superarán en consumo eléctrico a todos los países excepto cinco.