Investigadores Advierten Sobre Gusanos de IA que Generan Ataques en Tiempo Real y se Replican Solos

Los avances en agentes de IA podrían estar abriendo la puerta a una nueva amenaza de ciberseguridad: gusanos informáticos adaptativos capaces de generar estrategias de ataque en tiempo real y propagarse de forma autónoma por las redes, según advierte una nueva investigación.

El estudio, elaborado por investigadores de la Universidad de Toronto, el Vector Institute, la Universidad de Cambridge y ServiceNow, describe un gusano impulsado por IA —desarrollado como prueba de concepto— que puede identificar vulnerabilidades, diseñar rutas de ataque personalizadas, comprometer sistemas y replicarse a través de una red mientras adapta sus tácticas a distintos objetivos.

“Debemos prepararnos para adversarios generativos autónomos”, escribieron los investigadores. “Sistemas de malware que se propagan sin operadores humanos y que no se definen por un código de explotación fijo, sino por la capacidad de razonar sobre los objetivos, adaptarse a las observaciones y sintetizar la lógica de ataque en tiempo real”.

Un gusano informático es un malware autorreplicante que se propaga automáticamente por redes vulnerables. Los brotes de gusanos, como el malware ILOVEYOU en 2000 y WannaCry en 2017, infectaron millones de computadoras en todo el mundo, interrumpiendo servicios críticos y causando miles de millones de dólares en daños.

Recientemente, el malware Shai-Hulud demostró cómo los ataques autopropagables pueden extenderse en línea, infectando software utilizado por grandes empresas como OpenAI y Mistral.

Según el nuevo estudio, lo que distingue a este gusano impulsado por IA de versiones anteriores es su capacidad de adaptarse a distintos objetivos, utilizando un Large Language Model (LLM) para identificar vulnerabilidades y generar estrategias de ataque en tiempo real, en lugar de depender de un conjunto fijo de exploits.

“Los gusanos tradicionales, como WannaCry, explotaban vulnerabilidades predeterminadas y su propagación podía detenerse parcheando dichas vulnerabilidades”, señalaron. “Aquí demostramos que los agentes de inteligencia artificial habilitan una amenaza fundamentalmente nueva: un gusano que genera estrategias de ataque personalizadas para cada objetivo que encuentra”.

En el estudio, el equipo puso a prueba el gusano en una red virtual aislada que contenía 33 sistemas Linux, Windows e IoT con vulnerabilidades comunes. En 15 experimentos, el gusano identificó un promedio de 31,3 vulnerabilidades, comprometió con éxito 23,1 hosts y se propagó a aproximadamente 20 máquinas durante siete días de operación autónoma.

En algunas pruebas, el malware logró alcanzar siete generaciones de autorreplicación y, a diferencia de muchas aplicaciones de IA, no dependía del acceso a servicios de IA en la nube.

En lugar de depender de infraestructura en la nube de proveedores como AWS, Microsoft Azure o Google Cloud, el malware ejecutaba modelos de IA directamente en las máquinas comprometidas. A medida que se propagaba, los sistemas infectados se convertían efectivamente en parte de su infraestructura de cómputo.

Los investigadores también descubrieron que el sistema podía explotar vulnerabilidades divulgadas después del corte de entrenamiento del modelo, al incorporar en tiempo de ejecución avisos de seguridad recién publicados, lo que le permitía integrar información que no formaba parte de los datos de entrenamiento originales del modelo.

Si bien las pruebas se realizaron en un entorno controlado, los autores reconocieron la naturaleza de doble uso del trabajo y omitieron intencionalmente algunos detalles técnicos para reducir el riesgo de uso indebido.

“Antes de publicar este preprint, editamos el manuscrito para garantizar que la presentación de nuestro método equilibre el nivel de detalle necesario para que la comunidad estudie esta nueva amenaza con el riesgo de que un actor malicioso utilice nuestro método para crear malware”, afirmaron.

Sin embargo, los investigadores señalaron que el proyecto busca comprender mejor los riesgos que plantean los gusanos informáticos adaptativos y aportar evidencia de hasta dónde han avanzado las capacidades cibernéticas habilitadas por IA.

“Abordar esta amenaza requerirá, por tanto, una acción coordinada entre las comunidades de investigación, seguridad, industria y política: marcos de evaluación que pongan a prueba las capacidades a nivel de entorno, sistemas de detección sintonizados con las firmas de comportamiento de los agentes autónomos, y medidas regulatorias que tengan en cuenta la naturaleza descentralizada de la inferencia de modelos con pesos abiertos”, escribieron.