‘Momento de Peligro’: CEO de Anthropic Advierte Sobre Ventana de Riesgo Cibernético Tras la IA Descubrir Miles de Fallas de Software

Una conversación entre el CEO de Anthropic, Dario Amodei, y el CEO de JPMorgan Chase, Jamie Dimon, el martes se centró en la creciente amenaza de ciberseguridad que representa la inteligencia artificial, dado que identifica vulnerabilidades más rápido de lo que las organizaciones pueden corregirlas.

En el evento de casi dos horas, vinculado a la incursión de Anthropic en los servicios financieros, donde presentó agentes de IA para tareas como pitchbooks, revisión de resultados y trabajo de cumplimiento normativo, Amodei señaló que podría haber una ventana de seis a 12 meses para abordar decenas de miles de fallas descubiertas por el modelo Mythos de la empresa, antes de que capacidades similares estén disponibles de forma más amplia.

“El peligro es simplemente un aumento enorme en la cantidad de vulnerabilidades, en la cantidad de brechas, en el daño financiero causado por el ransomware en escuelas, hospitales, sin mencionar los bancos”, afirmó Amodei.

Las declaraciones más recientes de Amodei siguen a pruebas anteriores realizadas con Mozilla, cuando una versión temprana de Mythos identificó 271 vulnerabilidades en el navegador Firefox en un solo análisis, lo que demostró cómo la IA puede escanear grandes bases de código mucho más rápido que los investigadores humanos.

Anthropic indicó que el modelo puede descubrir miles de debilidades previamente desconocidas en software de uso generalizado. Muchas permanecen sin divulgar porque aún no han sido corregidas, lo que deja fallas sin resolver.

“Si anunciamos algo sin que esté corregido, los malos lo van a explotar”, advirtió Amodei.

En pruebas controladas, Mythos completó simulaciones de ataques de red en múltiples pasos sin intervención humana, demostrando la capacidad de pasar de identificar vulnerabilidades a explotarlas.

Anthropic ha restringido el modelo a un pequeño grupo de socios bajo el Proyecto Glasswing, con el objetivo de corregir vulnerabilidades antes de que herramientas similares estén disponibles de forma generalizada.

Los investigadores han demostrado que algunos elementos de la capacidad de Mythos pueden reproducirse utilizando modelos existentes y técnicas de código abierto, lo que sugiere que herramientas similares podrían propagarse más rápido de lo esperado.

Las advertencias han generado escepticismo dentro de la industria. En abril, el CEO de OpenAI, Sam Altman, afirmó que las preocupaciones sobre Mythos podrían estar exageradas y sugirió que Anthropic utiliza un “marketing basado en el miedo” para enmarcar los riesgos y justificar la restricción del acceso a la tecnología.

“Se puede justificar de muchas maneras diferentes, y algo de eso es real, como que van a haber preocupaciones legítimas de seguridad”, agregó Altman. “Pero si lo que quieres es ‘necesitamos el control de la IA, solo nosotros, porque somos las personas de confianza’, creo que el marketing basado en el miedo es probablemente la forma más efectiva de justificar eso”.

Sin embargo, a pesar de ese rechazo y de una disputa pública con Anthropic, según reportó Axios, el gobierno de Estados Unidos estaría utilizando Claude Mythos para analizar redes clasificadas en busca de vulnerabilidades y poner a prueba sus capacidades de ciberseguridad. Sin abordar la batalla legal en curso, Amodei señaló que Anthropic es “buena para este país”.

“Creo que la visión de Anthropic es la misma que siempre ha sido. En términos de politización, este es el punto que planteé sobre ser ordenado, sistemático y justo con todos”, dijo Amodei. “El propósito de las leyes y de no actuar de forma improvisada es que todas las empresas sean, al menos en principio —sé que en la práctica es más complicado— tratadas de la misma manera, y deberíamos aspirar a eso aunque nunca vaya a ocurrir de forma perfecta”.

Amodei enmarcó el momento como una ventana estrecha para actuar, advirtiendo que la rapidez con la que las organizaciones respondan podría determinar si los riesgos escalan o se logran controlar.

“Se trata de un momento de peligro en el que, si respondemos correctamente, y creo que comenzamos a dar los primeros pasos, entonces podemos tener un mundo mejor al otro lado”, afirmó Amodei. “Solo hay cierta cantidad de errores por encontrar”.