El fundador de Chainguard, en una actualización sobre su plataforma Athena, ha publicado un análisis en el que respalda las tesis de Dario Amodei sobre la necesidad de moderar el ritmo de desarrollo de la inteligencia artificial, pero advierte que el verdadero riesgo no está en los laboratorios sino en los sistemas críticos que ejecutan software con décadas de antigüedad y diseños explotables.
El doble desafío: moderar la frontera y gestionar el consumo
El artículo plantea que el control del desarrollo de modelos (la 'frontera') es responsabilidad de gobiernos y empresas, mientras que la 'consumición' —es decir, qué ocurre con las vulnerabilidades que los modelos descubren— recae en la industria. Para ello, Chainguard ha estado trabajando en infraestructura que permita divulgar y parchear a escala nunca vista. La iniciativa Gold Eagle, surgida de una orden ejecutiva federal, busca priorizar hallazgos para operadores de infraestructura crítica que no pueden moverse al ritmo de un atacante.
Primeros 50 hallazgos de Athena
Athena, la plataforma de descubrimiento de vulnerabilidades de Chainguard, ha acumulado más de 40.000 hallazgos desde junio, de los cuales el 42% son críticos o altos, en más de 500 proyectos, con más de 2.000 parches producidos. Sin embargo, la divulgación responsable ha sido el cuello de botella. El 28 de septiembre comenzarán a publicar unos 50 hallazgos, ninguno de ellos de alta gravedad, para probar el proceso antes de liberar los miles restantes.
Todos estos primeros hallazgos corresponden a 'parches silenciosos': vulnerabilidades ya corregidas en la versión principal del proyecto, a veces hace años, pero que nunca recibieron un CVE. Los escáneres no las detectan y las versiones antiguas siguen en uso. Chainguard publicará los parches en un repositorio público bajo la licencia original, emitirá avisos con rangos de versiones afectadas a través de un feed OSV y distribuirá versiones parcheadas a sus clientes. No contactarán a los mantenedores de antemano, salvo que lo soliciten, para no añadir ruido.
Chainguard se convierte en CNA
Para dar una señal clara a los escáneres y a los regímenes de cumplimiento, Chainguard está en proceso de convertirse en Autoridad de Numeración de CVE (CNA) en colaboración con CISA. Asignarán CVE solo cuando no haya un mantenedor activo o cuando el proyecto no tenga su propia CNA, y siempre tras reproducir el hallazgo y notificar al mantenedor. Advierten que esto generará nuevas alertas en los escáneres, pero consideran que es preferible a mantener silencio y sufrir una brecha.
Project Glasswing y la velocidad de los modelos
Chainguard se ha unido a Project Glasswing de Anthropic, una iniciativa con unos 200 participantes de más de 15 países. A través de ella, están utilizando el modelo Mythos para analizar el software que ellos mismos producen. En una prueba, el modelo encontró más de una docena de vulnerabilidades validadas, la mayoría de ejecución remota de código sin autenticación, en un proyecto de código abierto ampliamente utilizado y auditado, en solo seis horas. El autor confiesa que este resultado le preocupa: la capacidad de ataque avanza más rápido que la capacidad de parchear.
Aislamiento y búsqueda de vulnerabilidades
Para operar de forma segura, Athena ejecuta todas sus tareas en microVM con kernel propio, sin credenciales y con salida restringida a registros de paquetes. Además, emplean agentes de IA para intentar romper el propio aislamiento y corregir cualquier fallo. El arnés de búsqueda de vulnerabilidades se inspira en el trabajo de Ian Beer, quien durante seis meses desarrolló una cadena de explotación para iOS. La clave es que el host, no el modelo, valida cada hallazgo mediante reproducción en un entorno limpio, lo que reduce los falsos positivos.
Infraestructura propia y planes de apertura
Chainguard ha reconstruido su fábrica de software sobre tres pilares: el sandbox de microVM, el arnés de búsqueda y la integración continua como función, que ejecuta comprobaciones en el propio bucle de desarrollo. Próximamente abrirán estas herramientas a terceros, especialmente para quienes ejecutan cargas de trabajo de IA no confiables o necesitan encontrar vulnerabilidades en su propio código.
La predicción final: nuevas bases de software
El autor concluye con una advertencia: la mayoría de las empresas están meses o años por detrás en la aplicación de parches, y la avalancha de nuevos hallazgos solo beneficiará a quienes puedan moverse rápido. La solución a largo plazo no es parchear más, sino construir software seguro desde su diseño. Chainguard está trabajando en una nueva base que elimine las clases de vulnerabilidades dominantes (corrupción de memoria, deserialización, inyección, etc.) para todos los lenguajes empresariales, aprovechando que los agentes de IA han reducido el coste de migración. El objetivo es que la infraestructura crítica no pueda ser rota por los modelos de IA, ni siquiera en manos maliciosas.
El credo del programador dice que hacemos estas cosas no porque sean fáciles, sino porque pensamos que serían fáciles cuando empezamos. Esta es la primera en la que ni siquiera pensé eso. Lo vamos a hacer de todos modos.
Deja una respuesta