En Black Hat, una pregunta dominó las conversaciones con líderes de seguridad y plataformas: ¿quién evalúa realmente el código generado por la IA? Aunque la adopción de asistentes de codificación con IA no se detiene y la productividad mejora, el código abierto sigue siendo clave en las aplicaciones empresariales. Sin embargo, la velocidad con la que la IA sugiere dependencias de terceros ha superado la capacidad de los procesos de revisión tradicionales. Cuando una dependencia no auditada o alucinada entra en el código a velocidad de máquina, los análisis de composición de software posteriores al commit luchan por mantenerse al día. Proteger este pipeline no significa frenar a los desarrolladores ni restringir el código abierto, sino gobernar lo que entra en el entorno en el punto de selección, antes de que una importación dispare una compilación.
Los modelos de lenguaje grandes recomiendan librerías basándose en probabilidades estadísticas y patrones de código históricos, sin verificar en tiempo real los registros de paquetes. Cuando un modelo sugiere un nombre de paquete que no existe en PyPI o npm, se crea una vulnerabilidad de cadena de suministro conocida como 'slopsquatting' o explotación de alucinaciones de paquetes de IA. Un estudio de USENIX Security analizó 16 modelos populares de generación de código en más de 500,000 muestras y encontró que un porcentaje considerable de nombres de paquetes sugeridos por la IA no existen en los registros públicos, y de los que sí resuelven a paquetes reales, casi la mitad contienen CVEs conocidos o versiones obsoletas. Los atacantes monitorean los patrones de salida de los LLM y los repositorios públicos para identificar nombres alucinados. Una vez identificados, registran el nombre falso en PyPI o npm, suben un payload malicioso y esperan a que los entornos de desarrollo automatizados o los CI/CD lo descarguen. Este vector ya se ha observado en la naturaleza: a principios de 2026, un solo nombre de paquete alucinado (react-codeshift) se propagó a más de 230 repositorios antes de que un ingeniero notara que ningún humano lo había seleccionado explícitamente.
Los asistentes de codificación con IA generan software a velocidad de máquina, pero las dependencias sin auditar exponen tu pipeline a ataques de slopsquatting y cadena de suministro. ActiveState ofrece un repositorio seguro de componentes limpios construidos desde la fuente, permitiendo a las organizaciones demostrar procedencia y atestación a nivel de compilación, eliminando vectores de slopsquatting en la fase de ingesta.
El desafío de ingesta en la empresa impacta directamente al ecosistema de código abierto. Los mismos asistentes de IA que generan sugerencias sin auditar dentro de las redes empresariales también generan pull requests automatizadas a repositorios comunitarios. Este volumen de contribuciones automatizadas genera una presión sin precedentes sobre los mantenedores. Políticas de IA en conflicto: proyectos como Kubernetes, el kernel de Linux, LLVM y Godot han publicado políticas divergentes sobre contribuciones asistidas por IA. Algunos prohíben el código generado por IA, mientras que otros lo permiten solo si un humano asume plena responsabilidad por cada línea añadida. Mayor densidad de defectos: una revisión de CodeRabbit en 470 pull requests de código abierto encontró que las contribuciones coescritas por IA llevaban un 70% más de defectos que el código humano, a pesar de tener una apariencia limpia. Cuando paquetes alucinados o vulnerables pasan por la ingesta corporativa, terminan en PRs de código abierto, obligando a mantenedores voluntarios a pasar horas validando dependencias que ningún humano seleccionó deliberadamente.
El informe 'Application Security in Practice' de Kusari muestra que el despliegue de herramientas ha superado los controles de ingesta: el 85% de las organizaciones usan asistentes de codificación con IA, pero solo el 38% usa IA para revisión de código en la etapa de PR, y apenas el 9% tiene controles dedicados de AppSec para IA. Los flujos tradicionales de AppSec dependen de escanear el código después de que se escribe, lo que a velocidad de máquina genera ruido de alertas que los ingenieros ignoran.
Esperar a que la tasa de alucinaciones de los LLM llegue a cero no es una estrategia de AppSec. El problema central es la velocidad, no la precisión del modelo. Para asegurar el pipeline de desarrollo sin sacrificar la producción, los equipos de seguridad y plataforma están moviendo la defensa más allá del IDE: Restringir la obtención directa de registros públicos: bloquear que estaciones de trabajo y agentes de IA consulten endpoints públicos sin auditar durante la autocompletación. Aislar dependencias sugeridas por IA: enrutar las nuevas dependencias a un sandbox aislado para análisis automatizado de alcance y vulnerabilidades antes de permitirlas en ramas principales. Gobernar la pasarela de ingesta: pasar de contar CVEs de forma reactiva a una curación proactiva de fuentes, asegurando que cada paquete recomendado por un modelo de IA esté pre-vetado contra typosquats maliciosos y objetivos de slopsquatting. ActiveState opera precisamente en esta capa de ingesta, con su Secure Open Source Library y Curated Catalog. Actúa como una pasarela de ingesta de grado empresarial, entregando paquetes pre-vetados y continuamente remediados directamente a estaciones de trabajo, pipelines CI/CD y entornos de agentes de IA. Al situarse entre los registros públicos y las herramientas de desarrollo, un catálogo curado intercepta los riesgos de paquetes alucinados en el límite de selección. Los equipos que usan una fuente de ingesta gobernada eliminan los vectores de slopsquatting en la fase de entrada, reduciendo la exposición a CVEs en aproximadamente un 95% sin forzar a los desarrolladores a desactivar sus asistentes de IA.
Desactivar las herramientas de codificación con IA no es práctico ni competitivo. Pero tratar la integración de IA solo como métrica de productividad, sin actualizar las reglas de ingesta de la cadena de suministro, deja las compilaciones de producción vulnerables a compromisos automatizados. Asegurar el pipeline moderno requiere que cada paquete seleccionado por un humano o un agente sea gobernado por defecto antes de llegar a una compilación. Si te interesa ver cómo ActiveState puede ayudar a asegurar tus aplicaciones de código abierto, programa una demo hoy. Jonny Rivera es un líder de producto con experiencia en ciberseguridad, soluciones de salud digital y herramientas de desarrollo. Sponsored and written by ActiveState.
Deja una respuesta