Las agencias de ciberseguridad e inteligencia de EE.UU. han emitido una alerta conjunta en la que acusan a seis empresas chinas de inteligencia artificial de llevar a cabo ataques de destilación a escala industrial contra los principales modelos de IA de frontera estadounidenses desde al menos finales de 2024.
Según el aviso conjunto de CISA, NSA y FBI, las empresas DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun y Z.AI habrían extraído miles de millones de tokens mediante millones de solicitudes dirigidas a los modelos de Anthropic, OpenAI, Google y xAI. Las agencias consideran que la magnitud y sofisticación de estas operaciones indican que el gobierno chino está al tanto, y sugieren que esta práctica es probablemente parte de la estrategia central de desarrollo de dichas empresas.
La destilación de modelos de IA es una técnica legítima en la que un modelo 'estudiante' aprende de los resultados de un modelo ya entrenado, lo que ayuda a investigadores y desarrolladores a reducir costos de entrenamiento y acelerar el despliegue de la IA. Sin embargo, como advirtió Google en febrero, los ataques de destilación pueden ocurrir fuera de los entornos controlados de estas empresas, abusando del acceso API para extraer el conocimiento y la lógica de modelos potentes y competir con ellos a una fracción del costo de entrenamiento.
El aviso de CISA explica que las empresas chinas distribuyen las solicitudes API a través de cuentas fraudulentas o compartidas, APIs, servicios en la nube, agregadores y servidores proxy denominados 'estaciones de transferencia' para eludir restricciones geográficas, límites de uso y sistemas de detección. Algunos de los avisos intentaron exponer el razonamiento de cadena de pensamiento (CoT) restringido, mientras que los sistemas automatizados cambiaban de proveedor y verificaban si los defensores habían degradado las respuestas.
Las tácticas avanzadas de destilación a escala industrial incluyen extracción de razonamiento de cadena de pensamiento (CoT), conmutación automática por error entre rutas durante los bloqueos, y sofisticados marcos de evaluación de calidad para detectar medidas defensivas. Las empresas chinas que realizan destilación a escala industrial contra modelos de IA estadounidenses ven plazos de desarrollo de IA significativamente más cortos y una reducción de gastos financieros en el entrenamiento de un modelo de frontera.
DeepSeek y Moonshot AI fueron señaladas como las principales infractoras, habiendo destilado múltiples modelos Claude, GPT, Gemini y Grok. MiniMax se dirigió a modelos Claude, Gemini y GPT. Alibaba y StepFun habrían atacado a modelos Claude y GPT para mejorar sus productos, mientras que Z.AI supuestamente apuntó a GPT-5.5 y Claude Opus 4.8.
Para mitigar estos ataques, el aviso recomienda a las empresas de IA mejorar la detección a nivel de comportamiento e infraestructura, modificar las respuestas cuando se sospeche que se está llevando a cabo una destilación, y compartir inteligencia sobre estas campañas con todas las partes interesadas. Los posibles indicadores incluyen cuentas nuevas que alcanzan el uso máximo de inmediato, actividad continua sin pausas humanas normales, cuentas compartidas accedidas desde numerosas direcciones IP o agentes de usuario, avisos idénticos en múltiples proveedores, tasas inusualmente altas de suscripción en comparación con el uso, y cambio coordinado entre rutas de acceso.
BleepingComputer se ha puesto en contacto con las seis empresas chinas de IA para obtener declaraciones, y se añadirán sus comentarios si se reciben.
Deja una respuesta