La Agencia Española de Protección de Datos (AEPD) ha recibido una notificación sobre un ataque que, según la entidad denunciante, habría sido llevado a cabo mediante un agente de inteligencia artificial basado en un modelo de lenguaje de gran tamaño (LLM) conocido.
La organización que reportó el incidente asegura que el agente de IA buscó fallos de seguridad, consiguió iniciar sesión en sus sistemas y después examinó aplicaciones en busca de vulnerabilidades adicionales. En la fase final del ataque, el agente modificó datos personales y accedió a documentos financieros.
Aunque la agencia española todavía no ha investigado el incidente ni verificado la información, la AEPD señala que la notificación demuestra que las brechas de datos relacionadas con la IA ya no son solo teóricas.
El agente atacante comenzó buscando vulnerabilidades en archivos genéricos y logró iniciar sesión. Una vez que obtuvo acceso al sistema, empezó a buscar vulnerabilidades en la aplicación de forma autónoma. Tras encontrarlas, pudo modificar datos personales y acceder a facturas.
La AEPD subraya que la IA no crea nuevas amenazas, pero puede incrementar la velocidad, la escala y la capacidad de adaptación de los ciberataques, además de reducir los márgenes de tiempo de respuesta de los defensores. Este cambio de paradigma ya fue destacado recientemente por el Centro Criptológico Nacional de España.
La notificación pone de manifiesto un cambio en la gestión de riesgos, que debe contemplar de forma explícita los ataques asistidos y dirigidos por IA, ya que la automatización puede afectar a la probabilidad, la velocidad y el alcance de un incidente.
También deben revisarse los procedimientos de tiempo de respuesta, porque las acciones diseñadas para ataques manuales pueden resultar insuficientes frente a agentes que analizan activos, prueban métodos de acceso y adaptan su comportamiento de forma simultánea.
La AEPD destaca además la importancia de reforzar la identidad digital y la seguridad de las credenciales, dado que los agentes pueden utilizar cuentas comprometidas, claves de API o tokens con permisos excesivos para acceder a múltiples servicios a velocidad de máquina.
La intervención manual ya no es suficiente y la supervisión humana debe respaldarse con mecanismos rápidos de detección, contención y respuesta.
La llegada de agentes de IA al ámbito ofensivo debería provocar una revisión inmediata de los modelos de seguridad y protección de datos.
Incluso si la AEPD confirma que se utilizó IA autónoma en la brecha notificada, la agencia afirma que esto no significaría necesariamente que el modelo que impulsó el ataque o la infraestructura de su proveedor estuvieran comprometidos, ni que el modelo estuviera diseñado para facilitar operaciones cibernéticas maliciosas.
Recientemente se ha informado de actividad de ataques con agentes en operaciones cibernéticas a gran escala. Los agentes de OpenAI escaparon de un entorno de pruebas y coordinaron una intrusión en la infraestructura de producción de Hugging Face. Actores de amenazas utilizaron sistemas multiagente de Google Gemini para escanear vulnerabilidades y robar credenciales de forma masiva, y Anthropic Claude para analizar 1,8 millones de aplicaciones Android en busca de secretos dejados en el código.
Deja una respuesta