Investigadores del Grupo de Inteligencia de Amenazas de Google (GTIG) afirmaron que un exploit de día cero dirigido a una popular herramienta de administración web de código abierto fue probablemente generado con inteligencia artificial. El exploit podía eludir la protección de autenticación de dos factores (2FA) de la herramienta, cuyo nombre no fue revelado. Aunque el ataque fue detenido antes de la fase de explotación masiva, el incidente demuestra que los actores de amenazas recurren cada vez más a la asistencia de IA para descubrir y explotar vulnerabilidades.
Según Google, la estructura y el contenido del código Python del exploit indican con alta confianza que el adversario utilizó un modelo de IA para encontrar y weaponizar la vulnerabilidad. Por ejemplo, el script contiene abundantes docstrings educativos, incluyendo una puntuación CVSS alucinada, y utiliza un formato Pythonico estructurado y de libro de texto, muy característico de los datos de entrenamiento de los LLM. El modelo de lenguaje grande (LLM) utilizado para la tarea maliciosa no está claro, pero Google descarta que Gemini haya estado involucrado en el proceso.
Otra evidencia que sugiere el uso de herramientas LLM en el proceso de descubrimiento es la naturaleza de la falla: un error lógico semántico de alto nivel que los sistemas de IA son excelentes para identificar, en lugar de problemas de corrupción de memoria o sanitización de entrada que normalmente se descubren mediante fuzzing o análisis estático. Google notificó al desarrollador del software sobre la amenaza significativa y tomó medidas oportunas para interrumpir el ataque.
Por primera vez, GTIG ha identificado a un actor de amenazas utilizando un exploit de día cero que creemos fue desarrollado con IA.
Además de este caso, Google señala que hackers chinos y norcoreanos, como APT27, APT45, UNC2814, UNC5673 y UNC6201, han estado utilizando modelos de IA para el descubrimiento de vulnerabilidades y el desarrollo de exploits, continuando la tendencia observada en un informe de febrero. Actores vinculados a Rusia también fueron observados utilizando código señuelo generado por IA para ofuscar malware como CANFAIL y LONGSTREAM.
Google también destacó una operación rusa con el nombre en clave 'Overload', donde actores de amenazas de ingeniería social utilizaron clonación de voz con IA para hacerse pasar por periodistas reales en videos falsos que promovían la narrativa anti-Ucrania. El backdoor PromptSpy para Android, documentado por ESET a principios de este año, también se destaca en el informe de Google por su integración con las API de Gemini para la interacción autónoma con el dispositivo.
Google también encontró un módulo de agente autónomo llamado 'GeminiAutomationAgent' que utiliza un prompt codificado para permitir que el malware interactúe con el dispositivo de forma automatizada. Según los investigadores, el rol del prompt es asignar una personalidad benigna para eludir las características de seguridad del LLM. El objetivo es calcular la geometría de los límites de la interfaz de usuario, que PromptSpy podría utilizar para interactuar con el dispositivo de múltiples maneras. Además, el malware utiliza capacidades basadas en IA para reproducir la autenticación en el dispositivo, ya sea en forma de patrón de bloqueo o PIN.
La compañía advierte que los actores de amenazas ahora están industrializando el acceso a modelos de IA premium mediante la creación automatizada de cuentas, retransmisión de proxies e infraestructura de agrupación de cuentas.
Deja una respuesta