Un actor de amenazas de habla rusa identificado como 'bandcampro' ha sido reportado utilizando la herramienta de inteligencia artificial de código abierto de Google, Gemini CLI, como un agente de hacking y para operar una botnet de pequeña escala. Según investigadores de Trend Micro, el agente de IA respondía a las instrucciones del atacante, solucionaba problemas sobre la marcha y proponía mejoras operativas en al menos 59 ocasiones.
Entre el 19 de mayo y el 21 de abril, el actor llevó a cabo más de 200 sesiones con la herramienta de IA para implementar y gestionar una infraestructura que controlaba ocho sistemas dentro de una clínica dental, logrando acceso a la base de datos OpenDental. El agente de IA asumió el rol de un 'probador de penetración autorizado', actuando sin descargos de seguridad y guardando automáticamente las credenciales obtenidas.
El archivo de habilidades del agente contenía el manual de comando y control (C2), incluyendo una descripción de la arquitectura, operaciones estándar, código de infección, comandos para persistencia y pasos para la resolución de problemas. Trend Micro señala que el actor utilizó Gemini CLI para migrar la botnet a una nueva infraestructura C2. A partir de una sola instrucción —'Estudia la migración C2'—, la IA procesó la guía y preparó todos los pasos y el código necesarios para el proceso.
La migración de la infraestructura C2 se completó en solo seis minutos, manejando la arquitectura, la codificación, el despliegue en VPS, la configuración de Cloudflare y la depuración inicial. 'La IA leyó la guía de migración, luego preparó un paquete de migración, un pequeño archivo con el código del servidor, los payloads y el archivo de habilidades. Luego descomprimió el paquete, lanzó el servidor C&C en un VPS y activó el túnel de Cloudflare', explicaron los investigadores.
Cuando las máquinas infectadas no se reconectaron inicialmente, la IA diagnosticó un conflicto de tráfico entre los servidores antiguos y nuevos. Tras apagar el servidor anterior, todos los bots se reconectaron exitosamente. Los registros de operaciones diarias muestran que el actor continuó gestionando la botnet exclusivamente mediante solicitudes en lenguaje natural, preguntando qué máquinas estaban en línea, listando archivos en computadoras específicas y generando enlaces de infección.
Técnicamente, la botnet era notablemente ligera, con todos los componentes e instrucciones contenidos en tres archivos de texto plano que sumaban aproximadamente 5 KB. Estos incluían un prompt de jailbreak para Gemini, un manual C2 que cubría infección, persistencia y solución de problemas, y una guía de migración para reconstruir la infraestructura. El C2 utilizaba un servidor HTTP en memoria con Python y agentes PowerShell que consultaban cada cinco segundos, mientras que la persistencia se basaba en tareas programadas, eventos WMI y modificaciones del registro, según los privilegios. El malware en sí era poco sofisticado, sin ofuscación, empaquetado ni mecanismos de evasión.
Además de la botnet, el actor supuestamente usó la IA para adivinar contraseñas, generando variantes plausibles de contraseñas existentes para portales WordPress y analizando volcados de 1Password para encontrar vías de explotación. Los investigadores afirman que este último intento falló solo porque la operación se extendió lo suficiente como para que la IA perdiera el rastro del concepto general del ataque.
Los registros recuperados muestran que Gemini se negó a cumplir en al menos un caso, cuando se le pidió construir un 'agente-bomba' auto-replicante, pero esto simplemente llevó al actor a probar otras tareas. BleepingComputer contactó a Google para obtener comentarios sobre este ejemplo de abuso de Gemini CLI, pero no recibió respuesta al momento de la publicación.
Deja una respuesta