Un agente autónomo de IA se escapa de su entorno de pruebas y ataca WorkOS

WorkOS ha confirmado que el ciberataque sufrido por su aplicación interna de ventas fue obra de un agente autónomo de inteligencia artificial que actuó de forma no intencionada después de escapar de su entorno de pruebas. La plataforma para desarrolladores ya había informado del incidente esta semana, señalando que un atacante había utilizado el marco de seguridad ofensiva ARTEX para automatizar intentos de reconocimiento y explotación contra sus sistemas.

En una actualización de seguridad publicada el viernes, el fundador de WorkOS, Michael Grinich, reveló que la persona responsable se había puesto en contacto con la empresa y había afirmado que el incidente fue accidental. «Poco después de nuestro boletín original, un investigador de seguridad nos contactó y asumió la responsabilidad», declaró Grinich en una publicación en X. «Nos dijo que estaba evaluando ARTEX, un marco de pruebas de penetración autónomo, cuando su agente escapó de su entorno de pruebas aislado e interactuó con WorkOS de forma no intencionada».

Al parecer, el investigador estaba realizando evaluaciones de referencia de ciberseguridad con ARTEX cuando el agente operó fuera de su entorno previsto y comenzó a interactuar con los sistemas de WorkOS. La empresa afirma que su equipo de seguridad y un investigador forense independiente cotejaron los detalles de las solicitudes, las marcas de tiempo y otros artefactos técnicos proporcionados por el investigador con los registros de la compañía, confirmando con alta confianza que la persona era responsable de la actividad no autorizada.

El investigador también confirmó que todos los datos de WorkOS obtenidos por el agente habían sido eliminados y no se compartieron con nadie más. Si bien WorkOS ha confirmado la responsabilidad del investigador en la intrusión, ni la empresa ni el investigador han proporcionado públicamente detalles sobre cómo el agente escapó de su entorno de pruebas.

El agente de IA explotó credenciales débiles

WorkOS señala que la investigación también identificó cuatro debilidades de seguridad que permitieron al agente autónomo acceder a su aplicación interna de ventas y extraer información de clientes. La aplicación afectada se ejecutaba en una plataforma de herramientas internas heredada que carecía de las protecciones de seguridad utilizadas en los sistemas más recientes de la empresa.

Según WorkOS, los controles de acceso permisivos dejaban los puntos finales de la API de la aplicación expuestos a internet, lo que permitió al agente descubrirlos e interactuar con ellos. La API también aceptaba una credencial predecible destinada al desarrollo local que se había dejado implementada por error en producción. Esto permitió al agente autenticarse tras descubrir el punto final expuesto.

Una vez autenticado, el agente abusó de la falta de limitación de velocidad para recuperar rápidamente registros de la aplicación expuesta. WorkOS afirma que el primer acceso no autorizado confirmado se produjo el 25 de octubre, pero la actividad no se detectó hasta el 30 de octubre, después de que el agente hubiera terminado de descargar los registros de clientes. La empresa descubrió el incidente cuando un empleado notó un uso inusualmente alto de un sistema conectado a la aplicación afectada.

La información expuesta incluía datos de contacto empresariales, historiales de cuentas de clientes, información sobre el uso de productos y resúmenes o extractos de llamadas de ventas, conversaciones de soporte y conversaciones de Slack con clientes. Un número limitado de comunicaciones de soporte también contenía direcciones de correo electrónico de usuarios finales.

WorkOS indica que su investigación, validada por una firma forense independiente, determinó que el incidente se limitó a los datos almacenados en sus sistemas de ventas y atención al cliente. La empresa señaló que también había comenzado a probar regularmente sus propios sistemas expuestos a internet utilizando ARTEX el 3 de noviembre, el mismo marco de pruebas de penetración con IA involucrado en el incidente.

ARTEX es un marco de seguridad ofensiva impulsado por IA que se ha vinculado anteriormente a ciberataques contra bancos de Corea del Sur y el Instituto Holandés para la Divulgación de Vulnerabilidades (DIVD). Más recientemente, CrowdStrike informó que el grupo de ciberespionaje chino Vapor Panda utilizó el marco en una campaña dirigida a aproximadamente 200 organizaciones.

Aunque el investigador afirma que el incidente de WorkOS fue involuntario, la brecha es otra demostración de cómo se está utilizando la IA para llevar a cabo ataques autónomos, incluso cuando esos ataques no son intencionados.

Descubra amenazas de correo electrónico que sus defensas actuales pueden pasar por alto

Los agentes de IA de Adaptive Security analizan la intención, el contexto y el comportamiento del correo electrónico para descubrir phishing, compromiso de correo empresarial y fraude de facturas. Vea qué está pasando con un escaneo de solo lectura de 14 días de Microsoft 365 o Google Workspace, sin cambios en MX.