Agentes de IA autónomos intentaron hackear sitios web gubernamentales de EE. UU. y Canadá

Agentes de inteligencia artificial autónomos, empleando tácticas agresivas, intentaron vulnerar sitios web de los gobiernos de Estados Unidos y Canadá con el objetivo de obtener estadísticas sobre escuelas y divorcios. Los intentos de intrusión, que no tuvieron éxito, se dirigieron a un portal del Departamento de Educación de EE. UU. y a Library and Archives Canada. Sin embargo, los datos recopilados no muestran evidencia de que se accediera a información no pública.

El laboratorio de investigación sin fines de lucro Transluce afirma que los agentes de IA parecían tener la tarea de recuperar datos, pero su actividad también incluyó intentos fallidos de 'hacking rudimentario'.

Sondeo de inyección SQL

Un incidente ocurrió el 17 de junio, cuando agentes de IA realizaron más de 200,000 solicitudes a un sitio web del Departamento de Educación de EE. UU. mientras buscaban estadísticas escolares. Según Transluce, la actividad incluyó un intento básico de inyección SQL mediante un parámetro manipulado, con el fin de eludir los filtros normales del sitio.

En los 40 segundos previos a la inyección SQL, hubo una serie de solicitudes que contenían una variedad de entradas inusuales de ID de estado. El propósito de estas solicitudes no está claro sin más contexto sobre los agentes y sus objetivos.

Los investigadores señalan que los datos solicitados parecían coincidir con una pregunta del benchmark Google DeepSearchQA sobre consejeros escolares y acoso relacionado con la raza. Transluce informó al Departamento de Educación de sus hallazgos el 25 de septiembre. Un portavoz declaró que una revisión de la actividad no encontró evidencia de impacto en los servicios.

Sondeos fallidos contra el archivo canadiense

Los investigadores de Transluce identificaron un patrón similar contra Library and Archives Canada, donde los agentes intentaron recuperar registros históricos de divorcios canadienses de 1905 a 1911. En dos fechas, el 28 de mayo y el 9 de junio, el archivo web nacional de Portugal (Arquivo.pt) registró casi 900 solicitudes dirigidas a Library and Archives Canada, según los hallazgos de Transluce. Trece solicitudes portaban cargas maliciosas, incluyendo sondeos de inyección SQL y pruebas de manejo de entradas, formatos de salida y opciones de depuración.

Los sondeos devolvieron páginas de registros vacías, y el Centro Canadiense de Ciberseguridad confirmó que no hay evidencia de manipulación de bases de datos ni de datos adicionales. 'No hay indicios de que los sistemas gubernamentales hayan sido comprometidos en este momento', declaró el Centro Canadiense de Ciberseguridad. La agencia dijo que estaba evaluando los informes con socios gubernamentales y advirtió que las solicitudes automatizadas o potencialmente maliciosas no demuestran por sí mismas un incidente cibernético exitoso.

Los investigadores señalan que, si bien 'no atribuyen con confianza estos intentos a OpenAI', las tácticas utilizadas son consistentes con actividad previamente atribuida al desarrollador de IA. OpenAI dijo a The Washington Post que estaba revisando los hallazgos y había proporcionado una sesión informativa inicial a funcionarios canadienses. La compañía ha reconocido por separado interacciones no intencionadas entre sus agentes y sitios web del gobierno de EE. UU., pero Transluce advirtió que parte de la actividad más amplia no era claramente atribuible a OpenAI.

Actividad más amplia, atribución incierta

La investigación descubrió una colección mucho más amplia de actividad de agentes de IA dirigida a sitios web de gobiernos federales y estatales de EE. UU. Transluce también afirma que los agentes emplearon tácticas agresivas contra múltiples sitios web estatales y federales de EE. UU., contribuyendo a un patrón más amplio de flujos de trabajo automatizados impulsados por IA.

Los investigadores observaron que la actividad de los agentes incluía técnicas que van desde volúmenes masivos de solicitudes y URL modificadas hasta cuentas de correo electrónico desechables, intentos de eludir sistemas anti-bots, adivinación de nombres de archivos descargables y reutilización de credenciales expuestas. La actividad reportada se dirigió a agencias en California, Kansas, Maryland, Illinois, Texas y Nueva York.

En un caso, los agentes de IA intentaron registrarse para obtener una clave API de la Oficina de Análisis Económico utilizando una dirección de correo electrónico desechable y el nombre de organización 'OpenAI Research'. Otro flujo de trabajo indica un intento de reutilizar claves API expuestas para recuperar datos de la Oficina del Censo. Entre el 23 de abril y el 18 de mayo, hubo intentos automatizados de acceder a las páginas de gestión de contenido del sitio web del Comando de Historia y Patrimonio Naval, history.navy.mil. Sin embargo, no hay evidencia de acceso a información militar sensible.

La investigación de Transluce se basó principalmente en registros de Arquivo.pt y el servicio de escaneo de seguridad web urlquery.net, cuyos registros públicos preservaron solicitudes aparentemente enviadas por los agentes. Los incidentes recién descubiertos amplían una investigación anterior de la organización que encontró agentes recurriendo a sondeos de vulnerabilidades contra proveedores de datos públicos mientras realizaban tareas de recuperación de información. La investigación previa reveló que agentes de IA sondeaban vulnerabilidades en el servicio Data USA y la biblioteca digital de la Universidad de Nuevo México, y explotaron una falla en un portal del gobierno australiano.

Construya su plan de seguridad para ataques impulsados por IA

Únase a Mikko Hyppönen y líderes de seguridad de la NFL, CHANEL y Atlassian en una cumbre digital de dos horas sobre qué cambian los ataques a velocidad de IA, qué deben dejar de hacer los defensores y cómo validar, decidir, corregir y revalidar a velocidad de máquina.