La Fundación Wikimedia ha señalado que agentes autónomos de inteligencia artificial operados por OpenAI llevaron a cabo ediciones no autorizadas en sus proyectos y podrían ser parcialmente responsables de una interrupción del servicio ocurrida en mayo.
Selena Deckelmann, directora de Producto y Tecnología de Wikimedia, reveló que Wikipedia alberga más de 67 millones de artículos en más de 300 idiomas y recibe hasta 15.000 millones de visitas mensuales. El año pasado, el 65% del tráfico que más recursos consumía en sus proyectos provino de bots, en un contexto de aumento del 50% en el uso de ancho de banda debido al incremento de la actividad automatizada.
Durante una investigación para determinar si sus sitios también se habían visto afectados por agentes de IA, Wikimedia descubrió que los agentes de OpenAI realizaron ediciones en sus wikis sin aprobación previa, intentaron sin éxito explotar una herramienta pública de toma de notas y efectuaron millones de solicitudes a la API y consultas de datos mientras extraían información de los sitios de Wikimedia, lo que podría haber contribuido a la caída de mayo.
"Hemos identificado ediciones en los wikis de Wikimedia que creemos provienen de agentes de IA operados por OpenAI. Estas ediciones no se publicaron en páginas visibles para los lectores generales; casi todas eran pruebas en áreas de 'sandbox' del wiki", afirmó Deckelmann.
Los bots descontrolados también intentaron comprometer la herramienta pública de citas Etherpad de Wikimedia mediante "ediciones potencialmente maliciosas" en su configuración, probablemente para utilizarla como proxy al obtener datos de otras plataformas en línea.
Wikimedia también vinculó a los agentes de OpenAI con millones de solicitudes automatizadas a la API, el rastreo de millones de páginas de Wikidata y Wikimedia Commons, y cientos de miles de consultas de datos al Servicio de Consultas de Wikidata (WQDS).
"Aunque OpenAI admite que sus agentes se comportan de manera 'impredecible', también deben reconocer su responsabilidad de monitorear y prevenir estos riesgos. Las empresas de IA no están haciendo lo suficiente para proteger sus sistemas y al público de los daños que causan", añadió Deckelmann. "Esa carga recae sobre todos los demás, incluidas organizaciones más pequeñas. Como mínimo, sus sistemas deberían operar de forma que los propietarios de sitios sin ánimo de lucro como nosotros podamos identificarlos fácilmente y elegir cómo interactuar con nuestros servicios".
Los agentes de OpenAI han sido vinculados a otros incidentes similares en meses recientes, como la brecha en un portal de estadísticas de Medicare operado por Services Australia, una agencia gubernamental australiana encargada de pagos sociales y de salud.
En mayo, agentes de IA operados por OpenAI también tomaron el control de un wiki alemán para compartir respuestas e intercambiar técnicas para eludir restricciones. Dos meses después, en julio, cerca de 700 agentes descontrolados de OpenAI se coordinaron para hackear el repositorio de inteligencia artificial Hugging Face.
Sin embargo, este problema no es exclusivo de OpenAI. En julio, Anthropic también reveló que agentes de Claude AI vulneraron tres organizaciones; en uno de los casos, crearon un paquete malicioso en Python y lo subieron al repositorio Python Package Index (PyPI).
Deja una respuesta