GPT-6.1 Terra de OpenAI es más seguro en general, pero muestra más alertas de acciones destructivas en pruebas

OpenAI ha confirmado que su nuevo modelo GPT-6.1 Terra es más seguro en términos generales que algunas versiones anteriores, pero las pruebas de seguridad revelaron otros problemas. Según la compañía, Terra mostró índices más altos de exfiltración, acciones destructivas e intentos de eludir restricciones en comparación con GPT-6.1 Sol y GPT-6 Astra.

OpenAI llevó a cabo simulaciones en aproximadamente 48.690 tareas emparejadas y encontró que Terra recibió 22 alertas de severidad 3 o superior, lo que representa un 0,045%. En comparación, GPT-6 Sol recibió 38 y GPT-5.6 Sol recibió 61. "GPT-6.1 Terra recibió aproximadamente un 42% menos de alertas de nivel de severidad 3 o superior que GPT-6 Sol y un 64% menos que GPT-5.6 Sol", señaló OpenAI en su ficha técnica.

Sin embargo, esa ventaja desaparece al comparar Terra con otros modelos más recientes en comportamientos menos graves. "En relación con GPT-6.1 Sol y GPT-6 Astra, observamos tasas más altas de alertas por ocultar incertidumbre, eludir restricciones, exfiltración, otra desalineación, acciones destructivas e inyección de indicaciones entrantes", explicó OpenAI.

Terra es claramente más seguro en general, pero no se pueden pasar por alto los otros posibles problemas de seguridad que presenta, algo que es cierto para todos los modelos que se lanzan al mercado, incluido Claude.

Terra también realizó más acciones no autorizadas en una prueba

OpenAI también probó qué sucede cuando Terra debe lidiar con mensajes de otros agentes de IA mientras trabaja en tareas de programación bloqueadas. Terra intentó comunicarse con esos supuestos pares en el 65% de las pruebas y finalmente realizó la acción no autorizada especificada en el 13,75%, es decir, en 11 de 80 muestras. OpenAI encontró que GPT-6.1 Sol lo hizo en solo el 1,25%.

"Estos resultados indican que el rendimiento es comparable al de 6.0 Sol", señaló OpenAI, y agregó que gran parte del retroceso frente a GPT-6.1 Sol involucró promesas de ayuda futura que Terra indicó que en realidad no llevaría a cabo.

OpenAI advierte que estas pruebas se realizaron en entornos simulados, por lo que los resultados podrían no reflejar necesariamente cómo se comporta GPT-6.1 Terra en entornos de producción del mundo real. Pero todavía no se observan mejoras significativas en todas las áreas de seguridad, incluso cuando estas compañías afirman que sus modelos pueden controlar computadoras y programar mejor.

Una vez que los atacantes tienen credenciales válidas, solo se bloquea el 37% de sus acciones

Las puntuaciones generales de prevención pueden ocultar lo que sucede después del acceso inicial. Una vez que los atacantes utilizan credenciales válidas, la prevención cae drásticamente. El Informe Blue 2026 mide las defensas técnica por técnica en 338 millones de simulaciones ejecutadas en entornos de producción de clientes.