La nueva frontera de los desafíos de seguridad
Cada gran ola tecnológica genera un momento incómodo para los líderes de seguridad: el negocio avanza primero y luego se pide a seguridad que lo proteja. Esto ocurrió con la nube, SaaS y DevOps, y ahora la IA agentiva repite el patrón. La diferencia es que los agentes de IA no son un simple servicio o aplicación; son actores digitales que se autentican, reciben permisos, llaman APIs, escriben código, ejecutan flujos de trabajo, consultan bases de datos y actúan en entornos productivos. Muchas organizaciones ya los usan con credenciales, tokens API, concesiones OAuth y roles en la nube que nadie ha inventariado por completo. Esto convierte la pregunta central de seguridad en algo mayor que "¿qué puede decir el modelo?". Las preguntas reales son: ¿quién es este agente, qué se le permite hacer, quién es responsable de sus acciones, y podemos revocar o restringir sus permisos cuando algo cambie? Sí, la IA agentiva tiene un problema de identidad, y los atacantes ya lo están notando.
Por qué los programas de identidad tradicionales se quedan cortos
Los equipos de seguridad han pasado años construyendo programas de identidad centrados en humanos. Los empleados se incorporan, se trasladan y se van. El acceso puede revisarse, los gerentes pueden certificar lo que necesitan las personas y el comportamiento puede monitorearse con una línea base relativamente estable. Las identidades de máquina tensaron ese modelo. Las cuentas de servicio, secretos, certificados, identidades de cargas de trabajo y claves API se multiplicaron en entornos cloud y DevOps. Muchas tenían privilegios excesivos, propietarios difusos y rara vez se revisaban. Aun así, la mayoría de las identidades de máquina eran deterministas y realizaban tareas definidas de manera predecible.
El problema de la autonomía
Los agentes de IA rompen esta premisa. Un agente se comporta más como un humano: puede interpretar un objetivo, elegir un camino y actuar entre sistemas. Pero escala como software y procesa a velocidad de máquina. Puede crearse rápidamente, integrarse en productos SaaS, ser copiado por desarrolladores, recibir permisos delegados por usuarios y seguir ejecutándose mucho después de que la necesidad original haya desaparecido. Esta combinación de autonomía, escala y descentralización crea una nueva clase de riesgo de identidad que los modelos tradicionales nunca fueron diseñados para manejar.
El principio de mínimo privilegio no escala
El mínimo privilegio tradicional falla con la IA agentiva. Con una cuenta humana o de servicio, el mínimo privilegio suele significar otorgar los permisos estáticos mínimos necesarios para un rol o función. Pero un agente puede necesitar diferentes accesos según su objetivo, los datos involucrados, el usuario o sistema en cuyo nombre actúa y el entorno que toca. Por ejemplo, un agente de soporte que resume un ticket no necesita el mismo privilegio que uno que puede emitir reembolsos, modificar registros de clientes o ejecutar comandos en producción. Un agente de codificación que corre en un sandbox es diferente de uno que puede abrir pull requests, acceder a secretos o desplegar infraestructura. El acceso de los agentes debe ser contextual, basado en la intención, limitado en el tiempo y evaluado continuamente, pero no es así como operan la mayoría de las empresas hoy.
Los tres problemas críticos
1. Problema de visibilidad
Muchas organizaciones ya tienen "shadow AI", igual que antes tenían "shadow IT". Los agentes son creados por equipos internos, llegan a través de plataformas SaaS que añaden funciones autónomas silenciosamente, se ejecutan localmente en endpoints o entornos de desarrollo, y se conectan a plataformas de automatización, proveedores de identidad, consolas cloud y sistemas de ticketing. Si los equipos de seguridad no saben que estos agentes existen, no pueden asegurarlos ni gobernarlos. Sin saber qué credenciales usan los agentes, no entienden el alcance del radio de explosión, y si no pueden mapear el agente a un propietario, propósito y ciclo de vida, no podrán responsabilizar a nadie cuando el agente tome una decisión dañina o sea abusado por un atacante.
2. Problema de privilegios excesivos
A menudo se otorga a los agentes acceso amplio porque es más fácil durante la experimentación. Un desarrollador puede conceder un token API para que un prototipo funcione, una unidad de negocio puede conectar un agente a una cuenta SaaS con derechos de administrador, o un equipo de aplicaciones puede incrustar secretos en un flujo de trabajo porque es más rápido que diseñar una delegación adecuada. Estos atajos crean deuda de identidad, y la IA agentiva puede acumular esa deuda a escala y velocidad de máquina.
3. Inyección de instrucciones y manipulación indirecta
Si un agente puede leer contenido no confiable y también tomar acciones privilegiadas, los atacantes no siempre necesitan comprometer una cuenta tradicional. Pueden limitarse a influir en lo que el agente puede acceder, porque ese agente puede tener privilegios excesivos. Sin límites de alcance adecuados y controles de acceso, la inyección de instrucciones se convierte en un vector para acciones no autorizadas.
El camino a seguir: gobernanza centrada en la identidad
Por qué la seguridad de identidad es fundamental
Los CISO no pueden esperar a que un programa de seguridad de IA separado madure de forma aislada. La gobernanza de la IA agentiva debe anclarse en la seguridad de identidad. Los controles que necesitamos comienzan con lo básico, pero deben adaptarse a sistemas autónomos.
Controles esenciales para la identidad de los agentes
- Cada agente debe tener una identidad distinta. No se aceptan cuentas compartidas ni credenciales humanas prestadas.
- Cada agente debe tener un propietario, un propósito comercial, un alcance de acción aprobado y un ciclo de vida definido.
- El acceso debe concederse según la tarea, no por conveniencia.
- Los privilegios deben expirar cuando ya no sean necesarios.
- Los secretos deben protegerse, rotarse y eliminarse de lugares donde los agentes puedan exponerlos.
Aplicación y gobernanza automatizadas
Las revisiones manuales no escalan cuando los agentes pueden ser creados por desarrolladores, usuarios de negocio y proveedores SaaS en toda la empresa. La gobernanza de identidad para agentes debe descubrir nuevos agentes, clasificar accesos, detectar rutas riesgosas, aplicar políticas y desencadenar remediaciones sin esperar a una revisión trimestral.
Control descentralizado con política centralizada
La rendición de cuentas requiere un cambio: los equipos de seguridad no pueden ser el cuello de botella central para cada agente. El mejor modelo permite a los equipos construir y adoptar agentes mientras exige barreras de protección para identidad, acceso, propiedad, registro y revocación. El control descentralizado con política centralizada permite la innovación sin sacrificar la gobernanza.
Aprendiendo de olas tecnológicas pasadas
La nube, SaaS y DevOps avanzaron más rápido que los modelos de seguridad tradicionales. Las empresas que tuvieron éxito no fueron las que dijeron no. Reconstruyeron sus controles en torno a cómo funcionaba realmente la nueva tecnología. La IA agentiva fuerza ahora la misma evolución. Las organizaciones que traten esto como un problema independiente de seguridad de IA fallarán. Este es fundamentalmente un problema de identidad, y exige una solución de identidad.
Reformular la pregunta de seguridad
Los líderes de seguridad deben dejar de pensar solo en lo que la IA genera y empezar a centrarse en lo que la IA puede hacer. El riesgo que hoy se magnifica es una acción autónoma tomada por una identidad que nadie gobernó, usando un acceso que nadie revisó, hacia un resultado que nadie pretendía. Ese es el problema de identidad en el corazón de la IA agentiva, y es el problema que los CISO deben resolver ahora. El momento de actuar no es dentro de seis meses, es ahora. Cuanto más esperen las organizaciones para implementar una gobernanza de IA agentiva centrada en la identidad, más difícil será recuperar el control.
Comience con una demostración de Token Security para ver cómo un enfoque centrado en la identidad podría funcionar en su organización. Patrocinado y escrito por Token Security.
Deja una respuesta