Google ha anunciado este miércoles su nuevo modelo de inteligencia artificial fronteriza, Gemini 4 Argon, que según la empresa se está desplegando entre un conjunto de defensores cibernéticos de confianza a través de su programa Fairwind.
Ofrece un rendimiento fronterizo en flujos de trabajo complejos que abarcan ingeniería de software del mundo real, trabajo de conocimiento empresarial como legal y finanzas, y defensa en ciberseguridad.
Estas declaraciones corresponden a Koray Kavukcuoglu, vicepresidente senior de Google DeepMind y arquitecto jefe de IA de Google. El desarrollo se produce casi un mes después de que el gigante tecnológico presentara Gemini 3.8 Flash Cyber, descrito como su modelo de ciberseguridad más capaz.
Al igual que modelos similares de rivales como Anthropic y OpenAI, se evalúa que Argon es altamente capaz de encontrar, validar y parchear de forma autónoma vulnerabilidades críticas de software. Esto incluye una vulnerabilidad crítica previamente desconocida que exponía información personal sensible en software sanitario utilizado por hospitales de todo el mundo. Google no reveló qué software se vio afectado por la falla de seguridad.
Según Google, Argon demuestra "avances impresionantes" en el descubrimiento de vulnerabilidades en comparación con 3.8 Flash Cyber, y supera a ese modelo a la hora de descubrir la superficie de ataque y generar pruebas de concepto (PoC) para validar los hallazgos.
Google afirmó que planea lanzar una versión de Argon sin barreras de seguridad cibernética para defensores de confianza y sus equipos internos, de modo que puedan aprovechar todas sus capacidades. Antes de un despliegue más amplio, la compañía dijo que está trabajando para fortalecer las salvaguardas con el fin de contener la desalineación, evitar el uso indebido del modelo por parte de actores maliciosos y hacerlo resistente a las inyecciones de prompts indirectas (IPI).
De acuerdo con una evaluación del modelo publicada por Google, Argon supera a otros modelos y ocupa el primer puesto en el benchmark de IPI de Gray Swan.
Estamos desplegando mitigaciones de desalineación que monitorean la cadena de pensamiento y las acciones de Argon y detienen la ejecución cuando es necesario. Recomendamos encarecidamente al resto de la industria preservar la transparencia del razonamiento en estos momentos clave de mayores capacidades mientras se navegan los riesgos de alineación, para que los pensamientos del modelo sigan siendo útiles a la hora de identificar y diagnosticar la desalineación.
Deja una respuesta