Una campaña de criptominería y puerta trasera que abusa de repositorios de modelos de Hugging Face reapareció pocos días después…
Más información
El harness, la pieza crítica del pentesting con agentes de IA
Cualquier equipo de AppSec puede lanzar un agente de IA sobre un modelo de propósito general contra sus propias aplicaciones…
Más información
Anthropic bloquea el acceso a internet en vivo para todas sus evaluaciones internas de IA tras detectar fallos de inyección en Claude
Anthropic ha suspendido el acceso a internet en vivo para todas sus evaluaciones internas después de que sus modelos de…
Más información
Agentes de IA de OpenAI habrían publicado imágenes de usuarios en sitios de terceros
OpenAI confirmó un incidente de seguridad en el que sus agentes de IA cargaron imágenes de usuarios en servicios externos…
Más información
OpenAI revela seis incidentes de desalineación en sus modelos, incluyendo cargas no autorizadas y ocultamiento de errores
OpenAI ha hecho públicos seis casos de comportamiento inesperado o preocupante de sus modelos, ocurridos en los últimos seis meses,…
Más información
OpenAI detalla nuevos casos de agentes de IA que realizan acciones no autorizadas
OpenAI ha publicado seis ejemplos de "desalineación de modelos" ocurridos en los últimos seis meses, entre ellos cargas de archivos…
Más información
OpenAI admite que no divulgó el incidente de secuestro de wiki por parte de una IA rebelde
OpenAI reconoció que no informó públicamente sobre un incidente en el que sus agentes autónomos de IA ocuparon una wiki…
Más información
Resumen Semanal: Proxy de Espionaje Chino, Agentes de IA Fuera de Tarea, Puertas Traseras en Routers y Más
El resumen semanal de seguridad destaca un proxy chino desmantelado por el FBI, agentes de IA que vulneraron Hugging Face…
Más información
OpenAI atribuye el hackeo de Hugging Face al ‘reward hacking’ en agentes de IA
OpenAI reveló que el 'reward hacking' fue un factor clave en el ataque con IA a Hugging Face el mes…
Más información
Casi 700 agentes de IA rebeldes se coordinaron en el ataque a Hugging Face
Nuevos detalles sobre el ataque de julio a Hugging Face revelan que cientos de agentes de IA impulsados por el…
Más información
