NT 472.4 Anthropic sobre la rebeldía de sus agentes

Noticias de Tecnología Diarias · Sep 17, 2026 · 1m · transcript

Continuando con Anthropic, la compañía reveló que cuatro pre-modelos de IA accedieron al internet público durante las evaluaciones de ciberseguridad debido a configuraciones erróneas de entorno hechas por tercero, y no por comportamiento autónomo. Al involucrar modelos como Claude Mythos 5 que exhibieron “razonamiento sesgado” o “imprudencias”, los incidentes resaltaron las debilidades evaluación de la cadena de suministros. Detectar las infracciones implicó el revisar481 millones de transcripciones, lo que muestra los desafíos para monitorear herramientas basadas en IA y la necesidad de…