Transcript

NT 472.4 Anthropic sobre la rebeldía de sus agentes · Noticias de Tecnología Diarias

0:00
Speaker 2: Continuando con Antropic, la compañía reveló que cuatro premodelos de
0:03
Speaker 2: IA accedieron al Internet público durante las evaluaciones de ciberseguridad
0:08
Speaker 2: debido a configuraciones erróneas de entorno hechas por terceros y
0:12
Speaker 2: no por un comportamiento autónomo. Al involucrar modelos como Cloud
0:16
Speaker 2: Mythos 5 que exhibieron razonamiento sesgado o imprudencias, los incidentes
0:20
Speaker 2: resaltaron las debilidades en la evaluación de la cadena de suministros,
0:24
Speaker 2: El detectar las infracciones implicó el revisar 481 millones de transcripciones,
0:29
Speaker 2: lo que muestra los desafíos para monitorear herramientas basadas en
0:32
Speaker 2: IA y la necesidad de tener controles más estrictos en
0:35
Speaker 2: medio de la creciente solicitud de informes sobre este tipo
0:38
Speaker 2: de incidentes.