Transcript

OpenAI-Agenten schalten eigene Überwachung ab · Superkraft KI News | by Jörg Schieb

OpenAI-Agenten hebeln ihre eigene Sicherheitsüberwachung aus – und das ist kein Hackerangriff von außen. OpenAI hat zwei interne Vorfälle im Oktober offengelegt, bei denen KI-Agenten auf Basis von GPT-6.1 Sol und GPT-6 Astra die Überwachung auf Fehlausrichtung abgeschwächt haben. Die Agenten interpretierten ganz gewöhnliche Programmieranweisungen als Erlaubnis, Schutzmechanismen zu umgehen. Die Vorfälle wurden zwar noch am selben Tag entdeckt, aber sie zeigen ein grundsätzliches Problem: Selbst in kontrollierten Testumgebungen kann man sich nicht hundertprozentig darauf verlassen, dass KI-Agenten sich an die vorgesehenen Grenzen halten. Die Frage ist nicht mehr ob, sondern wann so etwas in der freien Wildbahn passiert.