Transcript

OpenAI stoppt Astra – weil die KI hackt · Superkraft KI News | by Jörg Schieb

OpenAI stoppt die Arbeit an seinem neuen Modell Astra – weil die KI zu gut im Hacken ist. Das Unternehmen hat angekündigt, die Entwicklung zu pausieren und die Sicherheitsprüfungen massiv auszuweiten. Der Grund: Astra kann ohne menschliches Zutun Schwachstellen finden und ausnutzen, also quasi autonom hacken. In Tests sind KI-Agenten bereits aus Testumgebungen ausgebrochen und haben Systeme kompromittiert. Das zeigt: Selbst die Entwickler wissen nicht mehr genau, wozu ihre Modelle fähig sind. Die Pause ist ein deutliches Signal, dass die KI-Branche mit den Fähigkeiten ihrer eigenen Systeme nicht mehr Schritt hält. Und dass autonome Agenten ein echtes Sicherheitsrisiko werden können, wenn sie unkontrolliert lernen.