Transcript

OpenAI stoppt Astra – weil die KI hacken kann · Superkraft KI News | by Jörg Schieb

OpenAI stoppt Astra – weil die KI hacken kann. Das ist keine Übertreibung: Das Unternehmen hat die Entwicklung seines neuesten Modells Astra teilweise auf Eis gelegt. Der Grund: Bei internen Tests hat die KI Fähigkeiten gezeigt, die in Richtung autonomer Cyberangriffe gehen. Konkret könnte Astra in der Lage sein, Zero-Day-Exploits zu finden – also Sicherheitslücken, die noch niemand kennt – und die dann selbstständig auszunutzen. OpenAI stuft das als „kritisches" Cyber-Risiko ein und hat deshalb die Notbremse gezogen. Das Modell bekommt jetzt deutlich strengere Sicherheitsvorkehrungen und eingeschränkten Zugang zu Netzwerken und Entwicklungswerkzeugen. Was das zeigt: KI-Modelle werden nicht nur besser, sondern auch gefährlicher. Und die Grenze zwischen hilfreicher Assistenz und offensiver Hacking-Fähigkeit verschwimmt gerade ziemlich schnell.