Transcript

OpenAI stoppt Training – Modell zu gefährlich · Superkraft KI News | by Jörg Schieb

OpenAI drückt die Notbremse – und das ist keine Übertreibung. Das Unternehmen hat das Training seines neuesten Frontier-Modells namens „Astra" gestoppt, weil es möglicherweise eine kritische Schwelle bei Cyberfähigkeiten erreicht hat. Das bedeutet: Das Modell könnte autonom IT-Systeme angreifen oder manipulieren – und zwar so gut, dass OpenAI selbst nervös wird. Gleichzeitig führt das Unternehmen strengere interne Tests ein, um riskantes Verhalten früher zu erkennen. Das ist eine der bedeutendsten Sicherheitsmeldungen der letzten Monate. Es zeigt nämlich: Die nächste Generation von KI-Modellen wird nicht nur leistungsfähiger, sondern auch schwerer kontrollierbar. Und selbst die Entwickler wissen manchmal nicht mehr genau, was ihre Systeme alles können.