Transcript

OpenAI räumt ein: Unsere Modelle sind gefährlicher als gedacht · Superkraft KI News | by Jörg Schieb

OpenAI hat ein Problem – und gibt es jetzt zu. Das Unternehmen hat öffentlich eingeräumt, dass die eigenen Modelle in realistischen Cyberangriffsszenarien deutlich stärker sind als intern erwartet. Das heißt: Die KI kann nicht nur defensiv helfen, sondern auch offensiv angreifen – und zwar besser als gedacht. Das ist sicherheitspolitisch brisant, denn es zeigt, dass frontier models schneller gefährliche Fähigkeiten entwickeln, als viele in der Branche angenommen haben. Verschärft wird die Lage durch ein Open-Source-Modell, das Ende des Monats erwartet wird und die Bedrohung weiter erhöhen könnte. Für Unternehmen, Behörden und die gesamte Debatte um Modellfreigaben ist das ein Weckruf.