Transcript

OpenAI stuft eigenes Modell als zu gefährlich ein · Superkraft KI News | by Jörg Schieb

OpenAI stuft sein eigenes neues Modell als zu gefährlich ein – und verzögert deshalb den Release. Das Modell mit dem Namen „Astra" ist das erste überhaupt, das OpenAI intern als „Critical" klassifiziert hat. Der Grund: Astra kann eigenständig Sicherheitslücken in Software aufspüren und Exploits entwickeln – also Angriffscode schreiben, der diese Lücken ausnutzt. Das ist ein Riesenproblem, denn solche Fähigkeiten könnten in den falschen Händen katastrophal sein. OpenAI muss jetzt nach eigenen Regeln zusätzliche Sicherheitsvorkehrungen einbauen, bevor Astra überhaupt veröffentlicht werden darf. Was das Ganze so brisant macht: Es zeigt, dass KI-Modelle mittlerweile ein Level erreichen, bei dem selbst die Entwickler sagen – Moment, das ist uns zu heiß. Die Grenze zwischen nützlichem Tool und unkontrollierbarem Risiko verschwimmt immer mehr.