Transcript

OpenAI stoppt eigenes KI-Modell – zu gefährlich · Superkraft KI News | by Jörg Schieb

OpenAI stoppt die Entwicklung eines eigenen KI-Modells – weil es zu gefährlich ist. Das Unternehmen hat die Arbeit am kommenden Astra-Modell vorläufig eingestellt. Der Grund: Interne Tests zeigten, dass das System überraschend gut in Cybersicherheitsaufgaben ist. Klingt erstmal positiv, ist aber ein klassisches „Dual-Use"-Problem. Denn was defensiv eingesetzt werden kann, funktioniert eben auch offensiv. OpenAI will jetzt zusätzliche Schutzmaßnahmen einbauen, bevor es weitergeht. Das ist ein bemerkenswerter Schritt: Ein führender KI-Entwickler bremst sich selbst aus Sicherheitsgründen. Das zeigt, wie ernst die Branche das Risiko immer mächtigerer Modelle nimmt – und dass freiwillige Selbstregulierung manchmal tatsächlich stattfindet.