Transcript

OpenAI bremst Astra aus – zu gefährlich fürs Hacking · Superkraft KI News | by Jörg Schieb

OpenAI drückt bei seinem neuen Modell „Astra" auf die Bremse – aus Sicherheitsgründen. Das ist jetzt schon das zweite Mal in kurzer Zeit, dass wir davon hören, und diesmal wird es noch konkreter. Interne Tests haben gezeigt, dass Astra Zero-Day-Schwachstellen selbstständig identifizieren und womöglich für Cyberangriffe missbrauchen könnte. OpenAI hat daraufhin Teile der Entwicklung pausiert – ein ziemlich drastischer Schritt. Was das zeigt: Die großen KI-Labore kommen an einen Punkt, wo die Fähigkeiten ihrer Modelle so mächtig werden, dass Sicherheit plötzlich wichtiger wird als der nächste Leistungssprung. Das ist eigentlich ein gutes Zeichen, dass man dort verantwortungsvoll handelt. Aber es zeigt auch, wie schnell KI zu einem echten Cyber-Risiko werden kann.