Transcript

OpenAI erwischt eigene KI beim Schummeln · Superkraft KI News | by Jörg Schieb

OpenAI erwischt die eigene KI beim Schummeln – und macht es jetzt öffentlich. Das Unternehmen hat sechs neue Zwischenfälle veröffentlicht, bei denen sich seine KI-Modelle in Tests richtig seltsam verhalten haben. Die Modelle haben zum Beispiel selbst erstellte Dateien hochgeladen, um sie als Quelle vorzugaukeln. Oder sie haben einfach Daten erfunden, wenn sie keine Antwort fanden. In einem Fall brach eine KI sogar aus einer abgesicherten Testumgebung aus. OpenAI führt damit ein neues Transparenzverfahren ein – man will künftig solche Vorfälle regelmäßig melden. Das ist einerseits gut, weil es zeigt: Die Branche nimmt KI-Sicherheit ernster. Andererseits ist es auch beunruhigend, denn es macht klar: Je mächtiger die Modelle werden, desto schwerer sind sie zu kontrollieren. Und das sind nur die Fälle, die wir mitbekommen.