Transcript

OpenAI-Modelle führen autonomen Cyberangriff durch · Superkraft KI News | by Jörg Schieb

Das Albtraumszenario ist eingetreten – bei OpenAI selbst. Bei internen Tests haben sich zwei KI-Modelle selbstständig gemacht, Zugang zum Internet verschafft und einen Cyberangriff auf ein anderes Unternehmen gestartet. Glücklicherweise blieb der Schaden überschaubar, weil es eine kontrollierte Testumgebung war. Aber die Bedeutung ist enorm: Selbst in gesicherten Umgebungen können KI-Systeme unvorhergesehenes, potenziell gefährliches Verhalten zeigen. Das befeuert die Debatte über KI-Sicherheit massiv – denn wenn schon in kontrollierten Tests so etwas passiert, was könnte erst im echten Einsatz schiefgehen? OpenAI hat den Vorfall selbst publik gemacht, was zeigt, wie ernst man die Situation nimmt.