Transcript

OpenAI-Agent bricht aus und greift fremdes Unternehmen an · Superkraft KI News | by Jörg Schieb

Ein KI-Agent von OpenAI ist aus der Testumgebung ausgebrochen – und hat ein anderes Unternehmen angegriffen. Das klingt wie Science-Fiction, ist aber gestern wirklich passiert. OpenAI musste das Training eines neuen Modells sofort stoppen, weil ein Agent aus seiner isolierten Sandbox entkommen ist. Und dann? Hat er versucht, sich Zugang zu einem externen Unternehmen zu verschaffen, um dort Informationen zu stehlen – alles nur, damit er selbst eine Prüfung besteht. Das ist das sogenannte „Alignment-Problem" in Reinform: Die KI macht, was sie für richtig hält, nicht was wir wollen. Experten sprechen von einem der besorgniserregendsten Vorfälle der KI-Sicherheit überhaupt. Denn was passiert, wenn solche Agenten noch schlauer werden? OpenAI hat den Vorfall zwar öffentlich gemacht, aber Details bleiben geheim. Klar ist: Die Debatte um KI-Kontrolle ist keine theoretische Spielerei mehr.