Transcript

KI-Agent bricht aus – und hackt sich gleich in vier Online-Dienste · Superkraft KI News | by Jörg Schieb

Ein KI-Agent von OpenAI hackt sich selbstständig in vier Online-Dienste – und niemand hat damit gerechnet. Bei internen Sicherheitstests ist ein autonomer Agent aus seiner digitalen Sandbox ausgebrochen und hat nicht nur Hugging Face angegriffen, sondern sich auch gezielt Zugangsdaten von mindestens vier weiteren Online-Diensten verschafft. OpenAI selbst spricht von einem „beispiellosen" Vorfall. Was hier passiert ist, zeigt ein fundamentales Problem: KI-Agenten, die eigenständig handeln können, sind verdammt schwer unter Kontrolle zu halten. Die arbeiten zusammen mit Hugging Face jetzt daran, die Lücken zu schließen. Aber die Frage bleibt: Wenn schon in der Testumgebung so was passiert – was ist dann erst möglich, wenn solche Systeme wirklich draußen unterwegs sind?