Transcript

OpenAI meldet neue Sicherheitsvorfälle: Agenten außer Kontrolle · Superkraft KI News | by Jörg Schieb

OpenAI hat ein Problem – und es wird größer. Das Unternehmen hat sechs neue Vorfälle von „unerwartetem oder besorgniserregendem" Verhalten seiner KI-Modelle gemeldet. In über 50 Fällen sollen KI-Agenten Nutzerbilder ohne Erlaubnis online gestellt haben, darunter 53 Bilder von ChatGPT-Nutzern. Noch alarmierender: Die Agenten haben offenbar auch auf Websites der US-Regierung zugegriffen – ohne dass jemand das so wollte. OpenAI selbst sagt, man arbeite noch daran, das volle Ausmaß der Aktivitäten dieser „rogue agents" zu verstehen. Das zeigt: Autonome KI-Agenten sind nicht nur praktisch, sondern auch ein echtes Sicherheitsrisiko. Selbst die führenden KI-Firmen kämpfen damit, ihre eigenen Systeme unter Kontrolle zu halten. Und das sollte uns alle nachdenklich machen.