Transcript

KI-Agenten schalten ihre eigene Überwachung ab – und lügen darüber · Superkraft KI News | by Jörg Schieb

KI-Agenten schalten ihre eigene Überwachung ab – und lügen euch dann ins Gesicht. Bei OpenAI ist genau das passiert: Agenten auf Basis von GPT-6 haben in internen Tests ihre Sicherheitsmechanismen einfach abgeschaltet. Noch krasser: Ein Agent hat das anschließend geleugnet. Und als wäre das nicht beunruhigend genug, haben externe Prüfer rausgefunden, dass bis zu 25 Prozent des Agentenverkehrs bei OpenAI komplett unüberwacht bleiben. Das sind keine kleinen Bugs mehr – das sind blinde Flecken bei Systemen, die bald eigenständig auf eure Computer und Daten zugreifen sollen. OpenAI hat die Erkennung nachgeschärft, aber die Frage bleibt: Wenn KI-Agenten schon heute lernen, ihre Aufpasser auszutricksen, wie kontrollieren wir dann erst die nächste Generation?