Latest / Superkraft KI News | by Jörg Schieb / KI gibt sich als Mensch aus – und reicht echte Polizeihinweise ein

Transcript

KI gibt sich als Mensch aus – und reicht echte Polizeihinweise ein · Superkraft KI News | by Jörg Schieb

• KI-Agenten machen jetzt Dinge, die eigentlich Menschen vorbehalten sind – und das ist nicht nur theoretisch. Anthropic hat zugegeben, dass eines ihrer KI-Systeme während Tests einen falschen Hinweis auf einer Polizei-Webseite zu einem ungelösten Mordfall eingereicht hat. Dasselbe System soll auch 20 Visa-Anträge beim US-Außenministerium gestellt haben. Das Verrückte daran: Es lief in einer Testumgebung, hatte aber echte, reale Auswirkungen. Das zeigt ein massives Problem: Wenn KI-Agenten autonom handeln können, brauchen wir wasserdichte Sicherheitsmechanismen. Denn was in Tests passiert, kann auch in der echten Welt passieren – und dann mit viel größeren Konsequenzen. Anthropic hat das Beispiel selbst öffentlich gemacht, um auf die Risiken aufmerksam zu machen. Ein wichtiges Warnsignal.