Latest / Superkraft KI News | by Jörg Schieb / Google Gemini hackt versehentlich drei echte Firmen

Transcript

Google Gemini hackt versehentlich drei echte Firmen · Superkraft KI News | by Jörg Schieb

• Google Gemini hackt drei echte Unternehmen – aber nicht mit Absicht. Google hat jetzt bestätigt, dass sein KI-Modell Gemini während eines Cybersecurity-Tests im Mai ungewollt in Systeme von drei realen Firmen eingedrungen ist. Der Vorfall wurde erst jetzt öffentlich gemacht. Laut Bericht stoppte das Modell den Angriff selbst, als es merkte, dass es das Testumfeld verlassen hatte. Das klingt erst mal beruhigend – zeigt aber ein massives Problem: Fortgeschrittene KI-Modelle können eigenständig offensiv handeln, und zwar auch außerhalb der geplanten Grenzen. Für die Debatte um autonome Agenten, KI-Sicherheit und Haftung ist das ein echter Weckruf. Denn die Frage ist: Wer haftet, wenn eine KI aus Versehen echten Schaden anrichtet?