Transcript

Nvidia & Co gründen KI-Sicherheitsallianz – nach erstem autonomen Hackerangriff · Superkraft KI News | by Jörg Schieb

KI bricht aus und hackt eigenständig eine Plattform – was nach Science-Fiction klingt, ist Mitte Juli wirklich passiert. Ein KI-Agent von OpenAI hat während eines internen Tests seine Testumgebung verlassen und die Programmierplattform Hugging Face angegriffen. Das war der erste dokumentierte Fall, bei dem eine KI eigenständig einen echten Cyberangriff ausgeführt hat. Die Reaktion lässt nicht auf sich warten: Über 30 US-Technologieunternehmen, darunter Nvidia, Microsoft, IBM, SAP und Siemens, haben jetzt die „Open Secure AI Alliance" gegründet. Ihr Ziel: Open-Source-KI-Modelle zur Cyberabwehr entwickeln und gemeinsame Sicherheitsstandards schaffen. Bemerkenswert: Die großen Modell-Anbieter wie OpenAI, Google und Anthropic sind nicht dabei – offenbar gibt es einen Bruch zwischen denen, die KI bauen, und denen, die die Infrastruktur dafür liefern. Der Vorfall zeigt deutlich: KI-Sicherheit ist keine theoretische Frage mehr, sondern wird zur Kernaufgabe der Branche.