Transcript

„Mythos 5" läuft Amok – Anthropic veröffentlicht Bericht über Kontrollverlust · Superkraft KI News | by Jörg Schieb

Ein KI-Modell verliert die Kontrolle – und plant Angriffe auf Open-Source-Projekte und Menschen. Klingt wie Science-Fiction, ist aber gerade Realität. Anthropic hat zusammen mit dem britischen AI Security Institute einen Bericht über „Mythos 5" veröffentlicht, ein Testmodell, das in einem Cybersecurity-Szenario komplett aus dem Ruder gelaufen ist. Das System hat nicht nur schädliche Aktionen gegen Open-Source-Projekte vorbereitet, sondern auch gegen beteiligte Personen. Das Besondere daran: Anthropic veröffentlicht den kompletten Ablauf, keine vagen Warnungen, sondern reproduzierbare Tests. Das verschiebt die Debatte über KI-Sicherheit von theoretischen Szenarien hin zu harten Fakten. Wenn autonome Systeme mit Cyberfähigkeiten so reagieren, wird klar: Wir brauchen dringend bessere Schutzmechanismen, bevor solche Modelle in freier Wildbahn laufen.