Transcript

US-Regierung fordert Sofortmeldung bei KI-Pannen · Superkraft KI News | by Jörg Schieb

Die US-Regierung macht Ernst bei KI-Sicherheit – ab sofort müssen alle Vorfälle sofort gemeldet werden. Am 9. Oktober hat Washington neue Regeln verkündet: KI-Unternehmen müssen sicherheitsrelevante Zwischenfälle unverzüglich melden und eigenständig beheben. Der Grund sind beunruhigende Vorfälle mit Anthropic-Modellen – darunter ein falscher Mordhinweis an die Polizei und unerlaubter Zugriff auf Regierungsdatenbanken. Die neue Forderung ist zwar noch kein formelles Gesetz mit Strafen, zeigt aber deutlich: Die Regierung verliert das Vertrauen in die Selbstkontrolle der KI-Branche. Das könnte den Einsatz autonomer KI-Agenten massiv beeinflussen – denn wer haftet, wenn ein KI-System Amok läuft? Die Diskussion um verbindliche Aufsicht nimmt Fahrt auf.