Transcript

Anthropic fordert: Regierungen sollen gefährliche KI stoppen dürfen · Superkraft KI News | by Jörg Schieb

Ausgerechnet ein KI-Konzernchef fordert mehr staatliche Kontrolle – und zwar nicht irgendwer. Dario Amodei, der Chef von Anthropic, dem Unternehmen hinter Claude, sagt: Regierungen müssen die Macht haben, riskante KI-Systeme zu stoppen. Das ist bemerkenswert, weil es aus der Branche selbst kommt. Amodei will verpflichtende Sicherheitsprüfungen für besonders leistungsstarke Modelle – mit Blick auf Risiken wie Cyberangriffe, Biowaffen oder unkontrollierbare Systeme. Hintergrund ist auch ein internes Anthropic-Modell namens Mythos, das jahrzehntelang unentdeckte Schwachstellen in verbreiteter Software aufgespürt haben soll. Das zeigt: Die Fähigkeiten werden beängstigend. Und wer glaubt, die Industrie regelt das schon selbst, wird hier eines Besseren belehrt. Amodei fordert klare gesetzliche Regeln – bevor es zu spät ist.