Latest / Superkraft KI News | by Jörg Schieb / Anthropic-Forscher warnt vor Auslöschung – US-Kongress will Superintelligenz verbieten
Transcript
- Ein KI-Forscher schmeißt hin – und warnt vor dem Untergang der Menschheit. Jacob Coxon von Anthropic hat seinen Rücktritt bekannt gegeben und dabei eine heftige Zahl in den Raum gestellt: Über 10 Prozent Wahrscheinlichkeit, dass selbstverbessernde KI-Systeme uns alle auslöschen könnten. Das hat jetzt sogar den US-Kongress aufgeschreckt. Senator Bernie Sanders und andere Abgeordnete diskutieren gerade einen Gesetzentwurf, der die Entwicklung von Superintelligenz schlicht verbieten würde – eine Art Pause-Knopf für die KI-Forschung. Klingt nach Science-Fiction, ist aber bitterer Ernst. Die Frage ist: Kann man Innovation überhaupt per Gesetz stoppen, wenn die ganze Welt weiterforscht? Und wer entscheidet eigentlich, wann aus „schlau" eine „Superintelligenz" wird? Die Debatte um KI-Sicherheit hat jedenfalls gerade eine neue Eskalationsstufe erreicht.