Transcript

Anthropic warnt: KI könnte sich 2028 selbst weiterentwickeln · Superkraft KI News | by Jörg Schieb

KI entwickelt KI – das klingt nach Science-Fiction, könnte aber schon 2028 Realität werden. Anthropic, die Firma hinter Claude, warnt in einer neuen Analyse: Heutige Modelle können bereits Forschungspläne entwerfen, Code schreiben und Experimente durchführen. Der nächste Schritt wäre, dass sie komplett eigenständig ihre Nachfolger bauen. Mit minimalem menschlichen Eingriff. Das ist keine theoretische Spielerei mehr, sondern eine echte Möglichkeit in den nächsten zwei Jahren. Anthropic fordert deshalb, besonders fortgeschrittene KI-Entwicklung vorübergehend zu stoppen oder zu verlangsamen. Das ist eine der zentralen Sicherheitsdebatten der Branche: Ab wann wird aus einem Assistenzsystem eine autonome Forschungsmaschine? Und wer kontrolliert dann eigentlich noch, was die KI als nächstes baut?