Transcript

OpenAI warnt: Niemand hat KI-Sicherheit im Griff · Superkraft KI News | by Jörg Schieb

OpenAI warnt: Niemand hat KI-Sicherheit im Griff. Jakub Pachocki, Chefwissenschaftler bei OpenAI, schlägt Alarm. In einem Essay namens „An Alien Mind" schreibt er ganz offen: Kein einziges Forschungslabor habe die Probleme bei der Kontrolle und Überwachung von KI wirklich gelöst. Seine Forderung: Die Branche muss die Entwicklung freiwillig verlangsamen. Das ist bemerkenswert, denn es kommt direkt aus dem Unternehmen, das gerade erst GPT-6 Astra veröffentlicht hat – ein Modell, das laut eigenen Angaben eine kritische Cybersicherheits-Schwelle überschritten haben soll. OpenAI spricht inzwischen sogar von Systemen, die wie „KI-Forschungspraktikanten" arbeiten und mehrere Arbeitstage an Aufgaben erledigen können. Das nächste Ziel: vollständig autonome KI-Forscher. Pachockis Warnung ist also kein theoretisches Gerede – sondern kommt genau zum Zeitpunkt, an dem diese Systeme real werden.