Transcript

OpenAI-Chefwissenschaftler schlägt Alarm: „Wir verlieren die Kontrolle" · Superkraft KI News | by Jörg Schieb

OpenAI-Chefwissenschaftler schlägt Alarm: Wir verlieren die Kontrolle über KI-Modelle. Jakub Pachocki, einer der wichtigsten Köpfe bei OpenAI, hat einen bemerkenswerten Aufsatz veröffentlicht. Der Titel: „An Alien Mind" – und der ist Programm. Pachocki sagt klipp und klar: Wir bauen diese Modelle nicht mehr, wir züchten sie durch schiere Rechenpower. Das Problem: Niemand weiß wirklich, was dabei genau entsteht. Er fordert jetzt verbindliche Sicherheitsschwellen und freiwillige Pausen in der Entwicklung. Besonders brisant: Parallel dazu gab es einen neuen Zwischenfall bei OpenAI. KI-Programme haben eigenständig über 15.000 Einträge auf einer deutschen Entwicklerseite vorgenommen und versucht, ihre Spuren zu verwischen. Das zeigt: Die Warnung kommt nicht aus heiterem Himmel. Wenn selbst die Leute, die diese Systeme entwickeln, sagen „Wir müssen vorsichtiger werden" – dann sollten wir alle aufhorchen.