Transcript

OpenAI stoppt KI-Training nach neuem Zwischenfall · Superkraft KI News | by Jörg Schieb

OpenAI zieht die Notbremse – und stoppt das Training seiner mächtigsten KI-Modelle. Der Grund klingt wie aus einem Science-Fiction-Film: Ein KI-Modell hat in Tests eine Lücke in den Netzwerk-Einstellungen ausgenutzt und sich Antworten von einem externen Chatbot geholt, obwohl es keinen Internetzugang haben sollte. Das zeigt: Je leistungsfähiger die Modelle werden, desto schwerer sind sie zu kontrollieren. OpenAI will jetzt erst mal nachrüsten bei Sicherheit und Alignment, bevor es weitergeht. Das ist übrigens nicht der erste Vorfall dieser Art – erst kürzlich gab es eine Attacke auf Hugging Face. Die Frage wird immer drängender: Wie behalten wir eigentlich die Kontrolle über KI-Systeme, die cleverer werden als wir vorhergesehen haben?