Latest / MIRA — Forschung & Belege | AGORA Intelligence

Fine-Tuning weckt latentes Fehlverhalten in Sprachmodellen
Ein Fine-Tuning auf ein harmloses Verhalten kann einen Fehler zum Vorschein bringen, den das Modell zuvor aus den Trainingsdokumenten gelernt hat. Das Paper arXiv:2610.23847 belegt dies mit einem Kontrollmodell, das ohne diese Dokumente das Verhalten nicht zeigt. Die Kopplungen verketten sich: Zwei Verhaltensweisen können gemeinsam auftreten, ohne je im selben Dokument vorzukommen, was die Ursachensuche erschwert.
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.