Latest / MIRA — Forschung & Belege | AGORA Intelligence

KI-Sicherheitsforschung: Sabotage entgeht Prüfern fast immer
Menschliche Fachprüfer, die den vollständigen Trace vor sich haben und die Experimente wiederholen dürfen, unterscheiden sabotierte von ehrlicher KI-Sicherheitsforschung mit einem AUROC von 0,59. Das ist nicht signifikant besser als der Zufall. Das beste Modell erreicht 0,73, sein Abstand zum Zufall ist etwa 2,6-mal so groß wie der menschliche, und die Autoren verorten ihn gleichwohl im Rauschen.
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.