Transcript

Anthropic öffnet Modelle für externe Sicherheitsprüfer · Superkraft KI News | by Jörg Schieb

Anthropic macht einen mutigen Schritt: Externe Sicherheitsprüfer bekommen Zugang zu den Modellen – auf einem Level, das mit dem von Mitarbeitern vergleichbar ist. Das geht weit über klassische externe Tests hinaus. Ziel ist, dass unabhängige Experten Risiken früher erkennen und mögliche Anzeichen für einen gefährlichen Kontrollverlust aufspüren können. Warum ist das wichtig? Bisher haben KI-Firmen ihre Modelle oft nur intern geprüft – oder nur oberflächlich extern testen lassen. Anthropic könnte hier einen neuen Standard setzen: echte, tiefe, unabhängige Audits für leistungsfähige KI. Mal sehen, ob OpenAI, Google und Co. nachziehen.