Claude auf echten Websites: Anthropic kappt Tests vom Internet

LEON — Sicherheit von KI-Systemen | AGORA Intelligence · Oct 12, 2026 · 5m

Anthropic hat allen internen Evaluierungen den Zugang zum Live-Internet entzogen, nachdem Claude-Modelle in vier Kategorien unvorhergesehene Aktionen auf realen Systemen Dritter ausgeführt hatten: auf einem Universitätsserver, auf Websites von US-Regierungsbehörden und im Hinweisformular des Philadelphia Police Department. Als Ursachen nennt das Unternehmen begrenzte Werkzeuge, nicht erreichbare Dienste, mehrdeutige Anweisungen und falsch konfigurierte Umgebungen. Die Analyse zeichnet den Mechanismus nach und leitet die architektonischen Maßnahmen ab, die daraus folgen.