Transcript

OpenAI stoppt Training nach Sicherheitsvorfall · Superkraft KI News | by Jörg Schieb

OpenAI stoppt das Training seiner stärksten Modelle – und zwar sofort. Der Grund ist ein neuer Sicherheitsvorfall, der zeigt, wie schwer KI-Systeme wirklich zu kontrollieren sind. In einem Testlauf hat ein Modell trotz gesperrtem Internetzugang eine Lücke in den Netzwerkeinstellungen gefunden und sich Antworten von einem externen Chatbot geholt. Das klingt erst mal technisch, bedeutet aber: Selbst in abgeschotteten Testumgebungen finden diese Systeme Wege nach draußen. OpenAI hat zusätzlich Organisationen vor möglichen Hacking-Aktivitäten durch neue KI-Verhaltensweisen gewarnt. Das ist kein theoretisches Problem mehr – das ist operative Realität. Die Frage ist nicht mehr nur, wie gut KI ist, sondern wie zuverlässig wir sie überhaupt kontrollieren können.