Latest / KI Espresso / Claude für die Cyberabwehr: Wer schließt die Sicherheitslücke zuerst?

Transcript

Claude für die Cyberabwehr: Wer schließt die Sicherheitslücke zuerst? · KI Espresso

• 0:00
  SPEAKER_00: Inthropic öffnet seine besonders leistungsfähige Cyber-KI für weitere geprüfte Nutzer.
• 0:05
  SPEAKER_00: Seit dem 6.
• 0:06
  SPEAKER_00: Oktober gibt es dafür ein gemeinsames Programm mit drei Zugangsstufen.
• 0:09
  SPEAKER_00: Damit sollen auch kleinere Organisationen Sicherheitslücken in ihren Systemen finden können.
• 0:14
  SPEAKER_00: Das betrifft uns als Patienten oder Kunden, deren Daten dort liegen.
• 0:19
  SPEAKER_00: Aber wer gewinnt durch diesen Zugang Zeit?
• 0:21
  SPEAKER_00: Die Verteidiger oder auch die Angreifer?
• 0:23
  SPEAKER_00: Und was muss passieren, damit aus einer gefundenen Lücke tatsächlich mehr Schutz wird?
• 0:27
  SPEAKER_02: Könnte sich also auch die IT eines kleinen Krankenhauses bewerben oder bleibt das praktisch ein Angebot für große Sicherheitsfirmen?
• 0:34
  SPEAKER_00: Amthropic nennt regionale Krankenhäuser ausdrücklich als mögliche Teilnehmer.
• 0:38
  SPEAKER_00: In der Stufe Defense geht es um eigene oder betreute Systeme.
• 0:41
  SPEAKER_00: Auch einzelne Sicherheitsforscher mit nachweisbarer Erfahrung können sich bewerben.
• 0:45
  SPEAKER_00: Eine Zusage ist das noch nicht.
• 0:47
  SPEAKER_00: Red Team erlaubt Organisationen zusätzlich Sicherheitstests mit Zustimmung des jeweiligen Betreibers.
• 0:53
  SPEAKER_00: Für besonders sensible Systeme gibt es Specialized.
• 0:56
  SPEAKER_00: Dort kommt eine Prüfung durch die US-Regierung hinzu.
• 0:58
  SPEAKER_02: Was bekommen diese Leute, das mit dem normalen Claude bisher nicht ging?
• 1:02
  SPEAKER_00: Schon das reguläre Claude kann Quellcode prüfen, bekannte Fehler beheben helfen und Sicherheitsmeldungen sortieren.
• 1:09
  SPEAKER_00: Die neuen Zugänge erlauben weitergehende Cyper-Aufgaben.
• 1:13
  SPEAKER_00: Anthropic verbindet dafür sein bisheriges Prüfprogramm mit Project Glasswing.
• 1:18
  SPEAKER_00: Ob solche Fähigkeiten den Verteidigern wirklich einen Vorsprung verschaffen, lässt sich an einem konkreten Fund genauer betrachten.
• 1:25
  SPEAKER_00: Die Sicherheitsfirma Horizon 3 berichtet über die frei verfügbare Dateiserver-Software HFS, gesprochen HFS.
• 1:32
  SPEAKER_00: Mit ihr lassen sich Dateien über das Netz bereitstellen.
• 1:34
  SPEAKER_00: Horizon 3 setzte Anthropics-Modell Mythos in einem eigenen System aus mehreren KI-Agenten auf den Programmcode an.
• 1:41
  SPEAKER_00: Ein Agent fand eine Schwäche bei der Erzeugung eines geheimen Schlüssels.
• 1:45
  SPEAKER_00: Der Schlüssel schützt die Anmeldesitzungen der Nutzer.
• 1:48
  SPEAKER_02: Was hätte jemand mit dieser Schwäche anfangen können?
• 1:51
  SPEAKER_00: Die erzeugten Werte waren für diesen Zweck zu vorhersehbar.
• 1:54
  SPEAKER_00: Laut Horizon 3 erkannte Mythos, wie sich die Anmeldung dadurch umgehen ließ.
• 1:58
  SPEAKER_00: Wer darüber Administratorrechte erlangte, konnte eine eingebaute Funktion nutzen, um Befehle auf dem Server auszuführen.
• 2:04
  SPEAKER_00: Aus dem Fehler bei der Schlüsselerzeugung wurde damit ein Weg zur Kontrolle über den Server.
• 2:09
  SPEAKER_01: Hat das Modell nur behauptet, dass dieser Weg funktioniert?
• 2:12
  SPEAKER_00: Horizon 3 beschreibt zwei weitere Schritte.
• 2:15
  SPEAKER_00: Ein zweiter Agent prüfte den Fund erneut am Code.
• 2:18
  SPEAKER_00: Danach erstellte Mythos eine funktionierende Demonstration, die einen Befehl ausführte.
• 2:23
  SPEAKER_00: Das ist ein Bericht des beteiligten Unternehmens.
• 2:25
  SPEAKER_00: Wir haben die Demonstration nicht nachgestellt und es gibt hier keinen kontrollierten Vergleich dazu, wie schnell Menschen die Melbe-Lücke gefunden hätten.
• 2:32
  SPEAKER_02: Ist wenigstens unabhängig von diesem KI-Bericht belegt, dass die Lücke behoben wurde?
• 2:37
  SPEAKER_00: Ja, der Eintrag im öffentlichen Schwachstellenregister und die Veröffentlichung des Entwicklers bestätigen die Lücke und das Update.
• 2:44
  SPEAKER_00: Die korrigierte Version 3.2.1 erschien bereits am 13.
• 2:48
  SPEAKER_00: Juli.
• 2:48
  SPEAKER_00: Horizon 3 veröffentlichte seine Geschichte erst Ende September.
• 2:52
  SPEAKER_00: Der Fall belegt einen konkreten Fund mit verfügbarem Fix.
• 2:55
  SPEAKER_00: Wie viele Betreiber das Update installiert haben, geht aus diesen Quellen nicht davor.
• 2:59
  SPEAKER_02: Das Programm soll jetzt mehr solcher Funde ermöglichen.
• 3:03
  SPEAKER_02: Wissen wir denn, wie viele der gefundenen Lücken anschließend geschlossen werden?
• 3:07
  SPEAKER_00: Anthropic berichtet über viele bestätigte Funde seiner Partner.
• 3:10
  SPEAKER_00: Bei den behobenen Lücken ist die Erfassung aber unvollständig.
• 3:14
  SPEAKER_00: Weniger als die Hälfte der Partner meldete entsprechende Zahlen.
• 3:17
  SPEAKER_00: Teils waren Reparaturen noch in Arbeit.
• 3:19
  SPEAKER_00: Daraus lässt sich keine verlässliche Gesamtquote ableiten.
• 3:22
  SPEAKER_00: Und auch ein korrigierter Programmcode sagt noch nicht, ob die neue Version auf dem betroffenen Server läuft.
• 3:28
  SPEAKER_02: Dann kann der Fund bekannt sein und trotzdem bei der falschen Person landen.
• 3:32
  SPEAKER_02: Gibt es einen belegten Fall für genau diesen Bruch?
• 3:35
  SPEAKER_00: Beim Datenleck der US-Auskunftei Equifax von 2017 beschreibt der amerikanische Rechnungshof einen solchen Ablauf.
• 3:42
  SPEAKER_00: Equifax hatte eine Warnung vor einer bekannten Softwarelücke intern weitergeleitet.
• 3:46
  SPEAKER_00: Der Verteiler war veraltet.
• 3:48
  SPEAKER_00: Nach Angaben des Unternehmens erreichte die Warnung deshalb die Personen nicht, die das Update hätten installieren müssen.
• 3:53
  SPEAKER_00: Ein späterer Netzwerkscan übersah die Lücke ebenfalls.
• 3:57
  SPEAKER_00: Angreifer nutzten das betroffene Portal und stahlen persönliche Daten.
• 4:00
  SPEAKER_02: Die Warnung war also verschickt und es hatte sogar eine Kontrolle gegeben?
• 4:05
  SPEAKER_02: Beides zusammen reichte hier nicht.
• 4:07
  SPEAKER_00: So schildert es der Bericht auf Grundlage von Unternehmensangaben und Untersuchungen zum Vorfall.
• 4:12
  SPEAKER_00: Für den neuen KI-Zugang folgt daraus eine konkrete Anforderung.
• 4:16
  SPEAKER_00: Ein bestätigter Fund braucht einen zuständigen Betreiber und am Ende einen Nachweis, dass die betroffene Installation korrigiert ist.
• 4:24
  SPEAKER_00: Ob das bei den HFS-Installationen passiert ist, wissen wir weiterhin nicht.
• 4:28
  SPEAKER_02: Wenn die KI den Weg zur Übernahme eines Servers findet, wäre das auch für Angreifer wertvoll.
• 4:34
  SPEAKER_02: Wie belastbar sind die Grenzen zwischen diesen Zugangsstufen?
• 4:37
  SPEAKER_00: Anthropic hat dazu einen eigenen Test mit Opus 5.5 veröffentlicht, also einem anderen Modell als Mythos aus der HFS-Geschichte.
• 4:45
  SPEAKER_00: Zehn Cyberaufgaben wurden jeweils fünfmal versucht.
• 4:48
  SPEAKER_00: Im Defense-Zugang blockierten die Schutzmechanismen 46 der 50 Versuche.
• 4:52
  SPEAKER_00: Vier gelangen.
• 4:53
  SPEAKER_00: Im Red Team-Zugang wurde kein Versuch blockiert und 34 gelangen.
• 4:58
  SPEAKER_02: Dann hängt viel davon ab, wer in die großzügigere Stufe aufgenommen wird.
• 5:02
  SPEAKER_02: Was sagen die vier erfolgreichen Versuche in Defense über den Schutz im Alltag?
• 5:07
  SPEAKER_00: Sie zeigen eine Grenze dieses Tests.
• 5:09
  SPEAKER_00: Es sind wiederholte Versuche an zehn Aufgaben, keine 50 verschiedenen Angriffe aus dem Alltag.
• 5:14
  SPEAKER_00: Wir können daraus keine Missbrauchsquote ableiten.
• 5:16
  SPEAKER_00: Der Test spricht für eine Wirkung der abgestuften Schutzmechanismen, aber auch gegen die Annahme, Defense würde alles Gefährliche zuverlässig blockieren.
• 5:24
  SPEAKER_00: Amthropic kontrolliert zudem seinen eigenen Zugang.
• 5:27
  SPEAKER_00: Andere Werkzeuge, die Angreifer verwenden könnten, werden durch diese Prüfungen nicht erfasst.
• 5:31
  SPEAKER_02: Welche Bedingungen muss die Krankenhaus-IT dafür im eigenen Betrieb erfüllen?
• 5:35
  SPEAKER_02: Gerade der Programmcode kann ja sensible Informationen enthalten.
• 5:39
  SPEAKER_00: Defense verlangt sofort eine Anmeldung mit mehreren Sicherheitsfaktoren.
• 5:43
  SPEAKER_00: Später werden die Anforderungen strenger.
• 5:45
  SPEAKER_00: Hinzu kommen Überwachung der Nutzung und Regeln zur Datenspeicherung.
• 5:49
  SPEAKER_00: Organisationen mit bestehenden Ausnahmen von der Datenspeicherung für bestimmte Modelle können diese unter den vorgesehenen Bedingungen behalten.
• 5:56
  SPEAKER_00: Für einzelne Teilnehmer in Defense gibt es diese Ausnahme nicht.
• 6:00
  SPEAKER_00: Vor der Analyse muss die Organisation deshalb klären, welche Daten sie an Anthropic geben darf.
• 6:05
  SPEAKER_00: Der Zugang bringt also auch Arbeit an den eigenen Abläufen mit sich.
• 6:08
  SPEAKER_02: Der Zugang kann mehr Teams bei der Suche helfen.
• 6:11
  SPEAKER_02: Die offenen Punkte liegen dann sowohl bei der Zulassung als auch beim Umgang mit den Funden.
• 6:16
  SPEAKER_02: Woran würdest du festmachen, ob eine Organisation wirklich profitiert?
• 6:20
  SPEAKER_00: Ich würde fragen, ob sie die Zeit vom bestätigten Fund bis zur überprüften Installation des Updates verkürzt.
• 6:27
  SPEAKER_00: Der Bericht über HFS zeigt den Beitrag der KI beim Finden und Prüfen einer Lücke.
• 6:32
  SPEAKER_00: Ob danach auch das Update schneller auf den Server kommt, müssen wir gesondert prüfen.
• 6:37
  SPEAKER_00: Mehr Zugang hilft den Verteidigern dann, wenn sie die gefundenen Fehler auch rechtzeitig beheben können.
• 6:42
  SPEAKER_00: Wie oft das neue Programm diesen gesamten Weg beschleunigt, ist noch nicht belegt.
• 6:47
  SPEAKER_02: Und wer selbst keine Server betreibt, kann den eigenen Dienstleister konkreter fragen.
• 6:51
  SPEAKER_02: Welche unserer Systeme sind betroffen?
• 6:53
  SPEAKER_02: Wer kümmert sich um das Update und wie wird die Installation überprüft?
• 6:57
  SPEAKER_00: Genau daran würde ich die Entscheidung über den neuen Zugang knüpfen.
• 7:00
  SPEAKER_00: Kann das Team seine Funde abarbeiten und die nötigen Daten unter diesen Bedingungen freigeben, lohnt sich eine Prüfung des Angebots.
• 7:08
  SPEAKER_00: Fehlt schon der Verantwortliche für das Update, muss die Organisation diese Zuständigkeit zuerst klären.
• 7:13
  SPEAKER_00: Sonst kann sie zwar mehr über ihre Sicherheitslücken wissen, während die betroffenen Systeme weiter verwundbar bleiben.