Latest / KI Espresso / 3,4 Millionen — ein Angriff mit professioneller Raffinesse

Transcript

3,4 Millionen — ein Angriff mit professioneller Raffinesse · KI Espresso

• 0:00
  SPEAKER_00: 3,4 Millionen Downloads pro Tag.
• 0:02
  SPEAKER_00: So viele Installationen verzeichnet Lite LLM, also ein KI-Tool, das halt auch bei SAP, der Deutschen Telekom oder Bosch im Einsatz sein könnte.
• 0:12
  SPEAKER_00: Und genau dieses Paket wurde am 24.
• 0:15
  SPEAKER_00: März kompromittiert.
• 0:16
  SPEAKER_01: Wirklich Wahnsinn, ja.
• 0:17
  SPEAKER_00: Stellt euch das mal vor.
• 0:19
  SPEAKER_00: Euer Unternehmen nutzt Lite LLM als einheitliche Schnittstelle für über 100 KI-Modelle und dann fließen drei Stunden lang völlig unbemerkt eure API-Keys, Kundendaten und Cloud-Zugangsdaten direkt an irgendwelche Angreifer ab.
• 0:35
  SPEAKER_01: Um diese Zahlen mal in den richtigen Kontext zu setzen, haben wir heute die forensischen Analysen von runtimeai.io und Endor Labs auf dem Tisch.
• 0:44
  SPEAKER_00: Richtig.
• 0:44
  SPEAKER_01: Und unsere Mission hierbei ist ganz klar, wir müssen genau verstehen, wie dieser Angriff abgelaufen ist.
• 0:50
  SPEAKER_01: Und vor allem, ob Open-Source-Abhängigkeiten in diesen KI-Stacks aktuell ein unkalkulierbares Risiko sind.
• 0:57
  SPEAKER_00: Also da beziehe ich direkt aggressiv Stellung.
• 1:02
  SPEAKER_00: Dieser Vorfall beweist für mich zu 100 Prozent, dass Open Source-Abhängigkeiten in KI-Stacks ein völlig inakzeptables Risiko sind.
• 1:11
  SPEAKER_00: Wir brauchen zwingend geschlossene Lieferketten.
• 1:14
  SPEAKER_01: Warte, Moment mal, also da widerspreche ich dir sofort und vehement.
• 1:18
  SPEAKER_01: Transparenz und die ständige Community-Überwachung sind doch der einzige Grund, warum diese Katastrophe überhaupt verhindert wurde.
• 1:24
  SPEAKER_00: Verhindert?
• 1:25
  SPEAKER_00: Die Hacker saßen quasi im Maschinenraum eurer Cloud.
• 1:29
  SPEAKER_00: Sich blind auf so offene KI-Pakete zu verlassen, ist doch, als würde man ein Smartlog installieren, das dem Einbrecher heimlich den Generalschlüssel und gleich noch den Bauplan des Hauses übergibt.
• 1:41
  SPEAKER_01: Das ist jetzt aber ein ziemlich unfairer.
• 1:43
  SPEAKER_00: Nein, lass mich das kurz zu Ende führen.
• 1:45
  SPEAKER_00: Die manipulierte Version, also die V828, die nistete sich ja dauerhaft ein.
• 1:49
  SPEAKER_00: Ein dreistufiger Payload wurde aktiv, der versucht hat, sich lateral, also seitwärts, durch euer Kubernetes-Cluster zu fressen.
• 1:56
  SPEAKER_01: Ja, Endolabs hat detailliert gezeigt, dass da eine Persistenzdatei installiert wurde.
• 2:01
  SPEAKER_00: Genau.
• 2:02
  SPEAKER_00: Und das ist gerade für Unternehmen in Deutschland, Österreich und der Schweiz ein absoluter Albtraum.
• 2:06
  SPEAKER_01: Wieso ausgerechnet da?
• 2:08
  SPEAKER_00: Naja, wegen der DSGVO.
• 2:09
  SPEAKER_00: Nach Artikel 32 drohen bei solchen Sicherheitslücken und mangelnden technischen Maßnahmen massive Haftungsrisiken.
• 2:16
  SPEAKER_00: Wir können uns diese offenen Systeme gar nicht leisten.
• 2:18
  SPEAKER_01: Du drehst die Fakten wirklich komplett auf den Kopf, weißt du das.
• 2:22
  SPEAKER_01: Dass der Angriff nur circa drei Stunden aktiv war, das ist ein massiver Erfolg der Open Source-Welt.
• 2:28
  SPEAKER_00: Drei Stunden sind.
• 2:29
  SPEAKER_01: Lass mich kurz bei proprietärer, also geschlossener Software bleiben, solche Backdoors oft monatelang unentdeckt.
• 2:36
  SPEAKER_01: Sicherheitsfirmen wie SNOK und Endor Labs onden diesen hochkomplexen Angriff doch nur deshalb sofort analysieren und das Release pausieren lassen, weil der Code für jeden komplett offen lag.
• 2:48
  SPEAKER_00: Drei Stunden mögen für Forensiker am Schreibtisch vielleicht wie ein toller Erfolg klingen.
• 2:52
  SPEAKER_01: Ist es ja auch.
• 2:53
  SPEAKER_00: Aber bei der schieren Masse der Downloads reicht dieses winzige Zeitfenster für eine verheerende, branchenübergreifende Infektion.
• 3:00
  SPEAKER_00: Da hilft mir die schnelle Entdeckung im Nachhinein überhaupt nichts.
• 3:03
  SPEAKER_00: Die Offenheit ist hier kein Schutzschild, sie ist ein massives Einfallstor.
• 3:07
  SPEAKER_01: Überleg doch mal.
• 3:09
  SPEAKER_01: Denk noch einmal an die 3,4 Millionen Downloads pro Tag, die wir zu Beginn erwähnt haben.
• 3:14
  SPEAKER_01: Zeigt diese Zahl wirklich die enorme Reichweite einer Gefahr?
• 3:21
  SPEAKER_00: Ähm, ja, absolut.
• 3:23
  SPEAKER_01: Nein, sie beweist vielmehr die kollektive Abwehrkraft einer Community, die Millionen von Nutzern in absoluter Rekordzeit schützen kann.
• 3:32
  SPEAKER_00: Na gut, ein finaler Gedanke für euch dazu.
• 3:35
  SPEAKER_00: Was passiert eigentlich mit eurer Wettbewerbsfähigkeit, wenn ihr euch aus purer Angst vor Supply Chain-Angriffen in isolierte proprietäre Ökosysteme zurückzieht?
• 3:44
  SPEAKER_00: Verliert ihr dann endgültig den Innovationsvorteil, über 100 LLMs frei und flexibel nutzen zu können?
• 3:50
  SPEAKER_00: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso jeden Tag eine neue KI-Debatte in sechs Minuten.
• 3:58
  SPEAKER_01: Das war KI Espresso.