Latest / KI Espresso / 2,5 Milliarden — scheitern sie an einer

Transcript

2,5 Milliarden — scheitern sie an einer · KI Espresso

• 0:00
  SPEAKER_00: Ein Praktikant findet um 4 Uhr morgens einfach mal 512.000 Zeilen Quellcode von Cloudcode im offenen Netz.
• 0:08
  SPEAKER_00: Also ein Tool, das Entthropic mal eben zweieinhalb Milliarden Dollar einbringt.
• 0:13
  SPEAKER_01: Ja, und das war ja nicht.
• 0:14
  SPEAKER_01: Und darin versteckt sind unveröffentlichte Modelle wie Opus 4.7 und so ein autolomer Daemon namens Kairos plus 44 geheime Feature Flex.
• 0:25
  SPEAKER_01: Für mich ist das der absolute Wahnsinn und der ultimative Beweis für dieses ganze Safety-Theater der Firma.
• 0:32
  SPEAKER_00: Also Moment, da muss ich dir direkt echt vehement widersprechen.
• 0:36
  SPEAKER_00: Das ist in weiten Teilen einfach reine Panikmache, was da gerade diskutiert wird.
• 0:41
  SPEAKER_01: Panikmache, eine Firma, die ihre komplette Identität auf Sicherheit aufbaut, scheitert an einer simplen NPM-Ignore-Datei.
• 0:49
  SPEAKER_01: Das ist pure Schlamperei.
• 0:51
  SPEAKER_01: Ja, das war ein Fehler.
• 0:53
  SPEAKER_01: Aber lass uns doch mal gucken, was da physisch überhaupt im Netz lag.
• 0:57
  SPEAKER_01: Das war ein sogenannter TypeScript-CLI-Wrapper.
• 1:01
  SPEAKER_01: Um das mal greifbar zu machen, das ist wie die Speisekarte in einem Restaurant.
• 1:06
  SPEAKER_00: Eine Speisekarte.
• 1:08
  SPEAKER_01: Genau.
• 1:08
  SPEAKER_01: Du siehst, wie man bestellt, aber das Rezept für das Essen, also in unserem Fall die Milliarden von Trainingsdaten und die Modellgewichte, das bleibt absolut sicher verschlossen in der Küche.
• 1:20
  SPEAKER_01: Da lagen null Modellgewichte im Netz, null Kundendaten und auch keine API-Schlüssel.
• 1:27
  SPEAKER_00: Okay, selbst wenn es nur die Speisekarte ist, es gibt da eine ganz klare Kausalität, finde ich.
• 1:32
  SPEAKER_00: Anthropic ist in 15 Monaten um das Neunzehnfache gewachsen.
• 1:37
  SPEAKER_00: Ja, das Wachstum ist enorm, aber.
• 1:39
  SPEAKER_00: Thema Wachstum friss gerade komplett deren Sicherheitskultur auf.
• 1:43
  SPEAKER_00: Fünf Tage vorher liegt Claude Mythos.
• 1:46
  SPEAKER_00: Ein Modell, vor dem die sogar die US-Regierung selbst gewarnt haben.
• 1:50
  SPEAKER_00: Weil es großflächige halbe Angriffe extrem erleichtern könnte.
• 1:54
  SPEAKER_01: Das sind aber zwei völlig unterschiedliche Vorfälle.
• 1:57
  SPEAKER_00: Und im Februar 2026 streichen sie klammheimlich ihre Verpflichtung, die Entwicklung zu stoppen, wenn es unsicher wird.
• 2:05
  SPEAKER_00: Das ist, als würde der Hersteller vom sichersten Banktresor der Welt aus reiner Bequemlichkeit den Mastercode auf Twitter posten.
• 2:12
  SPEAKER_01: Boah, nee, der Tresorvergleich hinkt aber gewaltig.
• 2:16
  SPEAKER_01: Code-Geheimhaltung ist in der Softwareentwicklung einfach keine echte Sicherheit.
• 2:21
  SPEAKER_01: Dieses Security by Obscurity funktioniert halt nicht.
• 2:25
  SPEAKER_00: Aber es ist ein Teil davon.
• 2:26
  SPEAKER_01: Das sagt sogar Microsoft offiziell, nachdem die durch einen echten feindlichen Hack 37 GB Quellcode verloren haben.
• 2:33
  SPEAKER_01: Man darf doch einen dummen Tippfehler, eine vergessene Datei, nicht mit systemischer Böswilligkeit verwechseln.
• 2:40
  SPEAKER_00: Es zeigt aber ein Muster.
• 2:41
  SPEAKER_01: Guck dir doch mal den Kontext an.
• 2:43
  SPEAKER_01: OpenAI wurde 2023 gehackt und hat's der Polizei verschwiegen.
• 2:48
  SPEAKER_01: Meta verschenkt sein Lama-Modell absichtlich an jeden.
• 2:51
  SPEAKER_01: Und ausgerechnet Enthropic, die dem Pentagon bei autonomen Waffen widersprochen und damit Milliarden riskiert haben, wird jetzt an den Pranger gestellt?
• 3:00
  SPEAKER_00: Ja, die werden an den Pranger gestellt, weil die Gefahr absolut real ist.
• 3:04
  SPEAKER_00: Exakt im selben Zeitfenster lag ein Remote Access Trojan in der weitverbreiteten NPM-Bibliothek.
• 3:10
  SPEAKER_01: Ja, das NPM-Ökosystem ist anfällig, aber.
• 3:13
  SPEAKER_00: 70 Prozent der Fortune 100-Unternehmen nutzen Claude.
• 3:17
  SPEAKER_00: Wer das Tool in diesen drei Stunden installiert hat, hat jetzt potenziell eine Hintertür im System.
• 3:23
  SPEAKER_00: Das ist keine Theorie, das ist ein handfestes Risiko für unsere Wirtschaft.
• 3:27
  SPEAKER_01: Es ist ein Risiko, ja.
• 3:29
  SPEAKER_01: Aber weißt du, was wirklich faszinierend an der ganzen Sache ist?
• 3:32
  SPEAKER_01: Wie die Entwickler-Community reagiert hat.
• 3:34
  SPEAKER_01: In nur zwei Stunden gab es 50.000 GitHub-Stars für den geleakten Code.
• 3:39
  SPEAKER_00: Wahrscheinlich, weil alle den Code kopieren wollten.
• 3:42
  SPEAKER_01: Nein, weil dieser Code bewiesen hat, dass Anthropic extrem saubere Arbeit leistet.
• 3:46
  SPEAKER_01: Da gab es keine fiesen Tricks, keine Dark Patterns, die heimlich Daten abgreifen.
• 3:51
  SPEAKER_00: Wirklich gar nichts in der Richtung?
• 3:52
  SPEAKER_01: Nichts.
• 3:53
  SPEAKER_01: Es gab da sogar einen Undercover-Mode, der technisch verhindert, dass interne Infos das Unternehmen überhaupt verlassen.
• 3:59
  SPEAKER_01: Ironischerweise hat dieser Fehler bewiesen, dass Claude unter der Haube extrem sicher gebaut ist.
• 4:05
  SPEAKER_00: Okay, krass.
• 4:06
  SPEAKER_00: Dann lasst uns das mal für euch zusammenfassen und wir gehen zurück zu dieser unfassbaren Zahl vom Anfang.
• 4:11
  SPEAKER_00: 512.000 geleakte Kurzeilen.
• 4:13
  SPEAKER_00: Ein Praktikant 4 Uhr morgens.
• 4:16
  SPEAKER_01: Genau, und wir geben diese Frage jetzt mal direkt an euch weiter.
• 4:19
  SPEAKER_01: Bewertet diese Zahl nach der Debatte doch nochmal neu?
• 4:22
  SPEAKER_00: Ist dieser Leak für euch das Warnsignal einer kollabierenden Sicherheitskultur, kurz vor dem EU AI-Act?
• 4:29
  SPEAKER_01: Oder bestrafen wir hier gerade wirklich hart die einzige Firma, die in diesem ganzen KI-Goldrausch zumindest versucht, nach ethischen Prinzipien zu handeln?
• 4:37
  SPEAKER_00: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso.
• 4:41
  SPEAKER_00: Jeden Tag eine neue KI-Debatte in sechs Minuten.
• 4:44
  SPEAKER_01: Das war KI Espresso.