Latest / KI Espresso / 30 Tage oder null: Wem vertraust du deine Firmengeheimnisse an?

Transcript

30 Tage oder null: Wem vertraust du deine Firmengeheimnisse an? · KI Espresso

• 0:00
  SPEAKER_00: Anthropic speichert die Prompts für seine stärksten Modelle nun 30 Tage lang, während OpenAI behauptet, Angriffe auch bei strikter Nullspeicherung zu erkennen.
• 0:09
  SPEAKER_00: Und also wer wirklich Zugang zu den absolut leistungsfähigsten KI-Systemen auf dem Markt will, der muss diese 30-tägige Speicherung einfach als notwendige Sicherheitsmaßnahme akzeptieren.
• 0:21
  SPEAKER_00: Ich meine, ohne diesen Kontext sind wir gegen komplexe Angriffe schlichtweg blind.
• 0:25
  SPEAKER_00: Naja, da halte ich dagegen.
• 0:27
  SPEAKER_01: Das muss einfach der unverhandelbare Standard für sensible Firmengeheimnisse bleiben.
• 0:32
  SPEAKER_00: Aber lass kurz, weil Unternehmen übermitteln da ja Quellcode, Verträge und interne Sicherheitsprotokolle an diese Modelle.
• 0:39
  SPEAKER_00: Und daraus darf doch nicht einfach automatisch so ein 30-tägiges Beweisarchiv beim Anbieter werden.
• 0:44
  SPEAKER_00: Das mutiert doch selbst zur massiven Schwachstelle.
• 0:47
  SPEAKER_00: Ja, ich verstehe deine Sorge um die Datensicherheit schon.
• 0:51
  SPEAKER_00: Das ist ein absolut valiler Punkt, keine Frage.
• 0:54
  SPEAKER_00: Ein Datenarchiv zieht immer Begehrlichkeiten auf sich.
• 0:57
  SPEAKER_01: Lass uns mal kurz über Kernprinzipien wie Datenminimierung oder Zweckbindung in der EU sprechen.
• 1:03
  SPEAKER_01: Warum exakt 30 Tage?
• 1:05
  SPEAKER_01: Warum nicht drei?
• 1:06
  SPEAKER_01: Oder sieben?
• 1:07
  SPEAKER_01: Diese Frist, die wirkt auf mich wie eine völlig willkürliche Entscheidung, die dem Anbieter einfach maximale Interpretationsmacht gibt.
• 1:14
  SPEAKER_01: Ich widerspreche.
• 1:15
  SPEAKER_00: Wir müssen uns halt ansehen, wie moderne Cyberangriffe auf KIs eigentlich in der Praxis funktionieren.
• 1:21
  SPEAKER_00: Nimm mal den sogenannten Best of N-J Break.
• 1:25
  SPEAKER_00: Das ist ja, also das ist kein einzelner böswilliger Prompt.
• 1:28
  SPEAKER_00: Einzelner Prompt aus dieser ganzen Kette, der wirkt isoliert betrachtet völlig harmlos.
• 1:34
  SPEAKER_00: Okay, ja.
• 1:35
  SPEAKER_00: Wenn ich also die Historie dieser Interaktionen nicht habe, also dieses N in Best of N, dann sehe ich das Muster schlicht nicht.
• 1:43
  SPEAKER_00: Ich erkenne den koordinierten Angriff dann erst, wenn der Jailbreak, naja, bereits erfolgreich war.
• 1:49
  SPEAKER_01: Dass die Sicherheitssysteme da einen Kontext brauchen, um solche Muster zu erkennen, das bestreite ich ja auch gar nicht.
• 1:56
  SPEAKER_00: Okay.
• 1:56
  SPEAKER_00: Aber der Denkfehler liegt für mich in der Annahme, dass ausgerechnet der Modellanbieter dafür die rohen Inhalte bei sich, also auf seinen Servern, speichern muss.
• 2:06
  SPEAKER_00: Genau hier setzt nämlich OpenAIs Private Safety Processing Pilot an.
• 2:11
  SPEAKER_00: Der ja noch ein Pilot ist.
• 2:12
  SPEAKER_00: Ja, aber die Mechanik dahinter ist doch entscheidend.
• 2:15
  SPEAKER_00: Die eigentlichen Prompts und Antworten, die bleiben physisch auf der Infrastruktur, die der Kunde kontrolliert.
• 2:21
  SPEAKER_01: Wir sprechen hier wirklich von echter Zero Data Ridd.
• 2:24
  SPEAKER_00: Ich widerspreche da wirklich ungern, aber das klingt in der Theorie zwar elegant, in der Praxis ist dieses System von OpenAI aber eben ein völlig unbewiesener Pilot.
• 2:35
  SPEAKER_00: Ohne echtes technisches Whitepaper bisher.
• 2:37
  SPEAKER_00: Naja.
• 2:38
  SPEAKER_00: Wir wissen aus forensischer Sicht doch noch gar nicht, welche komplexen, neuartigen Muster so ein rein lokales Setup übersieht.
• 2:45
  SPEAKER_00: Stell dir das so vor, OpenAIs Ansatz, das ist wie ein einfacher Rauchmelder.
• 2:50
  SPEAKER_00: Ein Rauchmelder.
• 2:52
  SPEAKER_00: Okay.
• 2:53
  SPEAKER_00: Er piept halt, wenn es brennt und schickt ein rotes Lämpchen ans Dashboard.
• 2:58
  SPEAKER_00: Aber der Ansatz von Anthropic, das ist eher wie eine hochauflösende Überwachungskamera.
• 3:04
  SPEAKER_00: Oh, wow.
• 3:05
  SPEAKER_00: Die zeigt dir nämlich nicht nur, dass es brennt, sondern eben auch, wer das Feuer gelegt hat und vor allem welchen Brandbeschleuniger die Personen stehen.
• 3:15
  SPEAKER_01: Das ist eine sehr anschauliche Metapher.
• 3:17
  SPEAKER_01: Aber, und da muss ich wirklich einhaken, eine Überwachungskamera im intimsten Forschungs- und Entwicklungsraum einer Firma, das ist doch ein enormes Risiko.
• 3:27
  SPEAKER_00: Wenn sie sicher ist, nicht.
• 3:29
  SPEAKER_01: Du baust damit aber einen gewaltigen neuen Datenschatz auf.
• 3:33
  SPEAKER_01: Wenn jetzt ein internes Team einer Bank, sagen wir mal, Prompts eingibt, dann verrät das sofort, an welchen Algorithmen die gerade arbeiten oder eben, wo ihre IT-Infrastruktur verwundbar ist.
• 3:44
  SPEAKER_01: Das stimmt, ja.
• 3:45
  SPEAKER_01: Ein 30-tägiges Archiv beim Anbieter, das wird einfach zu einem Honeypot, der Hacker geradezu magisch anzieht.
• 3:52
  SPEAKER_00: Sie fließen definitiv nicht in das Training neuer Modelle ein und der Zugriff ist streng auf auditierte Sicherheitsteamsbeschung.
• 3:59
  SPEAKER_01: Dennoch.
• 4:00
  SPEAKER_01: Da entstehen einfach extrem gefährliche Grauzonen.
• 4:04
  SPEAKER_01: Was passiert denn zum Beispiel bei einem legitimen Pentest?
• 4:08
  SPEAKER_01: Wie meinst du das?
• 4:08
  SPEAKER_01: Naja, wenn die eigene Security-Abteilung eines Unternehmens das Modell testet, dann sieht das für diese Kamera von Enthropic natürlich wie ein echter Angriff aus.
• 4:19
  SPEAKER_01: Ja, klar.
• 4:19
  SPEAKER_01: Und wer trägt dann den wirtschaftlichen Schaden, wenn das System den Kunden plötzlich blockiert, nur weil es aus diesen 30 Tagen Daten falsche Schlüsse zieht?
• 4:29
  SPEAKER_01: Der Modellanbieter kriegt da viel zu viel Macht über legitime Pentests versus echte Angriffe.
• 4:34
  SPEAKER_01: Aber das Risiko?
• 4:36
  SPEAKER_01: Die Beweislast, die muss meiner Meinung nach umgekehrt sein.
• 4:39
  SPEAKER_01: Modellanbieter müssen doch erstmal belastbar nachweisen, dass eine lokale Verarbeitung und schmale Signale nicht ausreichen, bevor sie anfangen, sensible Inhalte zu horten.
• 4:49
  SPEAKER_01: Mein Default bleibt da ganz klar.
• 4:51
  SPEAKER_01: Nullspeicherung muss das absolute Muss bleiben.
• 4:54
  SPEAKER_01: Das leistungsstärkste Modell darf nicht zur Belohnung für den Verzicht auf Datenschutz werden.
• 4:59
  SPEAKER_00: Und mein Default ist eben, dass wir bei KI-Systemen dieser enormen Tragweite nicht sehenden Auges in die Blindheit laufen dürfen.
• 5:08
  SPEAKER_00: Ein 30-Tage-Default für Top-Modelle ist unerlässlich.
• 5:11
  SPEAKER_01: Auch wenn es gefährlich ist.
• 5:13
  SPEAKER_01: Wenn ein Anbieter eine Kampagne zwar durch ein rotes Lämpchen erahnen, aber den echten Zusammenhang nicht mehr untersuchen und stoppen kann, dann gefährden wir letztlich das gesamte Ökosystem.
• 5:24
  SPEAKER_01: Das ist halt ein klassisches Dilemma zwischen absoluter Vertraulichkeit und dieser notwendigen forensischen Sichtbarkeit.
• 5:30
  SPEAKER_00: Ein Dilemma, das uns ja eigentlich direkt wieder auf unsere Ausgangsfrage zurückwirft.
• 5:34
  SPEAKER_00: Wir haben zu Beginn gehört, dass Anthropic für seine stärkste Modelle 30 Tage lang Daten speichert, während OpenAI da auf Nullspeicherung und lokale Signale setzt.
• 5:43
  SPEAKER_01: Richtwerten.
• 5:45
  SPEAKER_01: Ist die 30-tägige Speicherung all ihrer sensiblen Firmenprompts bei Anthropic wirklich der unausweichliche Preis für KI-Sicherheit?
• 5:54
  SPEAKER_01: Oder geht es, wie der Rauchmelderpilot ja zeigt, vielleicht doch auch ohne.
• 5:58
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso jeden Tag eine neue KI-Debatte in sechs Minuten.
• 6:06
  SPEAKER_01: Das war KI Espresso.