Latest / KI Espresso / 60 Stunden gegen 2 Jahre - wer prüft die KI?

Transcript

60 Stunden gegen 2 Jahre - wer prüft die KI? · KI Espresso

• 0:00
  SPEAKER_01: Zwei Jahre Expertenprüfung, dann fand eine KI in 60 Stunden eine neue Attacke.
• 0:06
  SPEAKER_00: Nein, deine Bankverschlüsselung ist nicht gebrochen.
• 0:10
  SPEAKER_00: Aber der Prüfprozess hat sich verändert.
• 0:12
  SPEAKER_00: Wenn KI neue Kryptografie prüft, wer prüft dann die KI?
• 0:17
  SPEAKER_00: Also Haug ist lediglich ein ungenutzter Kandidat der dritten Runde im NIST-Standardisierungsprozess.
• 0:22
  SPEAKER_00: Volles AES und alle heute produktiven Verschlüsselungen, die bleiben absolut ungebrochen.
• 0:27
  SPEAKER_00: Normale Nutzer müssen keine Passwörter ändern.
• 0:30
  SPEAKER_01: Sie hat in 60 Stunden eine echte mathematische Abkürzung in der Struktur von Haug gefunden.
• 0:38
  SPEAKER_01: Und sie arbeitete dabei semiautonom, also nur mit gelegentlicher, rein nicht technischer Projektmanagementführung durch Menschen.
• 0:47
  SPEAKER_01: Aber genau hier liegt mein eigentlicher Punkt.
• 0:50
  SPEAKER_01: Was bedeutet diese Entwicklung nun kausal für das BSI, für Universitäten und Institutionen in Deutschland, Österreich und der Schweiz?
• 0:58
  SPEAKER_00: Naja, das ist das Kernproblem.
• 1:01
  SPEAKER_00: Entdeckung ist halt nicht gleich Verifikation.
• 1:05
  SPEAKER_01: Beim kleinen Haug 256 Parameter sank der Angriffsaufwand von 2 hoch 64 auf demonstrierte 2 hoch 38.
• 1:15
  SPEAKER_00: Ja, das ist mathematisch korrekt, aber man muss im Hinterkopf behalten, bei größeren HOK-Schlüsseln wächst der Aufwand weiterhin exponentiell.
• 1:25
  SPEAKER_00: Die bleiben also unpraktisch anzugreifen.
• 1:27
  SPEAKER_01: Das stimmt, ja.
• 1:28
  SPEAKER_01: Aber ich sehe das trotzdem als enormen Erfolg der Kryptografie.
• 1:32
  SPEAKER_01: Schwächen vor dem realen Einsatz zu finden, das ist doch exakt der Sinn dieses Prozesses.
• 1:37
  SPEAKER_01: Enthropic hat den Code veröffentlicht und nist sowie die Autoren vorab informiert.
• 1:42
  SPEAKER_00: Anthropic zahlte für jedes dieser Hauptresultate rund 100.000 US-Dollar an reinen API-Kosten.
• 1:49
  SPEAKER_00: Oh wow.
• 1:50
  SPEAKER_00: Ja, krass, oder?
• 1:52
  SPEAKER_00: Die KI brauchte zwar 60 Stunden für die Generierung, aber Forscher brauchten danach hunderte Stunden zur Validierung.
• 1:59
  SPEAKER_00: Dieser ungleiche Zugang ist ein massiver Flaschenhals für öffentliche Institutionen.
• 2:06
  SPEAKER_00: Wir sehen diese Problematik noch drastischer beim zweiten Resultat zu AES.
• 2:11
  SPEAKER_01: Warte, bevor du AES hier nennst, da muss ich sofort reingrätschen.
• 2:15
  SPEAKER_01: Ähm, okay.
• 2:16
  SPEAKER_01: Das betrifft nur sieben von zehn Runden.
• 2:19
  SPEAKER_01: Und man benötigt zwei hoch 105 gewählte Klartexte.
• 2:23
  SPEAKER_01: Das hat absolut keine Auswirkungen auf volles AES.
• 2:27
  SPEAKER_00: Das bestreite ich auch gar nicht, aber das Modell hat den besten Angriff um das 200- bis 800-fache verbessert.
• 2:33
  SPEAKER_01: Ja, aber der Workflow war ein völlig anderer.
• 2:38
  SPEAKER_01: Dieses ASS-Resultat war fast vollautonom durch ein von Forschern gebautes Scaffold.
• 2:44
  SPEAKER_01: Das zeigt doch, wir brauchen schnellere KI-Prüfungen für mehr Algorithmen.
• 2:49
  SPEAKER_00: Aber wer profitiert davon in der Praxis?
• 2:52
  SPEAKER_00: Die unabhängige Validierung wird ohne ausreichende Finanzierung und ohne Zugang zu den Modellen schlichtweg zum Nadelöhr.
• 3:00
  SPEAKER_00: Ein privates System generiert im Akkord neue kryptografische Behauptungen.
• 3:04
  SPEAKER_00: Wenn das BSI nicht die Budgets hat, um das zu reproduzieren, wer bestätigt das?
• 3:09
  SPEAKER_01: Die neue Frage lautet nicht nur, ist der Algorithmus sicher, sondern auch, wer kann ihn mit KI prüfen?
• 3:14
  SPEAKER_01: Wer bestätigt das Ergebnis und wer erfährt es zuerst?
• 3:18
  SPEAKER_00: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso jeden Tag eine neue KI-Debatte in sechs Minuten.
• 3:25
  SPEAKER_01: Das war KI Espresso.