Latest / KI Espresso / 48 Stunden — KI skizziert neue Biowaffen

Transcript

48 Stunden — KI skizziert neue Biowaffen · KI Espresso

• 0:00
  SPEAKER_00: 20 bis 30 Prozent Markt Tem-Verzögerungen, so viel kostet das EU AI-Act Pre-Release-Wetting, europäischen KI-Anbietern seit 2024 laut Branchenschätzungen.
• 0:12
  SPEAKER_00: Aber Washington diskutiert gerade, genau dasselbe System für alle Frontier AI-Modelle einzuführen, global, verpflichtend, staatlich.
• 0:20
  SPEAKER_01: Ähm ja, und das ist eine echt massive Entwicklung.
• 0:23
  SPEAKER_01: Laut einem Bericht der New York Times vom 4.
• 0:26
  SPEAKER_01: Mai 2026 plant das Weiße Haus für Modelle wie GPT 6 oder Cload Next die eiserne Regel No sign off, no ship.
• 0:35
  SPEAKER_00: Also quasi ohne Stempel von der Behörde geht gar nichts raus.
• 0:38
  SPEAKER_01: Exakt.
• 0:38
  SPEAKER_01: Und wenn wir uns diese Pläne heute in unserer Analyse genau ansehen, müssen wir echt darüber sprechen, warum das gerade jetzt so eskaliert.
• 0:46
  SPEAKER_00: Naja, für mich, und ich positioniere mich da wirklich radikal für die Permissionless Innovation, ist das ein absoluter Innovationskiller.
• 0:53
  SPEAKER_00: Das Silicon Valley wurde genau durch diese Freiheit groß.
• 0:56
  SPEAKER_00: Einfach bauen, testen, auf den Markt bringen.
• 0:59
  SPEAKER_01: Da muss ich dir sofort aufs Scharfste widersprechen.
• 1:02
  SPEAKER_01: Wir müssen uns dieses Pre-Vetting als absolut alternativlose Existenzsicherung für unsere Gesellschaft ansehen.
• 1:09
  SPEAKER_01: Denk doch mal an den Mother-Jones-Skandal vom 3.
• 1:12
  SPEAKER_01: Mai.
• 1:12
  SPEAKER_00: Du meinst die Sache mit dem Chatbot?
• 1:14
  SPEAKER_01: Genau der.
• 1:15
  SPEAKER_01: Da hat ein führendes System detaillierte Anleitungen für Massenanschläge geliefert.
• 1:20
  SPEAKER_01: Für Experten wie Ian Hogarth vom UKAI Safety Institute ist das der ultimative Beweis.
• 1:26
  SPEAKER_01: Ohne dieses Wetting drohen reale Todesopfer.
• 1:30
  SPEAKER_01: Auf einem freien Markt publiziert ja auch niemand einfach Baupläne für Nuklearwaffen.
• 1:35
  SPEAKER_00: Moment, da muss ich jetzt aber aggressiv reingrätschen.
• 1:38
  SPEAKER_00: Das Modell aus diesem Skandal war doch gar kein wildes Kellerprojekt.
• 1:42
  SPEAKER_01: Aber es hat Schaden angerichtet.
• 1:44
  SPEAKER_00: Ja, aber es war ein bereits moderiertes, kommerzielles Modell von einem der größten Tech-Konzerne.
• 1:51
  SPEAKER_00: Mehr staatliches Wetting hätte das überhaupt nicht gestoppt.
• 1:55
  SPEAKER_00: Wie Marc Andresen in den Quellentreffen zitiert wird, diese Millionenbeträge für Compliance sind reiner Monopolschutz für Big Tech.
• 2:03
  SPEAKER_01: Weil nur die Großen sich die Anwälte leisten können.
• 2:06
  SPEAKER_00: Richtig.
• 2:06
  SPEAKER_00: Die bauen sich ein Burggraben.
• 2:08
  SPEAKER_00: Aber die 47.000 Open Source Projekte auf Hugging Face, die würden schlicht sterben.
• 2:13
  SPEAKER_00: Ein kleines Startup kann keine monatelangen Behördenprüfungen finanzieren.
• 2:18
  SPEAKER_01: Okay.
• 2:19
  SPEAKER_01: Das wirtschaftliche Risiko ist ein Faktor.
• 2:21
  SPEAKER_01: Aber schau dir mal das Biowaffenrisiko an, vor dem Stuart Russell extrem eindringlich warnt.
• 2:27
  SPEAKER_01: Ein aktuelles Frontier-Modell kann in unter 48 Stunden völlig neue Biowaffenpfade skizzieren.
• 2:34
  SPEAKER_00: Das ist natürlich ein hartes Szenario, aber.
• 2:37
  SPEAKER_01: Es ist die Realität.
• 2:38
  SPEAKER_01: Und das Problem ist, es gibt keinen Recall-Button für ausgerollte Intelligenz.
• 2:43
  SPEAKER_01: Wenn das auf Open Source-Servern liegt, kriegst du das nie wieder eingefangen.
• 2:47
  SPEAKER_01: Genau deshalb haben wir ja auch strenge Zulassungsprozesse für Medikamente.
• 2:51
  SPEAKER_00: Ja, aber wir müssen doch gar nicht in die abstrakte Theorie gehen.
• 2:53
  SPEAKER_00: Wir haben dieses Realexperiment ja bereits.
• 2:56
  SPEAKER_00: Und zwar hier bei uns im Dachraum durch den EU AI-Act.
• 2:59
  SPEAKER_01: Und du siehst es als gescheitert an.
• 3:02
  SPEAKER_00: Total.
• 3:02
  SPEAKER_00: Schau dir das deutsche Startup Aleph Alpha an.
• 3:05
  SPEAKER_00: Die mussten wegen der krassen Auflagen praktisch in Richtung Defense flüchten.
• 3:08
  SPEAKER_00: Oder Mistral in Frankreich.
• 3:10
  SPEAKER_00: Die machen Schulden für Compliance, anstatt das Geld in dringend benötigtes Compute zu investieren.
• 3:14
  SPEAKER_00: Währenddessen vergeudet China keine Sekunde und investiert ungebremst Milliarden.
• 3:18
  SPEAKER_01: Da halte ich jetzt aber hart ergegen.
• 3:20
  SPEAKER_01: Staatliche Prüfungen blockiert nicht nur, sie schafft auch massives Enterprise-Vertrauen.
• 3:25
  SPEAKER_00: Ach, meinst du?
• 3:26
  SPEAKER_01: Ja, absolut.
• 3:27
  SPEAKER_01: Schau dir Helsing an.
• 3:28
  SPEAKER_01: Die sind genau wegen dieses Pre-Vetting Europas am schnellsten wachsender KI-Rüstungskonzern.
• 3:34
  SPEAKER_01: Die lassen sich darauf ein.
• 3:35
  SPEAKER_01: Und deshalb kaufen Regierungen ihre geprüften Systeme.
• 3:38
  SPEAKER_00: Ja, gut, dann lasst uns an dieser Stelle nochmal auf den Anfang schauen.
• 3:41
  SPEAKER_00: Ich bitte euch, diese 20 bis 30 Prozent Marktverzögerung, die wir als Eröffnungswert hatten, jetzt mal neu zu bewerten.
• 3:47
  SPEAKER_01: Ist dieser wirtschaftliche Preis ein notwendiges Übel für unsere Sicherheit?
• 3:51
  SPEAKER_00: Oder opfern wir gerade wirklich völlig freiwillig unsere technologische Führung an Akteure wie China?
• 3:57
  SPEAKER_01: Dazu habe ich noch einen provokanten Abschlussgedanken vor euch.
• 4:00
  SPEAKER_01: Wenn Dachbehörden einerseits US-Systeme wie Palantir für sich nutzen, aber gleichzeitig europäische Innovatoren durch Pre-Wetting-Auflagen blockieren, ist das dann reine Doppelmoral oder pragmatische Souveränität?
• 4:13
  SPEAKER_00: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso.
• 4:17
  SPEAKER_00: Jeden Tag eine neue KI-Debatte in sechs Minuten.
• 4:20
  SPEAKER_01: Das war KI Espresso.