Latest / KI Espresso / 35 Mio. Strafe: Deutschlands neues KI-Gesetz erklärt

Transcript

35 Mio. Strafe: Deutschlands neues KI-Gesetz erklärt · KI Espresso

• 0:00
  SPEAKER_00: Ab August 2026 gelten die EU KI-Regeln in Deutschland.
• 0:05
  SPEAKER_00: Bußgelder bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes.
• 0:13
  SPEAKER_00: Also wenn wir uns die nackten Zahlen ansehen, ist das echt eine herannahende Katastrophe für unsere Text-Szene und ein garantierter Innovationskiller.
• 0:23
  SPEAKER_01: Also da muss ich dir direkt und fundamental widersprechen.
• 0:26
  SPEAKER_01: Das Gesetz ist definitiv kein Innovationskiller, sondern ein wirklich dringend nötiger Schutzschild.
• 0:32
  SPEAKER_01: Ohne diese klaren Leitplanken steuern wir doch auf einen kompletten KI-Wildwest zu.
• 0:37
  SPEAKER_00: Wildwest.
• 0:38
  SPEAKER_00: Wir reden hier über die existenzielle Grundlage unseres Text-Standorts.
• 0:41
  SPEAKER_01: Ja, aber unregulierte Haftungsrisiken würden am Ende viel mehr wirtschaftlichen Schaden anrichten, glaub mir.
• 0:47
  SPEAKER_00: Also um es mit den Worten von Bitkom-Präsident Ralf Wintergers zu sagen, dieses Gesetz entscheidet exakt jetzt darüber, ob KI in Deutschland ein Innovationsprojekt oder ein reines Bürokratieprojekt wird.
• 1:01
  SPEAKER_00: Und die aktuellen Maßnahmen deuten erschreckend klar auf Letzteres hin.
• 1:05
  SPEAKER_01: Naja, aber wir müssen diese Strafen auch mal technisch und juristisch einordnen, oder?
• 1:09
  SPEAKER_01: Die Bußgeldstaffelung zeigt doch ganz klar, dass die EU zielgerichtet vorgehen will.
• 1:14
  SPEAKER_01: Wir sprechen von den 35 Millionen Euro oder 7% ausschließlich für explizit verbotene Praktiken.
• 1:21
  SPEAKER_00: Was ja schon krass genug ist.
• 1:23
  SPEAKER_01: Ja, aber das sind Systeme, die fundamental gegen die festgelegten Sicherheitsrichtlinien verstoßen.
• 1:28
  SPEAKER_01: Für sonstige Verstöße sind es dann 15 Millionen oder 3% und 50.000 Euro, wenn man schlicht die Auskunftspflicht verletzt.
• 1:37
  SPEAKER_01: Das schafft keinen Terror, sondern einen verlässlichen Rahmen für Investoren.
• 1:41
  SPEAKER_00: Verlässlicher Rahmen.
• 1:43
  SPEAKER_00: Das erdrückt uns in der Praxis komplett.
• 1:45
  SPEAKER_00: Stellt euch das doch mal konkret vor.
• 1:47
  SPEAKER_00: Ihr habt ein KI-Startup in München.
• 1:50
  SPEAKER_00: Euer Produkt ist ein HR-Tool, das Bewerbungsunterlagen automatisch vorfiltert.
• 1:55
  SPEAKER_01: Was dann laut EU in die High-Risk-Kategorie fällt.
• 1:58
  SPEAKER_00: Exakt.
• 1:59
  SPEAKER_00: Und ab August braucht ihr dann ein Pflichtaudit, das euch locker mal 50.000 Euro kostet.
• 2:05
  SPEAKER_00: Das ist ja nicht nur Papierkram.
• 2:07
  SPEAKER_00: Wir reden hier über die Offenlegung eurer gesamten Architektur.
• 2:10
  SPEAKER_00: Wer soll das denn bezahlen?
• 2:12
  SPEAKER_01: Genau, das ist der entscheidende technische Punkt, an dem wir tiefer gehen wissen.
• 2:16
  SPEAKER_01: Ein Audit bedeutet hier halt, dass ihr die Blackbox eurer neuronalen Netze öffnen müsstet.
• 2:20
  SPEAKER_01: Ihr müsst die Herkunft eurer Trainingsdaten lückenlos nachweisen.
• 2:23
  SPEAKER_00: Was bei den meisten Startups eh schon ein Albtraum ist.
• 2:26
  SPEAKER_01: Klar, ihr müsst eure Modellgewichte dokumentieren und technisch belegen können, wie genau eine spezifische Entscheidung eures Algorithmus zustande kommt.
• 2:35
  SPEAKER_01: Ich verstehe total, dass das extrem aufwendig ist, aber genau aus diesem Grund wird jetzt eine zentrale Struktur aufgebaut.
• 2:42
  SPEAKER_00: Oh ja, die glorreiche zentrale Struktur.
• 2:46
  SPEAKER_01: Ja, um das Chaos von 18 verschiedenen Datenschutzbehörden zu verhindern, wie wir es bei der DSGVO schmerzhaft erlebt haben.
• 2:54
  SPEAKER_00: Und diese zentrale Struktur ist dann die Bundesnetzagentur, richtig?
• 2:57
  SPEAKER_00: Also die Behörde, die in Deutschland für Briefmarken, Eisenbahn und Gasleitungen zuständig ist, die soll nun eine Technologie überwachen, die sich alle sechs Monate komplett revolutioniert.
• 3:10
  SPEAKER_01: Das ist jetzt ein bisschen polemisch.
• 3:12
  SPEAKER_00: Die Analogie drängt sich doch auf.
• 3:14
  SPEAKER_00: Wir versuchen, einen Formel-1-Wagen mit den Regeln der Straßenverkehrsordnung von 1950 zu drosseln.
• 3:20
  SPEAKER_01: Der Vergleich hinkt total, denn die Bundesnetzagentur macht das ja nicht allein.
• 3:24
  SPEAKER_01: Darunter wird das neue Kokovo angesiedelt.
• 3:27
  SPEAKER_00: Das Koordinierungs- und Kompetenzzentrum, ja?
• 3:30
  SPEAKER_01: Richtig.
• 3:31
  SPEAKER_01: Das müsst ihr euch quasi als den technischen Übersetzungslayer vorstellen.
• 3:35
  SPEAKER_01: Das Kokovo ist dafür da, Gesetzestexte, die von Politikern geschrieben wurden, in konkrete, messbare Anforderungen für euren Python-Code zu übersetzen.
• 3:44
  SPEAKER_00: Pythoncode von Bürokraten, na toll.
• 3:47
  SPEAKER_01: Und für Startups gibt es das Real-Labor.
• 3:49
  SPEAKER_01: Ein geschützter Raum, um KI unter behördlicher Begleitung zu testen, ohne dass direkt die 35 Millionen Euro-Keule schwingt.
• 3:57
  SPEAKER_00: Ein einziges Real-Labor.
• 3:59
  SPEAKER_00: Für 3,5 Millionen Unternehmen in Deutschland.
• 4:02
  SPEAKER_00: Während wir hier Stempel verteilen und auf Übersetzungen vom Kokovo warten, investieren die USA und China dreistellige Milliardenbeträge in ihrer KI-Infrastruktur.
• 4:12
  SPEAKER_01: Die USA haben aber auch andere Probleme mit KI-Sicherheit.
• 4:15
  SPEAKER_00: Trotzdem völlig ohne diese bürokratischen Fesseln.
• 4:18
  SPEAKER_00: Mathematisch bricht das einfach die Risikogleichung für jedes junge Tech-Unternehmen hier bei uns.
• 4:24
  SPEAKER_01: Da bist du echt zu sehr auf den schnellen Release-Zyklus fixiert.
• 4:27
  SPEAKER_01: Schau dir doch mal die gesetzliche Personalpflicht an, die schon seit Februar 2025 gilt.
• 4:34
  SPEAKER_01: KI-Kompetenz beim Personal ist jetzt vorgeschrieben.
• 4:37
  SPEAKER_01: Das zwingt Unternehmen dazu, tiefgreifend in die Architekturfähigkeiten ihrer Teams zu investieren, anstatt nur blind fremde APS Eyes zusammenzuklicken.
• 4:46
  SPEAKER_00: Ja, gut, das stimmt schon.
• 4:47
  SPEAKER_01: Das macht den Tech-Standort Deutschland langfristig viel robuster.
• 4:51
  SPEAKER_01: Aber genau weil die Behörden diese Prozesse gerade erst aufbauen, liegt die Beweislast momentan komplett bei euch entwicklern.
• 4:58
  SPEAKER_01: Wenn ihr diese Übergangsphase überleben wollt, müsst ihr jetzt eure Systeme anpassen.
• 5:02
  SPEAKER_00: Richtig.
• 5:03
  SPEAKER_00: Also, was bedeutet das ganz konkret für den nächsten Sprint?
• 5:06
  SPEAKER_01: Drei handfeste Architekturanpassungen.
• 5:09
  SPEAKER_01: Erstens, durchleuchtet eure Codebase und prüft, ob Features wie Kundenservice-Bots oder HR-Filter in die High-Risk-Kategorie rutschen.
• 5:18
  SPEAKER_01: Isoliert diese Systeme in eurer Architektur.
• 5:22
  SPEAKER_00: Wichtiger Punkt.
• 5:23
  SPEAKER_00: Und zweitens?
• 5:23
  SPEAKER_01: Zweitens, plant im nächsten Sprint-Budget sofort Zeit und Geld für die Audit-Infrastruktur ein.
• 5:30
  SPEAKER_01: Ihr braucht Logging-Tools, die eure Modellentscheidungen tracken.
• 5:33
  SPEAKER_00: Das wird teuer.
• 5:34
  SPEAKER_01: Ja, aber drittens müsst ihr ab heute lückenlos die Provenienz eurer Trainingsdaten dokumentieren.
• 5:40
  SPEAKER_01: Nur so entgeht ihr der 50.000 Euro Falle bei der Auskunftspflicht.
• 5:44
  SPEAKER_00: Okay, das sind die To-Dos, die ihr direkt umsetzen könnt.
• 5:47
  SPEAKER_00: Aber lasst uns den Blick für die letzten Sekunden noch einmal zurück zu unserer Startstatistik lenken.
• 5:52
  SPEAKER_00: Überdenkt diese 35 Millionen Euro Strafe.
• 5:55
  SPEAKER_00: Ist das wirklich der nötige Schutzschild für unsere Infrastruktur, der langfristig Vertrauen in Technologie schafft?
• 6:03
  SPEAKER_00: Oder ist es am Ende das endgültige Preisschild, an dem die deutsche KI-Innovation stirbt?
• 6:09
  SPEAKER_00: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI-Espresso.
• 6:14
  SPEAKER_00: Jeden Tag eine neue KI-Debatte in sechs Minuten.
• 6:17
  SPEAKER_00: Das war KI Espresso.
• 6:20
  SPEAKER_01: Fragt euch abschließend einfach mal, wie würdet ihr eure Algorithmen heute strukturieren, wenn ihr wüsstet, dass morgen der Prüfer exakt auf Beidebenen nachvollziehen will, warum euer Modell diese eine spezifische Entscheidung getroffen hat.