Latest / KI Espresso / Cambridge Analytica 2.0 — jetzt made in DACH

Transcript

Cambridge Analytica 2.0 — jetzt made in DACH · KI Espresso

• 0:00
  SPEAKER_00: 18 Monate brauchte der EU AI-Akt bis zum Einkraft treten, bevor die Bundesregierung heute den Schutzschild wieder aushöhlte.
• 0:08
  SPEAKER_01: Das ist wirklich ein harter Schlag.
• 0:10
  SPEAKER_00: Also, wir stützen uns für unsere Analyse heute auf den geleakten Inside Global Tech Report vom 12.
• 0:16
  SPEAKER_00: Mai.
• 0:17
  SPEAKER_00: Dazu offizielle Regierungserklärungen und aktuelle Marktanalysen.
• 0:21
  SPEAKER_00: Unsere Mission ist klar.
• 0:22
  SPEAKER_00: Wir wollen für euch entschlüsseln, was hier gerade wirklich passiert.
• 0:26
  SPEAKER_00: Retten wir die europäische Wirtschaft oder verkaufen wir unsere Bürgerrechte?
• 0:29
  SPEAKER_01: Genau das ist die große Frage.
• 0:31
  SPEAKER_00: Weil wenn man sich die Wirtschaftsdaten ansieht, argumentieren die Branchenvertreter ja, dass es höchste Zeit für diesen KI-Omnibus-Kompromiss war.
• 0:39
  SPEAKER_00: Die sprechen von einem absoluten Kollaps, also wirklich.
• 0:42
  SPEAKER_01: Moment, Kollaps?
• 0:43
  SPEAKER_01: Das ist doch exakt das Narrativ der Lobbyisten, dass.
• 0:46
  SPEAKER_00: Naja, aber guck dir Aleph Alpha an, unser deutsches KI-Aushängeschild.
• 0:50
  SPEAKER_00: Die wurden gerade von Coher geschluckt.
• 0:52
  SPEAKER_00: Ja, aber.
• 0:53
  SPEAKER_00: Und das warum ist hier entscheidend.
• 0:56
  SPEAKER_00: Nicht, weil die Technik irgendwie schlecht war, sondern weil Startups plötzlich Unsummen, also wirklich Unsummen für externe Audits, Zertifizierungen und streng lokalisierte Serverarchitekturen ausgeben mussten.
• 1:09
  SPEAKER_01: Okay, das mit den Kosten, das bestreitet ja niemand, aber.
• 1:12
  SPEAKER_00: Das Compliance-Budget hat einfach das aufgefressen, was eigentlich für Rechenpower, also für GPUs, gebraucht wurde.
• 1:19
  SPEAKER_00: Deep Elf hat 250 Stellen abgebaut, Mistral sitzt auf 830 Millionen Euro Schulden.
• 1:25
  SPEAKER_00: Die alte Regulierung war einfach wie ein Tempolimit von 10 Kilometer H auf der Datenautobahn.
• 1:31
  SPEAKER_00: Vielleicht sicher ja, aber die europäische Wirtschaft bleibt da komplett auf der Strecke.
• 1:35
  SPEAKER_01: Da muss ich jetzt aber wirklich hart widersprechen.
• 1:38
  SPEAKER_01: Dieses Innovationsargument lehne ich komplett ab.
• 1:41
  SPEAKER_01: Kritiker sehen in dieser sogenannten Rettung der Wirtschaft einen reinen Vorwand, um einen beispiellosen demokratischen Bypass zu rechtfertigen.
• 1:50
  SPEAKER_00: Bypass?
• 1:51
  SPEAKER_00: Das ist jetzt aber ein starkes Wort.
• 1:53
  SPEAKER_01: Naja, das ist im Grunde ein Ausverkauf der Demokratie.
• 1:57
  SPEAKER_01: Der Inside Global Tech League, also dieser Bericht vom 12.
• 2:00
  SPEAKER_01: Mai, der zeigt doch im Detail, was hier abläuft.
• 2:03
  SPEAKER_01: Die strengen Schwellenwerte dafür, was rechtlich als Hochrisiko-KI gilt, die wurden eben nicht transparent im Parlament gelockert.
• 2:10
  SPEAKER_01: Sondern?
• 2:11
  SPEAKER_01: Die wurden heimlich aufgeweicht, durch sogenannte Kommissionsguidelines.
• 2:15
  SPEAKER_01: Das bedeutet mechanisch, man ändert einfach die technischen Definitionen in den Anhängen des Gesetzes, ohne, und das ist der Punkt, ohne die gewählten Abgeordneten, überhaupt abstimmen zu lassen.
• 2:26
  SPEAKER_00: Ah, okay.
• 2:27
  SPEAKER_01: Die Dokumente zeigen das ganz klar als massiven Triumph der Bitkom- und ITI-Lobby-Achse, die hier komplett an der demokratischen Kontrolle vorbeigeht.
• 2:36
  SPEAKER_00: Worter dagegen, wie willst du denn demokratische Abstriche oder ein Festhalten an diesen extrem starren Regularien rechtfertigen, wenn uns die Bürokratie buchstäblich lähmt?
• 2:46
  SPEAKER_00: Wir haben 73 Millionen ungenutzte EPA-Akten, weil man sich jahrelang in extrem komplexen, überlappenden Datenschutzvorgaben verheddert hat.
• 2:56
  SPEAKER_01: Ja, die EPA war ein Problem, aber.
• 2:58
  SPEAKER_00: Statt ein funktionierendes System zu bauen, das ist doch das Kernargument.
• 3:02
  SPEAKER_00: Überregulierung führt zu komplettem Stillstand.
• 3:05
  SPEAKER_00: Kanzler Merz nannte den heutigen Kompromiss den Weg zurück in die KI Champions League.
• 3:11
  SPEAKER_01: KI Champions League, ja sehr medienwirksam.
• 3:13
  SPEAKER_00: Aber für Giganten wie SAP, Siemens oder Bosch bedeutet das doch ganz konkret, wenn ihre Systeme nicht mehr in die Hochrisikokategorie fallen, dann sparen die sofort Milliarden an sinnlosen Zertifizierungskosten.
• 3:27
  SPEAKER_01: Milliarden, ja.
• 3:28
  SPEAKER_00: Genau, Milliarden, die endlich in die echte technologische Entwicklung fließen können.
• 3:32
  SPEAKER_01: Aber genau diese Effizienzverteidigung greifen die Datenschutzexperten extrem scharf an.
• 3:36
  SPEAKER_01: Sie warnen, dass wir bei all den bejubelten Ersparnissen gerade die Infrastruktur für ein Cambridge Analytica 2.0 in der Dachregion aufbauen.
• 3:44
  SPEAKER_00: Cambridge Analytica 2.0.
• 3:46
  SPEAKER_00: Ist das nicht etwas hysterisch?
• 3:48
  SPEAKER_01: Überhaupt nicht.
• 3:48
  SPEAKER_01: Lass uns das mal an dem konkreten Beispiel durchspielen, das die Quellen anführen.
• 3:52
  SPEAKER_01: SAP Joel.
• 3:53
  SPEAKER_00: Okay, das Assistenzsystem.
• 3:55
  SPEAKER_01: Richtig, das ist ein System, das in Unternehmen unter anderem bei automatisierten Kreditwürdigkeitsprüfungen oder HR-Entscheidungen, also beim Aussortieren von Bewerbungen, eingesetzt werden kann.
• 4:05
  SPEAKER_00: Standard eigentlich heutzutage.
• 4:07
  SPEAKER_01: Ja.
• 4:08
  SPEAKER_01: Aber wenn man nun durch diese Hinterzimmerguidelines die rechtliche Definition heimlich so verschiebt, dass Joule plötzlich aus der Hochrisikoklasse fällt, dann verliert der Bürger seine grundlegenden Rechte.
• 4:21
  SPEAKER_00: Was heißt das konkret für mich?
• 4:22
  SPEAKER_01: Wenn die KI deine Bewerbung ablehnt, hast du rechtlich null Anspruch mehr auf eine Erklärung oder einen Einspruch.
• 4:29
  SPEAKER_01: Um mal auf deine Metapher von vorhin zurückzukommen.
• 4:32
  SPEAKER_00: Die Datenautobahn.
• 4:33
  SPEAKER_01: Genau.
• 4:34
  SPEAKER_01: Ein Tempolimit aufzuheben, ist eine Sache.
• 4:37
  SPEAKER_01: Aber hier warnen die Experten, dass gerade die Bremsen für 73 Millionen Bürger einfach ausgebaut werden.
• 4:43
  SPEAKER_00: Das ist ein extrem hartes Bild.
• 4:45
  SPEAKER_00: Und genau das bringt uns zu dem Punkt, den ihr, die jetzt zuhören, für euch selbst bewerten müsst.
• 4:52
  SPEAKER_01: Unbedingt.
• 4:53
  SPEAKER_00: Ich möchte, dass ihr unseren Eröffnungssatz und diese Zahl von 73 Millionen Akten noch einmal völlig neu betrachtet?
• 5:01
  SPEAKER_00: Ist das der Preis, den man zahlen muss, um technologisch überhaupt noch zu überleben?
• 5:05
  SPEAKER_01: Oder ist es die exakte Anzahl an Bürgern, deren Schutzrechte heute auf dem Altar der Industrie geopfert wurden?
• 5:12
  SPEAKER_00: Das ist wirklich die Frage.
• 5:13
  SPEAKER_01: Ja.
• 5:14
  SPEAKER_01: Denn wenn die Schwellenwerte für Hochrisiko-KI ab sofort heimlich in Brüsseler hinter Zimmerrichtlinien verschoben werden, wer steuert dann eigentlich die Algorithmen, die morgen über euren Behandlungsplan im Krankenhaus entscheiden?
• 5:26
  SPEAKER_00: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso.
• 5:30
  SPEAKER_00: Jeden Tag eine neue KI-Debatte in sechs Minuten.