Latest / KI Espresso / 50 Millionen Akten — Cambridge Analytica 2.0 im NHS

Transcript

50 Millionen Akten — Cambridge Analytica 2.0 im NHS · KI Espresso

• 0:00
  SPEAKER_00: Stell dir mal vor, 50 Millionen Patientenakten, also von deiner letzten Krebsvorsorge bis hin zur extrem seltenen Erbkrankheit in der Familie, die tauchen plötzlich auf den Bildschirmen von Subunternehmern eines US-Rüstungskonzerns auf.
• 0:15
  SPEAKER_01: Ja, und das völlig ohne, dass sich jemals jemand nach einer expliziten Erlaubnis gefragt hätte.
• 0:21
  SPEAKER_00: Genau.
• 0:21
  SPEAKER_00: Und damit willkommen zu unserer heutigen Analyse.
• 0:24
  SPEAKER_00: Wir knöpfen uns heute mal diesen ja wirklich unfassbaren 5-Milliarden-Fund-Vertrag des britischen Gesundheitssystems, also dem NHS, mit der Datenfirma Palantir vor.
• 0:36
  SPEAKER_01: Richtig.
• 0:37
  SPEAKER_01: Und unsere Mission heute ist es, diesen ultimativen Zielkonflikt zu entschlüsseln.
• 0:42
  SPEAKER_01: Also auf der einen Seite haben wir diese unglaublich effiziente, lebensrettende KI.
• 0:46
  SPEAKER_01: Und auf der anderen Seite den totalen Verlust der eigenen Datensouveränität.
• 0:52
  SPEAKER_00: Für unsere eigene elektronische Patientenakte im Dachraum bedeutet.
• 0:55
  SPEAKER_00: Also lass uns direkt reinspringen, warum macht der NHS so einen Deal überhaupt?
• 0:59
  SPEAKER_00: Und das auch noch ohne öffentliche Ausschreibung.
• 1:02
  SPEAKER_01: Also der NHS stand da quasi vor einer tickenden Zeitbombe.
• 1:06
  SPEAKER_01: Wir reden hier von über 1200 veralteten, komplett voneinander isolierten IT-Silos.
• 1:12
  SPEAKER_00: 1200?
• 1:13
  SPEAKER_00: Wahnsinn.
• 1:13
  SPEAKER_01: Ja, Wahnsinn, oder?
• 1:14
  SPEAKER_01: Das führt in der Praxis dazu, dass ein Krankenhaus in London schlichtweg nicht wusste, welche Blutgruppe ein Notfallpatient hat, der normalerweise in Manchester behandelt wird.
• 1:24
  SPEAKER_00: Das ist ja echt lebensgefährlich im Zweifel.
• 1:27
  SPEAKER_01: Absolut.
• 1:27
  SPEAKER_01: Und hier kommt eben Palantir Software namens Foundry ins Spiel.
• 1:31
  SPEAKER_01: Man darf sich das jetzt nicht wie eine riesige neue Festplatte vorstellen, auf die einfach alles kopiert wird.
• 1:35
  SPEAKER_00: Okay, sondern.
• 1:36
  SPEAKER_01: Ah, okay.
• 1:37
  SPEAKER_01: Das ist ja im Grunde genau die Weiterentwicklung von diesem britischen Covid-19-Data Store.
• 1:41
  SPEAKER_00: Genau der.
• 1:42
  SPEAKER_01: Da hat man ja damals in nur 72 Stunden die ganzen nationalen Datenströme so krass gebündelt, dass die Beatmungsgeräte exakt dorthin geliefert werden konnten, wo die Infektionswellen gerade am höchsten waren.
• 1:54
  SPEAKER_00: Richtig, das war damals extrem effektiv.
• 1:56
  SPEAKER_01: Und das Tony Blair-Institut, auf das wir uns hier auch beziehen, das rechnet bei diesem neuen Systemwechsel jetzt mit massiven Optimierungen.
• 2:04
  SPEAKER_01: Also bei Bettenbelegungen, Medikamenten und so weiter.
• 2:07
  SPEAKER_01: Die sprechen von Einsparungen von 1,5 Milliarden Pfund pro Jahr.
• 2:11
  SPEAKER_00: Ja, das ist eine gewaltige Summe.
• 2:13
  SPEAKER_00: Und jetzt kommt ja von den Befürwortern dieses Deals dieses eine Argument.
• 2:18
  SPEAKER_00: Wenn diese KI-gestützten Analysen jetzt plötzlich seltene Kinderkrankheiten aufspüren, die menschliche Ärzte bei Routine-Screenings über Jahre übersehen haben, ist es dann nicht irgendwie ethisch unverantwortlich, aus reinen Datenschutzbedenken auf diese Technologie zu verzichten?
• 2:37
  SPEAKER_01: Ja, das ist das Hauptargument.
• 2:40
  SPEAKER_01: Aber die Kritiker, darunter zum Beispiel der britische Ärzteverband BMA und auch Privacy International, die ziehen da eine völlig andere Bilanz.
• 2:49
  SPEAKER_00: Okay, was sagen die?
• 2:50
  SPEAKER_01: Die warnen ganz massiv vor einem Cambridge Analytica 2.0.
• 2:55
  SPEAKER_01: Das eigentlich Brisante steckt nämlich in der Architektur von diesem Vertrag.
• 2:59
  SPEAKER_00: Inwiefern?
• 3:00
  SPEAKER_01: Wir sprechen hier von Unlimited Access, also wirklich unbeschränktem Zugriff.
• 3:05
  SPEAKER_01: Das Systemdesign zwingt den NHS nicht nur dazu, Palantir selbst gewähren zu lassen.
• 3:11
  SPEAKER_01: Es erlaubt auch, dass eine ganze Kette von unkontrollierbaren Subunternehmern direkt an diesen intimen Datenstrom andockt.
• 3:20
  SPEAKER_00: Moment mal, das heißt, die spucken nicht nur ein anonymes Analyseergebnis aus, sondern geben direkten Zugang zu den intimsten Rohdaten.
• 3:29
  SPEAKER_01: Exakt.
• 3:30
  SPEAKER_01: Die Rohdaten verlassen quasi die staatliche Kontrolle.
• 3:33
  SPEAKER_00: Krass.
• 3:34
  SPEAKER_00: Und das Konstrukt gibt die Datenkontrolle aus staatlicher Hand ab.
• 3:38
  SPEAKER_00: Und wir reden hier wohlgemerkt von Palantir.
• 3:40
  SPEAKER_00: Deren Gründer Peter Thiel ist ja extrem tief in die US-Politik verstrickt.
• 3:45
  SPEAKER_01: Ja, besonders mit der Regierung um JD Vance.
• 3:48
  SPEAKER_00: Genau.
• 3:48
  SPEAKER_00: Und Edward Snowden weint, genau deshalb vor der geopolitischen Dimension.
• 3:53
  SPEAKER_00: Man muss sich das mal auf der Zunge zergehen lassen.
• 3:56
  SPEAKER_00: Ein ausländischer Konzern mit direkten Verbindungen zum US-Militär baut die digitale Infrastruktur für die Gesundheitsdaten einer ganzen Nation.
• 4:06
  SPEAKER_01: Und das bringt uns direkt zur Situation bei uns, also im Dachraum und speziell in Deutschland.
• 4:11
  SPEAKER_01: Hier wählt man bisher nämlich eine völlig andere Architektur.
• 4:15
  SPEAKER_00: Gott sei Dank, oder?
• 4:16
  SPEAKER_01: Naja, die Bundeswehr fährt hier die sogenannte Wildbergerlinie.
• 4:20
  SPEAKER_01: Das bedeutet eine strikte Ablehnung von Palantiersystemen.
• 4:23
  SPEAKER_01: Die haben einfach Angst vor Backdoors.
• 4:25
  SPEAKER_00: Also eingebauten Hintertüren?
• 4:27
  SPEAKER_01: Genau, durch die dann US-Geheimdienste unbemerkt Daten abgreifen könnten.
• 4:31
  SPEAKER_01: Auch das Bundesverfassungsgericht hat ja die Polizeisoftware von Palantir massiv in ihren Funktionen beschnitten.
• 4:37
  SPEAKER_00: Aber im Gesundheitswesen, da tickt die Uhr ja gewaltig.
• 4:40
  SPEAKER_00: 2025 startet die Gematik, also die Nationale Agentur für Digitale Medizin, mit der elektronischen Patientenakte für alle.
• 4:48
  SPEAKER_01: Richtig.
• 4:49
  SPEAKER_01: Und da versucht man, dieses Palantir-Szenario aus Großbritannien durch ein sogenanntes Datentreuhandmodell zu verhindern.
• 4:56
  SPEAKER_01: Das funktioniert konzeptionell komplett entgegengesetzt.
• 4:59
  SPEAKER_00: Wie kann ich mir das vorstellen?
• 5:00
  SPEAKER_01: Stell dir vor, deine Daten liegen in einem hochsicheren Tresor bei deiner Krankenkasse.
• 5:05
  SPEAKER_01: Wenn eine KI jetzt Analysen fahren will, bekommt die keinen Generalschlüssel.
• 5:08
  SPEAKER_00: Okay, das ist schon mal gut.
• 5:10
  SPEAKER_01: Stattdessen muss der Algorithmus quasi als Besucher in den Tresorraum kommen, führt dort seine Berechnungen durch und darf am Ende wirklich nur das nackte Ergebnis wieder mit nach draußen nehmen.
• 5:20
  SPEAKER_01: Ohne die eigentlichen Akten zu sehen.
• 5:22
  SPEAKER_00: Moment, da muss ich jetzt aber mal kurz reingrätschen.
• 5:25
  SPEAKER_00: Wenn der Algorithmus in den Tresorraum geht, klingt es in der Theorie natürlich super sicher.
• 5:30
  SPEAKER_00: Aber wenn der britische NHS mit seinem, ich nenne es mal Tür auf für alle Modell plötzlich Milliarden spart und die medizinische Forschung durch diesen unregulierten Rohdaten-Input komplett explodiert, wie lange hält denn diese deutsche Firewall da noch?
• 5:46
  SPEAKER_00: Wir sehen doch jetzt schon diesen massiven Technologie-Lobbyismus in Berlin.
• 5:50
  SPEAKER_01: Das ist die große Frage.
• 5:52
  SPEAKER_01: Es ist quasi ein offener Wettlauf.
• 5:54
  SPEAKER_01: Die kommenden Jahre werden zeigen müssen, ob dieser enorme wirtschaftliche und medizinische Druck den Architekturschutz unserer Datensouveränität irgendwann einfach überrollt.
• 6:04
  SPEAKER_00: Okay, das ist echt heftig.
• 6:05
  SPEAKER_00: Also wenn demnächst die elektronische Patientenakte auf dein Smartphone wandert, kennst du jetzt zumindest die Machtkämpfe, die da im Hintergrund ablaufen.
• 6:13
  SPEAKER_01: Absolut.
• 6:14
  SPEAKER_00: Wir haben hier wirklich zwei Realitäten auf dem Tisch liegen.
• 6:18
  SPEAKER_00: Einerseits diese KI-Technologie, die messbar Menschenleben rettet, und andererseits die beispiellose Privatisierung unserer intimsten Datenströme.
• 6:28
  SPEAKER_01: Deshalb kann man es nicht zusammenfassen.
• 6:30
  SPEAKER_00: Lass das am Ende mal kurz auf dich wirken.
• 6:33
  SPEAKER_00: Wenn eine KI deine unerkannte lebensbedrohliche Krankheit in wenigen Sekunden diagnostizieren und heilen könnte, der Preis für dieses System aber die permanente Übergabe all deiner medizinischen Geheimnisse an einen ausländischen Rüstungskonzern ist, wo genau ziehst du für dich ganz persönlich die rote Linie?