Latest / KI Espresso / Mileis KI-Polizei: Verhindert sie Verbrechen – oder Protest?

Transcript

Mileis KI-Polizei: Verhindert sie Verbrechen – oder Protest? · KI Espresso

• 0:00
  SPEAKER_01: 1,2 Millionen Dollar gibt Argentinien für Algorithmen aus, die Gesichter abgleichen, soziale Netze durchkämmen und künftige Verbrechen vorhersagen sollen.
• 0:11
  SPEAKER_01: Also bei organisierter Kriminalität und Cyberangriffen, da können genau diese, sagen wir mal, schnellen, maschinellen Hinweise echte Opfer verhindern.
• 0:21
  SPEAKER_01: Wir brauchen diesen Schutz, natürlich mit harten Grenzen.
• 0:25
  SPEAKER_01: Ein KI-Hinweis ist ja noch lange keine Verhaftung.
• 0:29
  SPEAKER_00: Da halte ich dagegen.
• 0:30
  SPEAKER_00: Naja, genau diese Trennung funktioniert in der Praxis leider überhaupt nicht.
• 0:34
  SPEAKER_00: Ich meine, wer Social Media Daten, Livekameras, Drohnen und historische Polizeidaten verknüpft, der baut eine beispiellose Macht über Menschen auf.
• 0:44
  SPEAKER_00: Und zwar lange, bevor überhaupt ein konkreter Verdacht existiert.
• 0:48
  SPEAKER_00: Meine Haltung ist da eindeutig.
• 0:50
  SPEAKER_00: Keine Kontrolle vor Verdacht.
• 0:51
  SPEAKER_01: Ich widerspreche.
• 0:52
  SPEAKER_01: Das klingt jetzt so nach willkürlicher Massenüberwachung ohne rechtlichen Rahmen.
• 0:58
  SPEAKER_01: Aber gucken wir doch mal, wie höchste juristische Instanzen das bewerten.
• 1:03
  SPEAKER_00: Okay.
• 1:04
  SPEAKER_01: Selbst das deutsche Bundesverfassungsgericht hat 2023 die automatisierte Datenanalyse durch die Polizei nicht pauschal verboten.
• 1:14
  SPEAKER_01: Richtig, aber sie haben lediglich strengere Schwellen für den Einsatz gefordert.
• 1:19
  SPEAKER_01: Der Staat muss diese technologischen Werkzeuge einfach nutzen dürfen.
• 1:23
  SPEAKER_01: Nichtstun ist angesichts moderner, datengetriebener Bedrohungen halt keine neutrale Politik.
• 1:30
  SPEAKER_00: Der rechtliche Vergleich hink da allerdings massiv, vor allem wenn wir das breitere Bild betrachten.
• 1:34
  SPEAKER_00: Der EU AI-Act zum Beispiel zieht da aus gutem Grund eine messscharfe rote Linie.
• 1:40
  SPEAKER_00: Wieso?
• 1:40
  SPEAKER_00: Individuelles Predictive Policing, das rein auf Profiling oder Persönlichkeitseigenschaften basiert, ist in Europa schlicht streng verboten.
• 1:49
  SPEAKER_00: Und auch die Echtzeit-Gesichtserkennung im öffentlichen Raum bleibt extrem limitiert.
• 1:54
  SPEAKER_00: Ja, in Europa.
• 1:55
  SPEAKER_00: Genau.
• 1:56
  SPEAKER_00: Warum?
• 1:57
  SPEAKER_00: Weil die Gefahr, dass völlig harmlose Verhaltensmuster kriminalisiert werden, einfach viel zu groß ist.
• 2:02
  SPEAKER_01: Es kommt aber auf die exakte Umsetzung an.
• 2:04
  SPEAKER_01: Es liegt explizit fest, dass legal geäußerte, politische Meinungen allein kein Indikator für Kriminalität sein dürfen.
• 2:12
  SPEAKER_01: Und es gibt eine klare Mechanik, Daten müssen zwingend gelöscht werden, wenn nach der maschinellen Auswertung kein justiziables Verfahren folgt.
• 2:22
  SPEAKER_01: Das sind doch genau diese institutionellen Leitplanken, die einen Machtmissbrauch verhindern.
• 2:27
  SPEAKER_00: Ein Regelwerk auf dem Papier fängt aber die psychologische und gesellschaftliche Realität solcher Systeme nicht auf.
• 2:35
  SPEAKER_00: Also Theorie und Praxis fallen hier massiv auseinander.
• 2:38
  SPEAKER_00: Inwiefern?
• 2:38
  SPEAKER_00: Amnesty dokumentiert bereits mutmaßliche Repressalien.
• 2:42
  SPEAKER_00: Journalisten, Aktivisten und marginalisierte Gruppen zensieren sich aus Angst selbst oder, und das ist krass, sie meiden völlig legale Proteste, eine demokratische Abschreckung, die kein Löschprotokoll der Welt einfach so ungeschehen macht.
• 2:56
  SPEAKER_01: Ich sehe, warum diese Berichte alarmierend wirken, absolut.
• 3:00
  SPEAKER_01: Aber du machst aus einer reinen Analysemöglichkeit der Ermittler sofort eine automatische Verurteilung.
• 3:06
  SPEAKER_00: Weil es oft darauf hinausläuft.
• 3:08
  SPEAKER_01: Nein, die vorliegenden Quellen belegen nicht, dass in Argentinien Menschen allein wegen eines Algorithmus verhaftet werden.
• 3:15
  SPEAKER_01: Das technologische Modell priorisiert ja lediglich Informationsfluten, die ein Mensch so niemals überblicken könnte.
• 3:22
  SPEAKER_01: Der Mensch entscheidet am Ende, ob eine echte Gefahr vorliegt.
• 3:25
  SPEAKER_00: Genau da müssen wir erklären, wie diese Systeme arbeiten.
• 3:29
  SPEAKER_00: Ein Algorithmus gewichtet aber Millionen Datenpunkte.
• 3:33
  SPEAKER_00: Wenn er harmlose Verbindungen auf Social Media durch statistische Korrelationen als Risiko einstuft, bekommt der menschliche Beamte doch gar kein objektives Bild mehr.
• 3:43
  SPEAKER_00: Er bekommt einen Hinweis, er sieht eine maschinell vorsortierte Wirklichkeit.
• 3:48
  SPEAKER_00: Es ist fatal, erst eine automatisierte Überwachungsinfrastruktur im Land zu installieren und dann darauf zu hoffen, dass ein menschlich Filter diese enorme Vorverurteilungstendenz neutralisiert.
• 4:02
  SPEAKER_01: Okay.
• 4:02
  SPEAKER_00: Die Kombination dieser umfassenden Überwachungsfähigkeiten an sich ist das Gefährliche.
• 4:07
  SPEAKER_01: Ein Totalverzicht auf diese KI-gestützte Analyse bedeutet aber im Umkehrschluss, dass ein kriminelles Netzwerk im Vorfeld unentdeckt bleibt, obwohl die Daten zur Verhinderung dagewesen wären.
• 4:19
  SPEAKER_01: Das kann es doch auch nicht sein.
• 4:21
  SPEAKER_01: Mein Prüfstein für diese Technologie ist da pragmatisch.
• 4:24
  SPEAKER_01: Ich fordere den Einsatz ausschließlich bei konkret benannter schwerer Gefahr, also etwa bei Entführungen oder Cyberattacken.
• 4:31
  SPEAKER_01: Da sind wir ja schon viel konkreter.
• 4:33
  SPEAKER_01: Genau.
• 4:34
  SPEAKER_01: Wenn wir das mit strengen Löschfristen, menschlicher Letztentscheidungen und unabhängigen Audits kombinieren, dann überwiegt der Sicherheitsgewinn.
• 4:44
  SPEAKER_00: Und mein Prüfstein setzt eben viel früher an.
• 4:47
  SPEAKER_00: Ich weigere mich, ein populationsweites Profiling zu akzeptieren, solange nicht unabhängig bewiesen ist, dass alle anderen, weniger invasiven polizeilichen Mittel ausgeschöpft wurden und nachweislich nicht ausreichen.
• 5:01
  SPEAKER_00: Verstehe.
• 5:02
  SPEAKER_00: Wer großflächig Gesichter, soziale Beziehungen und Bewegungsprofile verknüpft, der muss die absolute Notwendigkeit jeder einzelnen Datenquelle nachweisen.
• 5:13
  SPEAKER_00: Ohne diesen strikten Nachweis riskieren wir, den absoluten Ausnahmefall zur Standardinfrastruktur zu machen, einer Infrastruktur, die legitimen gesellschaftlichen Widerspruch präventiv ersticken kann.
• 5:26
  SPEAKER_01: Kommen wir zurück zu den 1,2 Millionen Dollar, mit denen wir gestartet sind.
• 5:30
  SPEAKER_01: Letztlich steht da eine essentielle Frage im Raum, die jeder für sich abwägen muss.
• 5:34
  SPEAKER_01: Welche Seite ist gefährlicher?
• 5:36
  SPEAKER_01: Eine Polizei, die in einer digitalisierten Welt technologisch zu spät reagiert oder ein Staat, der Menschen algorithmisch bewertet, lange bevor ein konkreter Verdacht existiert.
• 5:46
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso jeden Tag eine neue KI-Debatte in sechs Minuten.
• 5:53
  SPEAKER_01: Das war KI Espresso.