Latest / KI Espresso / Google lobt Kandidaten: Muss die Wahl-KI schweigen?

Transcript

Google lobt Kandidaten: Muss die Wahl-KI schweigen? · KI Espresso

• 0:00
  SPEAKER_00: In einer manuell geprüften Stichprobe von Googles Wahl KI wurden 81,5 Prozent der Antworten zu CDU-Kandidaten positiv formuliert.
• 0:10
  SPEAKER_00: Bei der AfD waren es 0%.
• 0:12
  SPEAKER_00: Wir haben es hier also mit einer Technologie zu tun, die unsere Informationsbeschaffung komplett umkrempelt.
• 0:19
  SPEAKER_00: Und genau deshalb vertrete ich den Standpunkt, diese Daten erfordern harte, fortlaufende Live-Audits.
• 0:26
  SPEAKER_00: Aber wir dürfen KI-Zusammenfassungen vor Wahlen auf gar keinen Fall abschalten.
• 0:31
  SPEAKER_00: Ein Stopp würde halt nur die klassische Suchrangliste wieder stärken, die blauen Links.
• 0:36
  SPEAKER_00: Die filtern ganz genauso, agieren aber noch viel unsichtbarer.
• 0:41
  SPEAKER_01: Da muss ich direkt reingrätschen, denn das sehe ich völlig anders.
• 0:44
  SPEAKER_01: Gerade weil diese Studiengröte ja noch relativ klein ist und wir Googles Ausspielregeln schlicht nicht kennen, ist das ein gewaltiges Risiko.
• 0:53
  SPEAKER_01: Also ich vertrete die Position, KI-Antworten über Kandidaten müssen vor Wahlen zwingend blockiert werden, bis ein unabhängiges Audit da vorab eine neutrale Behandlung verifiziert.
• 1:04
  SPEAKER_01: Ein misslungener Test am Wähler lässt sich nach dem Wahltag ja nicht einfach, naja, zurückrollen.
• 1:10
  SPEAKER_01: Erst prüfen, dann sprechen.
• 1:12
  SPEAKER_00: Ja, ich verstehe deine Sorge um eine mögliche Wählerbeeinfrissung echt, aber wir müssen uns doch die Realität der Daten ansehen.
• 1:21
  SPEAKER_00: Die aktuelle Algorithmenwatch-Studie, also die mit ihren über 4.480 Suchen, die zeigt doch ganz deutlich, dass Google längst Schutzmechanismen eingebaut hat.
• 1:30
  SPEAKER_00: Inwiefern das denn?
• 1:31
  SPEAKER_00: Naja, die KI-Übersichten erschienen nur bei knapp 39% der Wahlfragen, während sie bei unpolitischen Suchen in über 65% der Fälle anspringen.
• 1:41
  SPEAKER_00: Google agiert da also bereits deutlich vorsichtiger.
• 1:44
  SPEAKER_00: Ein Live-Betrieb erlaubt uns, diese Raten öffentlich zu prüfen, statt aus Angst gleich.
• 1:49
  SPEAKER_02: Aber Moment, diese sogenannte Vorsicht, die ist doch völlig intransparent.
• 1:54
  SPEAKER_02: Die Studie belegt schwarz auf weiß, bei AfD-Fragen generiert die KI nur in 24% der Fälle eine Antwort.
• 2:01
  SPEAKER_02: Bei anderen Parteien sind es aber 45 bis 58 Prozent.
• 2:06
  SPEAKER_02: Warum wird genau da die Grenze gezogen?
• 2:09
  SPEAKER_00: Wenn wir darüber diskutieren, wie Googles KI die Wähler, also im Sachsen-Anhalt-Wahlkampf, informiert, müssen wir echt die Relationen wahren.
• 2:17
  SPEAKER_00: Absolut.
• 2:18
  SPEAKER_00: Wir sprechen hier über eine winzige Teilstichprobe.
• 2:22
  SPEAKER_00: Exakt 111 manuell ausgewertete KI-Übersichten zu politischen Kandidaten.
• 2:28
  SPEAKER_00: Das ist, naja, rigoros betrachtet, ein rein explorativer Vorstoß.
• 2:32
  SPEAKER_00: Die Untersuchung hat überhaupt keine wissenschaftliche Repräsentativität.
• 2:36
  SPEAKER_01: Richtig, ich verstehe, worauf du hinaus willst.
• 2:39
  SPEAKER_01: Bei gerade einmal 111 untersuchten Fällen können wir keine riesigen Schlüsse ziehen.
• 2:45
  SPEAKER_00: Naja, es gibt in dieser Studie schlicht keinen Beleg für eine absichtliche politische Bevorzugung seitens der KI.
• 2:52
  SPEAKER_00: Es gibt keine Kausalität und vor allem es wurden keine tatsächlichen Effekte auf das Wählerverhalten gemessen.
• 2:58
  SPEAKER_00: Ja, aber.
• 3:00
  SPEAKER_00: Die extrahierten Links stammen massiv von öffentlich-rechtlichen Medien, Regierungsseiten und Wikipedia.
• 3:06
  SPEAKER_00: Das ist ein legitimer Qualitätsfilter, um Falschinformationen abzuwehren.
• 3:10
  SPEAKER_01: Warte mal, da muss ich kurz einhaken.
• 3:12
  SPEAKER_01: Du sprichst von verlässlichen Textquellen.
• 3:15
  SPEAKER_01: Aber die Studie zeigt, dass YouTube, wohlgemerkt, ein eigenes Google-Produkt die meist zitierte Domain überhaupt war.
• 3:22
  SPEAKER_01: Naja, das ist.
• 3:23
  SPEAKER_01: Ein einfaches kleines Quellenlogo unter dem KI-Text reicht da einfach nicht aus.
• 3:29
  SPEAKER_01: Prüfer müssen die Auswahl der Beweise komplett nachvollziehen können.
• 3:33
  SPEAKER_00: Nur durch diesen gesetzlichen Hebel haben die Forscher überhaupt systematisch Zugang zu diesen Daten bekommen.
• 3:39
  SPEAKER_01: Aber Fehlerfreiheit ist doch nicht gleichbedeutend mit Neutralität.
• 3:44
  SPEAKER_01: Selbst wenn die nackten Fakten stimmen, übernimmt das Modell durch rein positive Formulierungen politische Wertungen.
• 3:51
  SPEAKER_00: Ich sehe, warum dir das Bauchschmerzen bereitet.
• 3:53
  SPEAKER_00: Wirklich.
• 3:54
  SPEAKER_00: Aber positive oder naja, scharfe Adjektive sind nicht automatisch falsch.
• 4:01
  SPEAKER_00: Eine harte kritische Einordnung kann sachlich durch die zitierten Quellen absolut gedeckt sein.
• 4:07
  SPEAKER_00: Trotzdem, wenn wir einen Vorabstopp fordern, zwingen wir die Prüfer im Grunde zur Sprachkontrolle.
• 4:13
  SPEAKER_00: Wir müssten politische Adjektive zentral freigeben oder verbieten.
• 4:18
  SPEAKER_00: Der DSA verlangt Risikobewertungen und Audits, aber eben kein präventives Verbot.
• 4:23
  SPEAKER_01: Ich fordere ja gar keine staatliche Sprachkontrolle, sondern eine sehr schmale, redaktionelle Sicherheitsregel.
• 4:30
  SPEAKER_01: Google soll weiterhin klassische Links liefern, aber halt keine selbstgeschriebenen Charakterisierungen von Kandidaten generieren.
• 4:38
  SPEAKER_01: Deshalb halte ich meine Empfehlung für eine harte Sperre aufrecht, bis dieser Neutralitätsnachweis erbracht ist.
• 4:44
  SPEAKER_01: Die Beweislast muss vor der Wahl bei dem liegen, der den Text erzeugt.
• 4:48
  SPEAKER_00: Und ich halte meine Empfehlung genauso aufrecht.
• 4:51
  SPEAKER_00: Ein Live-Audit im laufenden Betrieb mit veröffentlichten Ausspielraten ist der transparentere Weg.
• 5:00
  SPEAKER_00: Wer die KI einfach abschaltet, verlässt sich blind wieder auf die klassischen blauen Links und tut so, als wären die völlig roh und unvoreingenommen.
• 5:08
  SPEAKER_01: Die bloße Sichtbarkeit danach reicht vor Wahlen aber einfach nicht aus.
• 5:13
  SPEAKER_01: Die Forschenden konnten die Unterschiede messen, aber die eigentliche Regel dahinter nicht verstehen.
• 5:19
  SPEAKER_00: Der erste logische Schritt ist doch, zu erfassen, wie oft die KI überhaupt eingreift.
• 5:24
  SPEAKER_00: Wir brauchen ganz klare, messbare Aktivierungsraten.
• 5:27
  SPEAKER_00: Wir müssen exakt wissen, bei welchen politischen Suchanfragen das System getriggert wird und bei welchen nicht, um Muster zu erkennen.
• 5:35
  SPEAKER_01: Wenn die KI eine politische Position zusammenfasst, muss die genaue Quellenbasis im Hintergrund zwingend gespeichert werden.
• 5:43
  SPEAKER_01: Jeder Fakt, den das System generiert, muss für unabhängige Prüfer nachträglich reproduzierbar sein.
• 5:49
  SPEAKER_00: Richtig.
• 5:49
  SPEAKER_00: Deshalb reicht eine einmalige Überprüfung der Quellen nicht.
• 5:53
  SPEAKER_00: Wir brauchen unabhängige Wiederholungstests im Live-Betrieb.
• 5:57
  SPEAKER_00: Das System muss kontinuierlich über verschiedene Parteien und Zeitpunkte hinweg abgefragt werden.
• 6:03
  SPEAKER_01: Dafür erfordert es eine fest definierte, messbare Neutralitätsschwelle.
• 6:08
  SPEAKER_01: Und wenn diese Schwelle überschritten wird, brauchen wir eine unverregbare Korrekturfrist.
• 6:13
  SPEAKER_01: Was uns zur entscheidenden Frage führt, also, was passiert, wenn Google diese Frist reißt?
• 6:18
  SPEAKER_01: Welcher Zustand, welcher Default greift beim Nichtbestehen der Tests?
• 6:22
  SPEAKER_01: Da kommen wir echt nicht zusammen.
• 6:24
  SPEAKER_00: Ja, da haben wir fundamental andere Ansichten.
• 6:27
  SPEAKER_00: Wenn Google Kandidaten beschreibt, ist die entscheidende Frage nicht nur, ob die Antwort stimmt, sondern, wer darf sie stoppen, bevor sie politisch wirkt?
• 6:37
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI-Espresso.
• 6:42
  SPEAKER_01: Jeden Werktag eine neue KI-Debatte in sechs Minuten.
• 6:46
  SPEAKER_01: Das war KI Espresso.