Latest / KI Espresso / 159 Millionen: Muss ChatGPT jetzt wie Google geprüft werden?

Transcript

159 Millionen: Muss ChatGPT jetzt wie Google geprüft werden? · KI Espresso

• 0:00
  SPEAKER_01: Und OpenAI meldete zuletzt rund 159,1 Millionen durchschnittlich aktive Empfänger pro Monat für seine Suchfunktion.
• 0:09
  SPEAKER_01: Also meine Position ist klar: dieses gesamte System muss sofort unter das strenge WLSE-Regime fallen.
• 0:16
  SPEAKER_01: Wer sucht und synthetisiert, trägt die volle Verantwortung.
• 0:21
  SPEAKER_00: Da halte ich dagegen.
• 0:23
  SPEAKER_01: Am 31.
• 0:24
  SPEAKER_01: August 2026 hat die Europäische Kommission, nämlich ChatCT GTP, nach dem Digital Services Act, also kurz DSA, offiziell als sehr große Online-Suchmaschine eingestuft.
• 0:37
  SPEAKER_00: Wenn wir jetzt fälschlicherweise dieses bequeme Etikett Suchmaschine auf ein generatives System kleben, können wir zwar regulatorisch viel kontrollieren, verfehlen aber die eigentliche Fehlerquelle.
• 0:48
  SPEAKER_00: Wir brauchen DSA-Regeln für die reine Suchfunktion, aber zwingend separate, neuartige Regeln für die Texterzeugung.
• 0:55
  SPEAKER_01: Ich widersprech, das ist.
• 0:57
  SPEAKER_01: Das ist einfach eine andere Technologie.
• 0:59
  SPEAKER_01: Ich widerspreche da wirklich vehement.
• 1:01
  SPEAKER_01: Wenn Menschen eine Frage stellen, das System das Web durchsucht und relevante Informationen liefert, erfüllt es exakt eine Suchfunktion.
• 1:10
  SPEAKER_01: Dass diese KI-Synthese flüssig formuliert ist, macht ihren Einfluss ja nicht kleiner, sondern äh, massiv größer.
• 1:18
  SPEAKER_01: Weil es gut klingt, ja.
• 1:20
  SPEAKER_01: Eben, gerade weil Nutzer dadurch viel weniger Quellen selbst vergleichen.
• 1:24
  SPEAKER_01: Die Synthese ist heute schlicht das primäre Produkt der Suche.
• 1:27
  SPEAKER_00: Und genau dieser enorme Einfluss erfordert passgenaue Regulierung und keine hastige Notlösung.
• 1:34
  SPEAKER_00: Du argumentierst ja gerade so, als ob die Einstufung schon eine Strafe wäre.
• 1:39
  SPEAKER_00: Dabei ist die reine Benennung noch kein festgestellter Verstoß.
• 1:42
  SPEAKER_00: Naja, es ist ein mächtiger Hebel.
• 1:44
  SPEAKER_00: Wir reden hier aber nicht von sofortigen Bußgeldern in Höhe von bis zu 6% des Jahresumsatzes.
• 1:50
  SPEAKER_00: Das würde ja lange rechtliche Verfahren voraussetzen.
• 1:53
  SPEAKER_00: Aber innerhalb von vier Monaten greifen nun mal drastische Pflichten.
• 1:57
  SPEAKER_00: Risikoordits zum Beispiel, genau.
• 1:59
  SPEAKER_00: Risikoordits und Datenzugang für Forschende.
• 2:02
  SPEAKER_00: Und hier liegt mein Hauptkritikpunkt.
• 2:04
  SPEAKER_00: Ein klassisches Suchmaschinen-Ordit untersucht, wie Algorithmen wie PageRank fertige Links sortieren.
• 2:11
  SPEAKER_00: Richtig.
• 2:12
  SPEAKER_00: Wie willst du denn damit ein System prüfen, das auf Next-Token Prediction basiert?
• 2:17
  SPEAKER_00: Das Modell berechnet Wahrscheinlichkeiten für das nächste Wort und halluziniert quasi in Echtzeit Texte.
• 2:24
  SPEAKER_00: Ein statisches Suchoudit ist für diese dynamisch generierten Inhalte komplett blind.
• 2:29
  SPEAKER_01: Wir müssen aber genau da ansetzen, um Fluchttüren zu vermeiden.
• 2:33
  SPEAKER_01: Der DSA verbietet ja ohnehin eine allgemeine Überwachungspflicht der Nutzer.
• 2:38
  SPEAKER_01: Es geht hier also um systemische Risiken für Wahlen oder Gesundheit.
• 2:42
  SPEAKER_01: Aber ein unpassendes Audit hilft da nicht.
• 2:45
  SPEAKER_01: Doch.
• 2:45
  SPEAKER_01: Denn wenn wir Suche und Modellverhalten strikt trennen, wie du es forderst, öffnet das ein gewaltiges Schlupfloch.
• 2:53
  SPEAKER_01: Der Anbieter könnte dann argumentieren, ja, also der reine Webabruf war fehlerfrei.
• 2:57
  SPEAKER_01: Die gefährliche Falschinformation danach ist nur Modellverhalten.
• 3:01
  SPEAKER_01: Das ist eine juristische Lücke, ja.
• 3:03
  SPEAKER_01: Genau, und dafür gilt der DSA dann nicht, heißt es.
• 3:06
  SPEAKER_01: Dann endet die Aufsicht exakt dort, wo aus zehn harmlosen Fundstellen eine autoritäre, aber gefährliche Antwort entsteht.
• 3:13
  SPEAKER_01: Das gilt umso mehr in unserem Flickenteppich, in dem Deutschland und Österreich direkt vom DSR erfasst sind, die Schweiz rechtlich aber nicht.
• 3:21
  SPEAKER_01: Wir dürfen die Aufsicht nicht künstlich fragmentieren.
• 3:24
  SPEAKER_00: Aber deine pauschale Behandlung führt doch in die direkte Schein-Compliance.
• 3:27
  SPEAKER_00: Wieso Schein-Compliance?
• 3:29
  SPEAKER_00: Naja, ein Unternehmen reicht einfach das alte Suchmaschinenformular ein, besteht das Audit für den Webabruf und wirkt vertrauenswürdig.
• 3:39
  SPEAKER_00: Dass das Modell intern Quellen subtil vermischt oder Unsicherheiten durch rhetorische Brillanz vertuscht, das wird gar nicht erfasst.
• 3:48
  SPEAKER_00: Das ist ein Risiko, ja.
• 3:50
  SPEAKER_00: Wir simulieren da Prozesssicherheit und übersehen den wahren Mechanismus der Technologie völlig.
• 3:56
  SPEAKER_01: Ein Audit ist kein unfehlbarer Wahrheitsstempel, also das behauptet ja niemand.
• 4:01
  SPEAKER_01: Aber es zwingt Unternehmen dazu, Risiken offen zu legen und Forschern Einblick zu gewähren.
• 4:07
  SPEAKER_00: Ein Einblick in die falschen Metriken.
• 4:09
  SPEAKER_01: Unsere Positionen bleiben hier wohl unvereinbar.
• 4:12
  SPEAKER_01: Ich meine, ich will eine gewaltige regulatorische Lücke schließen und du warnst vor einem unpassenden Werkzeug.
• 4:20
  SPEAKER_00: Genau, einem Werkzeug, das einem gefährlichen Scheinkonsens erzeugt.
• 4:25
  SPEAKER_00: Weil das Gesetz hinterherhinkt, müssen wir dem Nutzer einfach klare Kriterien an die Hand geben.
• 4:31
  SPEAKER_00: Das fängt bei der Funktion an.
• 4:33
  SPEAKER_00: Die Menschen müssen sofort erkennen können, ob das System gerade live im Netz recherchiert oder nur aus altem, quasi eingefrorenem Trainingswissen rät.
• 4:44
  SPEAKER_01: Absolut, das ist essentiell.
• 4:46
  SPEAKER_01: Eng damit verknüpft ist auch die Evidenz.
• 4:49
  SPEAKER_01: Es darf keine souveräne Behauptung geben, ohne dass die Quellen sichtbar bleiben.
• 4:53
  SPEAKER_00: Richtig.
• 4:54
  SPEAKER_01: Die Nutzeroberfläche hat da einen enormen Einfluss.
• 4:57
  SPEAKER_01: Sie darf Unsicherheiten nicht einfach glatt bügeln und in eine einzige vielerfreie Stimme verwandeln.
• 5:02
  SPEAKER_00: Ja, und um genau das zu kontrollieren, brauchen wir eine Auditierbarkeit, die wirklich auf Sprachmodelle zugeschnitten ist.
• 5:10
  SPEAKER_00: Unabhängige Forschende müssen die Muster der Texterzeugung systematisch testen können.
• 5:14
  SPEAKER_00: Das stimmt.
• 5:16
  SPEAKER_00: Und letztlich braucht der Nutzer einen nachvollziehbaren Beschwerdeweg.
• 5:21
  SPEAKER_00: Wenn eine Antwort manipuliert wird, muss klar sein, ob die Suche oder das Sprachmodell verantwortlich war.
• 5:28
  SPEAKER_00: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso.
• 5:32
  SPEAKER_00: Jeden Tag eine neue KI-Debatte in sechs Minuten.
• 5:35
  SPEAKER_01: Das war KI-Espresso.