Latest / KI Espresso / 4 Signale: Darf ChatGPT dein Alter erraten?

Transcript

4 Signale: Darf ChatGPT dein Alter erraten? · KI Espresso

• 0:00
  SPEAKER_01: Ja, aber genau diesen Ansatz zur Alterserkennung wählt OpenAI jetzt für ChatGPT.
• 0:06
  SPEAKER_01: Um die Nutzung reibungslos zu halten und, naja, nicht von jedem sofort einen Ausweis fordern zu müssen, nutzt das System vier Signalgruppen.
• 0:14
  SPEAKER_01: Also allgemeine Gesprächsthemen, typische Urzeiten, Nutzungsmuster und das Alter des Kontos.
• 0:21
  SPEAKER_01: Diese Altersprogose wird laut OpenAI weltweit ausgerollt.
• 0:26
  SPEAKER_01: In der Europäischen Union soll sie in den kommenden Wochen eingeführt werden, um regionale Anforderungen zu berücksichtigen.
• 0:32
  SPEAKER_01: Sie ist dort also noch nicht vollständig ausgerollt.
• 0:35
  SPEAKER_00: Das Problem bei diesem verhaltensbasierten Ansatz liegt für mich halt in der Genauigkeit.
• 0:39
  SPEAKER_00: Wahrscheinlich ist hier das entscheidende Wort.
• 0:42
  SPEAKER_01: Naja, da halte ich dagegen.
• 0:44
  SPEAKER_01: Aus privaten Gesprächen und naja, alltäglichen Rhythmen einfach ein Alter abzuleiten, macht aus einer eigentlich gut gemeinten Sicherheitsmaßnahme eine tiefgreifende Verhaltensanalyse.
• 0:56
  SPEAKER_01: Es dreht schlichtweg die Beweislast um.
• 0:58
  SPEAKER_01: Nicht mehr die Plattform muss beweisen, dass ihre Alterskontrolle treffsicher ist, sondern ich muss als völlig unbescholtener Nutzer beweisen, dass ich erwachsen bin, nur weil ich vielleicht abends nach Schulstoff google.
• 1:10
  SPEAKER_00: Ich widerspreche.
• 1:11
  SPEAKER_00: Wir müssen doch schauen, wie das System diese Daten überhaupt nutzt.
• 1:14
  SPEAKER_00: Die KI zählt hier quasi eins und eins zusammen.
• 1:17
  SPEAKER_00: OpenAI veröffentlicht keine Fehlerquote.
• 1:20
  SPEAKER_00: Wir wissen deshalb überhaupt nicht, wie oft Erwachsene durch diese automatische Schätzung fälschlich im Teenager-Modus landen.
• 1:28
  SPEAKER_01: Der Vorteil dieses Ansatzes ist aber, dass er die Nutzung kaum unterbricht.
• 1:32
  SPEAKER_01: Bei einer Teenagereinstufung bleibt das Konto aktiv.
• 1:36
  SPEAKER_00: Okay, ja.
• 1:36
  SPEAKER_01: Ein Erwachsener muss sein Alter nicht sofort bestätigen, um ChatGPT mit diesen Schutzregeln weiterzuverwenden.
• 1:43
  SPEAKER_01: Wer die Schutzstufe entfernen will, verifiziert sich über Persona, einen externen Dienstleister für Identitätsprüfungen.
• 1:51
  SPEAKER_01: Das geht per Live-Selfie oder Ausweis.
• 1:54
  SPEAKER_01: Ganz wichtig dabei.
• 1:55
  SPEAKER_01: OpenAI erhält diese Bilder selbst nicht.
• 1:58
  SPEAKER_01: Und Persona löscht das hochgeladene Material zwingend innerhalb von sieben Tagen.
• 2:02
  SPEAKER_00: Die Bequemlichkeit sehe ich schon, aber sie kollidiert mit den Forderungen des Europäischen Datenschutzausschusses.
• 2:09
  SPEAKER_00: Inwiefern?
• 2:10
  SPEAKER_00: Der verlangt Notwendigkeit, Verhältnismäßigkeit, Datenminimierung und naja, die am wenigsten eingreifende Methode.
• 2:19
  SPEAKER_00: Moment, Moment, da ignorierst du aber die Reversibilitäts- und das asymmetrische Risiko der Situation.
• 2:26
  SPEAKER_00: Lass uns das genauer betrachten.
• 2:27
  SPEAKER_00: Gerne?
• 2:28
  SPEAKER_00: Ein falsches Negativ, also wenn das System ein Kind fälschlicherweise für einen Erwachsenen hält, setzt dieses Kind echten Gefahren durch ungeeignete Inhalte aus.
• 2:38
  SPEAKER_00: Ein falsches Positiv, wie bei deinem Schichtarbeiter, schränkt den Erwachsenen nur vorübergehend ein.
• 2:43
  SPEAKER_00: Naja, vorübergehend ist gut.
• 2:44
  SPEAKER_00: Das Konto bleibt ja aktiv.
• 2:47
  SPEAKER_00: Wer die Beschränkung aufheben will, geht über den Partner Persona und bestätigt das Alter per Ausweis oder Selfie.
• 2:54
  SPEAKER_00: Und ganz wichtig, OpenAI selbst sieht diese Bilder nie.
• 2:58
  SPEAKER_00: Da gebe ich dir recht, das Konto bleibt aktiv.
• 3:01
  SPEAKER_00: Aber lass uns mal ehrlich sein.
• 3:03
  SPEAKER_00: Ein Rückweg über einen Drittanbieter wie Persona ist noch lange keine Rechtfertigung für diesen massiven datenschutzrechtlichen Umweg im Vorfeld.
• 3:11
  SPEAKER_00: Wieso Umweg?
• 3:12
  SPEAKER_00: Es ist notwendig.
• 3:14
  SPEAKER_00: Wie meinst du das?
• 3:15
  SPEAKER_00: Naja, wenn ein 15-Jähriger den Assistenten nach extremen Diätpillen fragt, erfordert das eine weitaus sensiblere und restriktivere Antwort, als wenn ein 45-Jähriger zu medizinischen Zwecken genau dieselbe Frage stellt.
• 3:29
  SPEAKER_00: Altersgerechte KI braucht zwingend dieses Kontextwissen, das über ein einfaches über 18-Schild hinausgeht.
• 3:36
  SPEAKER_01: Dann gestaltet die Antwort auf dieses konkrete Risiko doch einfach für alle sicher.
• 3:41
  SPEAKER_01: Das ist nicht so einfach.
• 3:42
  SPEAKER_01: Wie schon.
• 3:43
  SPEAKER_01: Ich bleibe dabei, unbestätigte Nutzer sollten durch harte Funktionsgrenzen reguliert werden.
• 3:48
  SPEAKER_01: Wenn man sein Alter nicht nachweist, bleibt die Erwachsenenfunktion eben gesperrt.
• 3:52
  SPEAKER_01: Das ist eine saubere technische Grenze und kein unsichtbares Urteil.
• 3:57
  SPEAKER_00: Aber eine pauschale, sichere Antwort für alle, wäre für Minderjährige oft immer noch zu offen und für Erwachsene völlig unnötig eingeschränkt.
• 4:08
  SPEAKER_00: Und ich verteidige diesen Default-Schutz.
• 4:10
  SPEAKER_00: Auf Kosten aller anderen.
• 4:12
  SPEAKER_00: Wenn starke verhaltensbasierte Hinweise auf ein minderjähriges Konto vorliegen, müssen wir zuerst schützen.
• 4:19
  SPEAKER_00: Eine Einschränkung, die sichtbar, anfechtbar und reversibel ist, ist einfach der beste Kompromiss.
• 4:25
  SPEAKER_00: Die Europäische Kommission zeigt mit ihrem sogenannten Blueprint, also einem Gestaltungsentwurf für Entwickler, eine klare Alternative auf.
• 4:33
  SPEAKER_00: Ein Dienst erhält nur die simple Information, dass jemand über 18 ist, ohne die exakte Identität zu erfahren.
• 4:40
  SPEAKER_00: Damit ist die technische Frage klar.
• 4:43
  SPEAKER_01: Trotz unserer unterschiedlichen Ansätze stehen wir am Ende vor denselben fünf ungelösten Prüfungen.
• 4:51
  SPEAKER_01: Zunächst müssen wir klären, welches konkrete Risiko dieses Alterswissen überhaupt rechtfertigt und welche Signale exakt einfließen.
• 5:00
  SPEAKER_00: Richtig.
• 5:00
  SPEAKER_00: Und dazu gehört auch die Frage, lernt der Dienst wirklich nur, ob jemand über oder unter 18 ist oder noch mehr?
• 5:07
  SPEAKER_01: Hm, außerdem müssen wir wissen, was genau bei einer falschen Einstufung passiert.
• 5:13
  SPEAKER_00: Und schließlich, wer erhält die Dokumente für die Verifikation und wie lange werden sie gespeichert?
• 5:19
  SPEAKER_00: Mein Ansatz bleibt Schutz zuerst.
• 5:22
  SPEAKER_00: Okay.
• 5:23
  SPEAKER_00: Wenn Signale auf ein minderjähriges Konto hindeuten, sollten sichtbare, reversible Teenager-Regeln gelten, bis ein Erwachsener widerspricht.
• 5:32
  SPEAKER_01: Meine Position bleibt Beweis statt Verhaltensprofil.
• 5:36
  SPEAKER_01: Wo eine Altersgrenze nötig ist, sollte ein minimales über 18 Merkmal genügen.
• 5:41
  SPEAKER_01: Gesprächsthemen und Tagesrhythmus müssen bei der Altersentscheidung außen vor bleiben.
• 5:46
  SPEAKER_00: Solche GPT im Zweifel dein Alter aus deinem Verhalten schätzen oder darf eine KI diese Grenze erst ziehen, wenn du ihr einen minimalen Altersnachweis gibst?
• 5:55
  SPEAKER_00: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso jeden Tag eine neue KI-Debatte in sechs Minuten.
• 6:04
  SPEAKER_00: Das war KI Espresso.