Latest / KI Espresso / Dein Profil trainiert KI: Wer entscheidet?

Transcript

Dein Profil trainiert KI: Wer entscheidet? · KI Espresso

• 0:00
  SPEAKER_01: Dein öffentliches Profil kann KI-Material werden, obwohl du nie auf einen Trainingsknopf gedrückt hast.
• 0:07
  SPEAKER_01: Seit dem 8.
• 0:08
  SPEAKER_01: Juli 2026 müssen wir uns mit dieser Realität auseinandersetzen.
• 0:12
  SPEAKER_01: Da hat nämlich der Europäische Datenschutzausschuss, also das EDPB, einen neuen Konsultationsentwurf veröffentlicht.
• 0:19
  SPEAKER_01: Zu Webscraping und generativer KI.
• 0:22
  SPEAKER_01: Ja, aber.
• 0:23
  SPEAKER_01: Und die klare Ansage lautet da: Nur weil Daten frei im Netz stehen, sind sie nicht einfach, naja, vormfang.
• 0:29
  SPEAKER_00: Warte, warte, da gehe ich direkt dazwischen.
• 0:31
  SPEAKER_00: Also wir reden hier über einen Entwurf, ja, nicht über ein fertiges Gesetz.
• 0:36
  SPEAKER_00: Und viel wichtiger, das ist eben kein pauschales Scraping-Verbot.
• 0:40
  SPEAKER_00: Naja, aber.
• 0:41
  SPEAKER_00: Wir müssen da zwingend, also technisch und juristisch, zwischen einer gewöhnlichen öffentlichen Webseite und einer reinen Datenquelle unterscheiden.
• 0:48
  SPEAKER_00: Wenn wir diese Linie verwischen und jede Datennutzung im Vorfeld blockieren, dann können wir die europäische KI-Forschung im Grunde direkt abschalten.
• 0:57
  SPEAKER_01: Es geht doch überhaupt nicht ums Abschalten, es geht um Spielregeln.
• 1:01
  SPEAKER_01: Also stell dir mal ein Engineering-Team in, sagen wir, München oder Wien vor, die crawlen massenhaft öffentliche Community-Profile für ein neues Modell.
• 1:11
  SPEAKER_01: Und die Entwickler sagen dann oft, die Daten standen doch öffentlich im Netz.
• 1:16
  SPEAKER_01: Aber das funktioniert so nicht.
• 1:17
  SPEAKER_01: Warum?
• 1:18
  SPEAKER_01: Das Prinzip ja Zweckbindung greift hier massiv.
• 1:21
  SPEAKER_01: Ein Profil wurde zum Netzwerken erstellt, nicht um das Sprachverständnis einer KI zu trainieren.
• 1:26
  SPEAKER_01: Vor allem, wenn diese Profile implizit besonders geschützte Daten wie politische Meinungen oder den Gesundheitszustand verraten.
• 1:34
  SPEAKER_01: Nach Artikel 9 Absatz 2 DSGVO.
• 1:36
  SPEAKER_00: Richtig, aber die Realität der Datenverarbeitung erfordert da echt pragmatischere Ansätze.
• 1:41
  SPEAKER_00: Selbst wenn eine KI beim Training auf potenziell sensible Daten stößt, heißt das doch nicht automatisch, dass wir für jeden einzelnen Datenpunkt vorab einen aktiven Klick des Nutzers brauchen, also Consent.
• 1:53
  SPEAKER_00: Es ist aber hochriskant.
• 1:54
  SPEAKER_00: Ja, aber es gibt technische Steuerungsinstrumente, die viel eleganter sind als so ein hartes Verbot.
• 2:00
  SPEAKER_00: Guckt ihr die britische Wettbewerbsbehörde an.
• 2:03
  SPEAKER_00: Die CMA?
• 2:04
  SPEAKER_00: Genau.
• 2:04
  SPEAKER_00: Die hat Google verpflichtet, Publishern klare Opt-out-Tools für KI-Training anzubieten.
• 2:10
  SPEAKER_00: Das ist zwar keine EU-Recht, klar, und es hilft dem einzelnen Nutzer noch nicht direkt, aber es beweist eindrucksvoll, dass wir Kontrollmechanismen skalieren können, ohne das Training komplett zu ersticken.
• 2:22
  SPEAKER_01: Ja gut, aber ein Opt-out verlagert die Verantwortung doch wieder komplett zurück auf den Einzelnen.
• 2:28
  SPEAKER_01: Der Kern des EDPB-Entwurfs zielt in eine völlig andere Richtung, nämlich Datenprovenienz und Rechenschaftspflicht.
• 2:36
  SPEAKER_01: Das Problem der meisten Tech Teams ist doch heute, dass ihre Datenpipelines eine riesige Blackbox ist.
• 2:43
  SPEAKER_01: Da fliegen Terabytes an Daten rein und am Ende kann niemand mehr beweisen, woher ein spezifischer Datensatz stammt.
• 2:51
  SPEAKER_01: Geschweige denn, warum sie den legal verarbeiten durften.
• 2:54
  SPEAKER_00: Ähm, diese Blackbox lässt sich technisch aber sehr pragmatisch auflösen.
• 2:59
  SPEAKER_00: Wie denn?
• 3:00
  SPEAKER_00: Naja, die Teams müssen einfach saubere Quellen Zeitstempel in ihre Pipelines integrieren.
• 3:07
  SPEAKER_00: Wenn ein Entwickler exakt belegen kann, wann ein Profil unter welchen Bedingungen abgerufen wurde, dann ist das Problem der Nachvollziehbarkeit doch gelöst.
• 3:16
  SPEAKER_00: Ein Zeitstempel?
• 3:17
  SPEAKER_01: Ein Zeitstempel allein rettet dich vor keiner Datenschutzbehörde.
• 3:21
  SPEAKER_01: Du brauchst einen vollständigen Data Provenance Rekord.
• 3:25
  SPEAKER_01: Das ist aber ein enormer Aufwand.
• 3:27
  SPEAKER_01: Klar.
• 3:28
  SPEAKER_01: Aber ein Team muss nicht nur das Wann dokumentieren, sondern auch die rechtlichen Annahmen.
• 3:33
  SPEAKER_01: Und noch viel entscheidender, es braucht zwingend einen Validierungsschritt.
• 3:38
  SPEAKER_01: Das EDPB pocht extrem auf das Prinzip der Richtigkeit.
• 3:42
  SPEAKER_00: Hm, verstehe.
• 3:44
  SPEAKER_01: Ein alter Zeitstempel nützt dir gar nichts, wenn das Profil längst gelöscht oder geändert wurde und dein Modell immer noch mit den veralteten Fakten arbeitet.
• 3:53
  SPEAKER_00: Puh, das erzeugt natürlich massive Reibungsverlust im Engineering.
• 3:56
  SPEAKER_00: Wenn man diesen strengen Weg geht, muss man systemisch absichern, dass nicht jeder kleine Konflikt direkt den gesamten Sprint stoppt.
• 4:03
  SPEAKER_00: Genau, das ist die Aufgabe.
• 4:05
  SPEAKER_00: Ja, aber es erfordert eben einen klaren Eskalationspfad im Code.
• 4:09
  SPEAKER_00: Wenn ein Scraper massenhaft auf umstrittene oder sensible Daten trifft, muss vordefiniert sein, wer im Team die Reißleine zieht.
• 4:16
  SPEAKER_00: Und zwar bevor das nächste Modell überhaupt durchtrainiert wird.
• 4:19
  SPEAKER_00: Richtig.
• 4:20
  SPEAKER_01: Und das bringt mich zur absoluten Kontrollfrage, die sich heute jedes KI-Unternehmen stellen muss.
• 4:26
  SPEAKER_01: Wer von euch kann den Weg von einer einfachen offenen Webseite bis zur finalen Modellausgabe wirklich lückenlos rekonstruieren?
• 4:35
  SPEAKER_01: Und das im Zweifel verteidigen.
• 4:37
  SPEAKER_00: Exakt.
• 4:38
  SPEAKER_00: Und wenn wir das konsequent zu Ende denken, sind wir wieder bei unserem Ausgangspunkt.
• 4:43
  SPEAKER_00: Jeder von uns sollte angesichts dieser Entwicklungen noch einmal scharf darüber nachdenken, dass wirklich jedes öffentliche Profil, ungefragt zu KI-Trainingsmaterial.
• 4:53
  SPEAKER_00: Ja, aber warte kurz, ein Punkt fehlt noch, den viele vergessen.
• 4:56
  SPEAKER_00: Sobald das Scraping nämlich personenbezogene Daten umfasst, also sammeln, speichern, greift die DSGVO vollumfänglich.
• 5:06
  SPEAKER_00: Datenminimierung, Zweckbindung.
• 5:08
  SPEAKER_00: Ein Team kann sich nicht der Verantwortung entziehen und sagen, naja, stand doch öffentlich im Netz.
• 5:14
  SPEAKER_01: Ich sehe das aus einer etwas anderen Richtung.
• 5:17
  SPEAKER_01: Wir müssen doch festhalten, dass dieser Leitfaden bis Ende Oktober 2026 nur ein Entwurf ist.
• 5:24
  SPEAKER_01: Richtig.
• 5:25
  SPEAKER_01: In der Konsultation.
• 5:26
  SPEAKER_00: Mhm, noch kein geltendes Gesetz, ja?
• 5:29
  SPEAKER_01: Richtig.
• 5:30
  SPEAKER_01: Und vor allem formuliert er kein pauschales Scraping-Verbot.
• 5:34
  SPEAKER_01: Zuverlässige öffentliche Infos sind für die Forschung unerlässlich.
• 5:38
  SPEAKER_01: Wir dürfen echt nicht dem Irrglauben verfallen, dass wir für jeden noch so kleinen Datenpunkt jetzt zwingend eine aktive Einwilligung brauchen.
• 5:45
  SPEAKER_00: Naja, Forschung braucht Daten, keine Frage.
• 5:49
  SPEAKER_00: Aber machen wir das doch mal konkret an der Datenminimierung fest.
• 5:53
  SPEAKER_00: Stell dir ein Dachentwicklungsteam vor, das öffentliche Firmen- oder Community-Seiten für ein Trainingsset scrapt.
• 6:01
  SPEAKER_00: Okay.
• 6:02
  SPEAKER_00: Wie kann dieses Team rechtfertigen, dass wirklich jedes einzelne Datenfeld für exakt diesen Zweck nötig ist?
• 6:09
  SPEAKER_00: Wenn du einfach wahllos alles sammelst, das tun sie ja im Idealfall gar nicht.
• 6:14
  SPEAKER_00: Dann ist das ein Konflikt.
• 6:16
  SPEAKER_00: Wie bitte?
• 6:17
  SPEAKER_00: Ich meine, sie rechtfertigen es nicht, weil clevere Teams das in der Praxis so gar nicht tun sollten.
• 6:22
  SPEAKER_01: Viele schauen ja gerade auf Großbritannien, wo die CMA Google gezwungen hat, Opt-out-Tools für Publisher anzubieten.
• 6:31
  SPEAKER_01: Aber das ist UK-Wettbewerbsrecht.
• 6:33
  SPEAKER_01: Das ist kein europaweiter Standard und definitiv kein generelles, individuelles Opt-out für jedes KI-Modus.
• 6:40
  SPEAKER_00: Moment, da machst du es dir fast zu einfach.
• 6:42
  SPEAKER_00: Genau deshalb dränge ich auf die operative Praxis, die über die Theorie hinausgeht.
• 6:47
  SPEAKER_00: Entwickler müssen drei Dinge zwingend umsetzen.
• 6:51
  SPEAKER_00: Erstens diese lückenlosen Herkunftsnachweise.
• 6:54
  SPEAKER_00: Zweitens, Zeitstempel samt Validierung der Quellen, bevor die ins Training fließen.
• 6:59
  SPEAKER_00: Und drittens einen klaren Eskalationspfad für konkrete Datenschutz.
• 7:04
  SPEAKER_00: Meine Sorge ist eine andere.
• 7:06
  SPEAKER_01: Begünstigen solche extrem komplexen, ja fast forensischen Governance-Anforderungen am Ende nicht nur riesige Konzerne, die mit den fetten Rechtsabteilungen.
• 7:15
  SPEAKER_01: Für kleine Startups wird das zur Innovationsbremse.
• 7:18
  SPEAKER_00: Diese Spannung zwischen zwingender Governance und Innovationsbremse wird uns sicher weiter begleiten.
• 7:24
  SPEAKER_00: Wenn wir das mal zusammenfassen, wir sind uns einig, dass Transparenz und Validierung technisch geboten sind.
• 7:29
  SPEAKER_00: Die Differenz bleibt dabei, ob das kleinere Teams unverhältnismäßig belastet.
• 7:33
  SPEAKER_00: Richtig.
• 7:34
  SPEAKER_00: Da gibt es noch extrem viel zu erforschen und zu diskutieren.
• 7:37
  SPEAKER_00: Und das führt uns zum Abschluss zu einer ganz praktischen Testfrage an unser Publikum.
• 7:42
  SPEAKER_00: Was muss eigentlich wahr sein, bevor wir einem System wirklich vertrauen?
• 7:46
  SPEAKER_00: Und wer kann in der Praxis den Weg von einer einfachen Webseite bis zum finalen Modelloutput überhaupt lückenlos rekonstruieren und anfechten werden kann?
• 7:55
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso.
• 7:59
  SPEAKER_01: Jeden Tag eine neue KI-Debatte in sechs Minuten.
• 8:03
  SPEAKER_00: Das war KI Espresso.