Latest / Fun Facts. / Deepfakes eskalieren: Warum Frauen im Netz nicht mehr sicher sind | Fun Facts mit Pheline Roggan

Transcript

Deepfakes eskalieren: Warum Frauen im Netz nicht mehr sicher sind | Fun Facts mit Pheline Roggan · Fun Facts.

• 0:00
  Hallo, Na, wollt ihr mich nackt sehen?
• 0:05
  Dafür braucht ihr nicht viel, nicht mich und auch nicht mein
• 0:09
  Einverständnis. Ich bin Feline Roggan und ihr
• 0:12
  guckt Fun Facts Gödadaaa als ich vor ein paar Monaten den Termin
• 0:24
  hier zugesagt hab, da dachte ich.
• 0:27
  Ja schön, ich kann über Themen reden, die mir am Herzen liegen.
• 0:30
  So leichte Themen wie was weiß ich, die Klimakrise oder so, die
• 0:35
  ist ja irgendwie verschwunden, also zumindest aus den
• 0:38
  Nachrichten, ja, und dann ist vor n paar Tagen mein Handy
• 0:43
  explodiert, weil ein Mann ein Kollege aus meinem nahen
• 0:48
  beruflichen Umfeld mutmaßlich das ihr habt das alles gehört,
• 0:53
  ne, ich hab das gesagt, ich. Ich hab mutmaßlich gesagt, also
• 0:57
  Mut, Straftaten, die er mutmaßlich an seiner Ehefrau und
• 1:02
  meiner Kollegin Coline Fernandes begangen hat, da ein großer
• 1:07
  Drang besteht, dass wir Frauen aus der Branche, die in der
• 1:10
  Öffentlichkeit stehen, das Ganze für alle einordnen und klar
• 1:14
  benennen, möchte ich jetzt auch hier noch einmal ganz deutlich
• 1:17
  sagen. Meine volle Solidarität gilt
• 1:22
  Coline Fernandes und allen Betroffenen von sexualisierter
• 1:25
  Gewalt, egal ob analog oder digital.
• 1:39
  Und ich spreche hier nicht nur für mich, sondern auch für Fun
• 1:42
  Facts und für das Team, das dahinter steht und für die 13000
• 1:46
  Menschen, die spontan in Berlin auf die Straße gegangen sind.
• 1:57
  Sowie für die 250 prominenten Frauen, mit denen ich diesen
• 2:02
  offenen Brief unterzeichnet habe.
• 2:11
  Wir fordern von der Bundesregierung mehr
• 2:14
  juristischen Schutz vor männlicher Gewalt und digitaler
• 2:17
  sexualisierter Gewalt, es reicht.
• 2:28
  Die Gesetzesgrundlage muss sich ändern und die Art, wie wir
• 2:32
  darüber nachdenken auch. Denn es zeigt sich immer wieder,
• 2:35
  dass die Täter nicht irgendwelche Fremden sind, die
• 2:38
  in der dunklen Gasse lauern oder aus dem Gebüsch springen.
• 2:41
  Nein, es ist mutmaßlich der mutmaßlich lustige Typ aus dem
• 2:47
  Fernsehen, es ist der mutmaßlich freundliche Nachbar, der immer
• 2:51
  grüßt, der nette Onkel oder eben der Ehemann mutmaßlich.
• 3:00
  Es geht unter anderem um Deepfakes.
• 3:04
  Aber was genau sind denn eigentlich deepfakes?
• 3:08
  Hier? Jetzt einmal kurz und knapp
• 3:10
  erklärt von höchstwahrscheinlich Marc Uwe Kling.
• 3:14
  Ein Deepfake ist ein manipulierter Bildton oder
• 3:17
  Videoinhalt, der wirklichen Personengegenständen,
• 3:19
  Orteneinrichtungen oder Ereignissen so sehr ähnelt, dass
• 3:22
  er fälschlicherweise als echt erscheinen würde.
• 3:25
  Und ja, eines der Tools heißt tatsächlich Kling.
• 3:28
  Wir sind nicht verwandt. Die Europäische Kommission geht
• 3:37
  davon aus, dass 98% der im Internet verbreiteten Deepfakes
• 3:41
  pornografisches Material sind, in denen vor allem Frauen
• 3:45
  sexualisiert dargestellt werden. Aber man kann die Technologie
• 3:49
  natürlich auch dazu nutzen, den Kanzler einfach 30 Jahre jünger
• 3:52
  zu machen. Jetzt braucht es kein
• 4:01
  gebrochenes Herz des ex Freundes mehr, damit deine Nacktbilder im
• 4:04
  Internet landen. Fun Fact Dank Elon Musks KI Grog
• 4:10
  konnte dich jeder Dahergelaufene Jürgen mit einem Klick in den
• 4:14
  Kommentaren ausziehen, Millionen sexualisierter Deepfakes wurden
• 4:18
  erstellt, unter anderem auch von Kindern, und die Politik, so, ja
• 4:24
  das müsste jemand auf EU Ebene regeln.
• 4:29
  Tatsächlich kann man Grog immer noch nutzen.
• 4:32
  Jetzt muss man dafür nur ilon bezahlen.
• 4:34
  Ja, alles daran, grog, wie das schon klingt, wieso eine Katze,
• 4:38
  die ein Fellknäuel hoch wirkt, deepfakes sind im Grunde nichts
• 4:47
  anderes als die Big Tec Antwort auf das Nein von Frauen, Big Tec
• 4:52
  oder vielleicht eher Big tec. Sie will nicht.
• 4:57
  Ja, kein Problem, kann man ja technisch umgehen.
• 5:00
  Du wenn ich keine eigene Frau besitze, die ich zu Hause
• 5:02
  kontrollieren kann, dann kontrolliere ich halt jede Frau
• 5:05
  im Internet. Coline Fernandes klagt in diesem
• 5:13
  Fall nicht in Deutschland, sondern in Spanien, weil es dort
• 5:16
  eine Rechtslage gibt, die so tut, als wären Frauen richtige
• 5:20
  Menschen. Loco loco Fun Fact in Spanien
• 5:30
  gibt es seit 2004 Gesetze, die geschlechtsspezifische Gewalt
• 5:34
  als gesamtgesellschaftliches Problem anerkennen.
• 5:37
  Diese zogen ein umfassendes Gewaltschutzsystem nach sich,
• 5:41
  was neben der Überwachung von Tätern durch elektronische
• 5:44
  Fußfesseln vor allem durch ein Netz an Maßnahmen Erfolge,
• 5:47
  zeigt, zum Beispiel verpflichtende Täterarbeit und
• 5:50
  Prävention. Unentgeltliche Rechtsberatung
• 5:53
  und medizinische Versorgung für betroffene Frauenhäuser das
• 5:57
  Recht auf Wiedergutmachung spezialisierte Gerichte für
• 6:00
  geschlechtsspezifische Gewalt Boah, voll die lange Liste geil
• 6:12
  und in Deutschland in Deutschland kann man das erste
• 6:15
  Staatsexamen ablegen, ohne sich eine Sekunde lang mit
• 6:19
  Sexualstrafrecht beschäftigt zu haben.
• 6:22
  Man muss als Jurist nicht mal Täter und Opfer unterscheiden
• 6:25
  können, aber ganz, ganz, ganz dringend muss man Besitz und
• 6:30
  Eigentum unterscheiden können. Na ja, wahrscheinlich sind dann
• 6:35
  Frauen einfach unter Eigentum eingestuft.
• 6:40
  Das deutsche Sexualstrafrecht ist eine einzige Lücke, wenn es
• 6:44
  um Deepfakes geht. Die sind nämlich meistens nur
• 6:47
  dann strafbar, wenn sie eine ansehensschädigende Bildaufnahme
• 6:52
  darstellen und auch dann nur, wenn ich Sie teile.
• 6:56
  Also ich kann jetzt von euch allen Nacktbilder herstellen,
• 7:01
  darf ich einfach machen, solange ich sie nicht teile und wenn ich
• 7:06
  Sie teile. Dann müssen sie halt auch noch
• 7:08
  ansehensschädigend sein. Ja, und wer legt das Fest?
• 7:14
  Wahrscheinlich ein Mann, na ja, Männer tun sich ja selbst bei
• 7:17
  analogen Fotos oft schwer mit der Bildinterpretation.
• 7:21
  Es ist aber völlig unklar, was da passiert ist.
• 7:23
  Völlig unklar. So hilft der möglicherweise
• 7:26
  jemandem. Ich weiß es nicht.
• 7:31
  Man weiß es nicht. Also.
• 7:34
  Mutmaßlich ist es eine gut gemeinte, aber es bewegt sich
• 7:44
  was. Das Justizministerium hat gerade
• 7:47
  einen Gesetzesentwurf zu digitaler sexualisierter Gewalt
• 7:50
  vorgelegt, also jetzt weiter Druck machen, online und auf der
• 7:55
  Straße, wir verlinken euch die Petition Deepfakes von echten
• 7:59
  Menschen verbieten, da haben schon über 400000 Menschen
• 8:02
  unterzeichnet, das. Und wir, wir bleiben so lange
• 8:12
  wütend, bis wir alle sicher sind.
• 8:24
  Das Thema Deepfakes hat nämlich neben den ganzen Pornos auch
• 8:27
  noch ganz andere, beschissene Dimensionen.
• 8:29
  Ganz konkret erleben das gerade die Synchronsprecher innen von
• 8:33
  Netflix. Die dürfen nämlich nur noch für
• 8:36
  Netflix arbeiten, wenn sie weitreichende Rechte an ihrer
• 8:39
  Stimme abtreten. Die Stimme soll für KI Training
• 8:43
  genutzt werden ja, warum ja, um die Sprecherinnen langfristig
• 8:47
  einzusparen, und das droht dann bald auch mir als
• 8:50
  Schauspielerin, Dir als Journalist, Dir als Autorin.
• 8:55
  Die als Zeichner, die als marketingfutzi euch da als
• 9:00
  Influencerinnen in Deutschland wird fast jede Serie, jeder Film
• 9:04
  übersetzt. Es betrifft also eine große
• 9:06
  Branche und seit Anfang 2026 weigern sich deshalb über 800
• 9:11
  Synchronsprecherin, den Vertrag mit Netflix zu unterzeichnen,
• 9:13
  aber. Ja, das ist richtig gut.
• 9:24
  Aber wer nicht unterschreibt, der darf nicht mehr für Netflix
• 9:26
  arbeiten, auch nicht zu den Konditionen des alten Vertrags.
• 9:30
  Und was macht Netflix, die versuchen wohl, die Rollen
• 9:34
  kurzfristig umzubesetzen so sieht es nämlich aus, genau, und
• 9:42
  deshalb haben wir uns bei all dem gedacht, Netflix, das ist
• 9:47
  doch eigentlich Etikettenschwindel.
• 9:50
  Also Menschen die Stimme zu nehmen, ist ja irgendwie gar
• 9:53
  nicht nett, oder? Fun Fact als in den USA nach
• 9:57
  Druck des Trump Regimes der Late Night Host Jimmy Kimmel
• 10:01
  abgesetzt wurde, haben so viele Leute ihr Disney plus Abo
• 10:05
  gekündigt, dass er nach ein paar Tagen seine Sendung Zurückbekam.
• 10:17
  Wartet mal finanziert sich Netflix nicht auch über Abos?
• 10:23
  Lass uns doch mal was ausprobieren.
• 10:26
  Also wir starten so ne kleine Kampagne namens nicht Netflix
• 10:33
  und da haben wir natürlich ne Webseite gemacht, da ist sie
• 10:39
  nicht minus net minus flix.de und da da gibt es einfach so n
• 10:44
  Button und n Counter und da könnt ihr mit einem Klick
• 10:47
  folgendes Versprechen. Wenn Netflix Menschen das Recht
• 10:51
  an ihrer Stimme klauen will, dann verlieren sie mein Abo.
• 10:56
  Geben wir doch noch ein Ultimatum dazu.
• 11:00
  Am 26 April ist der Welttag des geistigen Eigentums.
• 11:05
  Stimmt das oder haben wir uns das ausgedacht?
• 11:08
  OK, also gebe ich zu, das halte ich jetzt auch nicht auf dem
• 11:11
  Schirm, der 26 April ist übrigens auch der National
• 11:15
  Pretzel Day in den USA. So also, wofür so eine
• 11:21
  Rechercheabteilung gut ist. Toll, hier kommt die Fun Facts
• 11:25
  Forderung. Am 26 April muss die
• 11:28
  Stimmenklauklausel weg sein, sonst kündigen wir kollektiv
• 11:32
  unsere Netflix Abos und feiern das mit einer Putterprepsel.
• 11:46
  Weil mal ganz ehrlich, viele Serien sind ja eh Murks, seit
• 11:50
  der Algorithmus das Programm bestimmt und alles auf Second
• 11:53
  Screen getrimmt ist, damit man auch beim gleichzeitigen Doom
• 11:56
  scrollen auf dem First Screen vom Handy noch so halbwegs
• 11:59
  kapiert, was in der Serie vor sich geht und also alle 5
• 12:02
  Minuten ein Recap als Voice Over oder Flashback kommt.
• 12:07
  Boah, voll der lange Satz und voll viele englische Begriffe
• 12:12
  worum ging es jetzt nochmal? Also ein kurzer Recap.
• 12:15
  Der 26 April ist übrigens auch der National Prezel Day in den
• 12:20
  USA, darum ging es doch, oder any How wenn ihr Bock habt, geht
• 12:29
  doch auch gerne auf die Social Media Kanäle von Netflix und
• 12:31
  schreibt, dass ihr das mit dem Stimmenklauen nicht nett findet
• 12:35
  und verlinkt dann gerne die nicht Netflix de Seite, denn es
• 12:39
  geht nicht nur um die Synchronsprecher innen.
• 12:42
  Diese Entrichtung durch die dictec Konzerne betrifft uns
• 12:45
  alle, und je früher wir Stopp schreien, desto besser.
• 12:47
  Stopp, wie fänden das wohl Politiker, wenn von ihnen
• 12:58
  verlangt werden würde, dass sie, wenn sie ihren Beruf weiter
• 13:01
  ausüben wollen, das Recht an ihrer Stimme abgeben müssen,
• 13:07
  obwohl was sie sagen, wird ja so schon oft KI generiert.
• 13:15
  Jetzt steht hier noch beliebiges Video von Scholz einfügen,
• 13:30
  aber das war der Grafikabteilung offenbar zu langweilig.
• 13:33
  Wahrscheinlich sind die beim gucken eingeschlafen.
• 13:36
  Naja, jedenfalls auch ein Chatbot könnte auf jede Frage
• 13:39
  antworten, das müsste mal jemand auf EU Ebene regeln hallo jemand
• 13:46
  bitte melden. Tatsächlich werden aber auch
• 13:51
  Politikerinnen gefaked. Was hält wohl Manuela Schwesig
• 13:55
  davon, dass sie als Deepfake der Star in einem Propagandavideo
• 13:58
  der AF d ist? Die Kita ist beitragsfrei, die
• 14:01
  Af D ist böse, Bitte beachten Sie meine röseligen Geschichten,
• 14:05
  findet sie das okay reicht ihr, dass der AF d Abgeordnete der
• 14:10
  das gepostet hat nachträglich in die Videobeschreibung Deepfake
• 14:14
  Satire geschrieben hat? Die AF D hat übrigens bei der
• 14:17
  jüngsten Wahl in Rheinland Pfalz 19,5% eingefahren.
• 14:20
  Ja, und das mit einem Spitzenkandidaten, der aussieht
• 14:25
  als hätte man KI gefragt wie eine 50 Jahre alte Bärchenwurst
• 14:29
  aussieht, die AF d ist bei den unter 25 jährigen die
• 14:38
  meistgewählte Partei, warum fühlen sich junge Menschen von
• 14:42
  denen so abgeholt? Liegt das an KI Videos wie
• 14:46
  diesen hier? Wow.
• 14:58
  Und das ausgerechnet von den Leuten, die immer sagen, das
• 15:01
  Leben ist kein Ponyhof. Die AF D nutzt seit Jahren aktiv
• 15:08
  KI für ihren Wahlkampf, wenn das Internet Neuland ist.
• 15:12
  Dann ist die AF D Christoph Kolumbus nicht der erste, aber
• 15:16
  der Schlimmste. Apropos schlimm, Die SPD hat in
• 15:20
  Rheinland Pfalz das schlimmste Ergebnis ihrer Geschichte dort
• 15:23
  eingefahren, nach 35 Jahren SPD gewinnt in Rheinland Pfalz die
• 15:27
  CDU und das Macht die SPD Zitat Absolut ratlos.
• 15:37
  Kleiner Tipp an dieser Stelle einer sozialdemokratischen
• 15:41
  Partei könnte es eventuell helfen, sozialdemokratische
• 15:45
  Politik zu machen. Nur so eine Idee und ist euch
• 15:55
  mal aufgefallen, dass die Videos von Wahlpartys immer so ein
• 15:58
  bisschen den Vibe von Fußball nachbesprechungen haben,
• 16:01
  gekämpft, wir haben gekämpft wie die Löwen, alle miteinander,
• 16:05
  alles ist gut, solange du wild bist.
• 16:10
  Auch im wilden München hat die SPD verloren.
• 16:13
  Zum ersten Mal wird dort ein grüner Bürgermeister, zum ersten
• 16:23
  Mal wird dort ein grüner Bürgermeister, obwohl die doch
• 16:26
  an allem schuld sind, wild mit seinen 35 Jahren ist er auch der
• 16:30
  erste Millennial, der die bayerische Landeshauptstadt
• 16:33
  regiert, yolo. Ricarda Lang, die Gagschreiberin
• 16:42
  von den Grünen, meinte dazu, Ich glaube, ich fahr zum nächsten
• 16:46
  Oktoberfest einfach nur um neben Markus Söder zu stehen, wenn er
• 16:50
  einem Grünen dabei zuschaut, wie der das Fest eröffnet und auch
• 17:03
  ein Blick nach Frankreich darf erlaubt sein.
• 17:05
  Sowohl Paris als auch Marseille wählten nicht rechts.
• 17:16
  In Marseille gewann der sozialistische Amtsinhaber und
• 17:20
  in Paris die Grünen. Und das nicht obwohl, sondern
• 17:23
  weil Paris von seiner Vorgängerin schon seit Jahren zu
• 17:27
  einer klimafreundlicheren, lebenswerteren Stadt umgebaut
• 17:30
  worden ist und er das fortführen will.
• 17:41
  Der Wahlsieger Emmanuel Gregoire fuhr zur Feier des Tages auf dem
• 17:45
  Fahrrad zum Pariser Rad raus, wenn irgendwann die Gen z den
• 17:55
  ersten Bürgermeister oder die erste Bürgermeisterin stellt,
• 17:58
  dann erfolgt die Anfahrt hoffentlich stilecht mit einem E
• 18:01
  Scooter. So und jetzt klappt die Computer
• 18:10
  zu, legt die Handys weg und macht was Schönes.
• 18:13
  Zieht euch analog aus, aber nur, wenn alle damit einverstanden
• 18:16
  sind. Aber ist okay für euch oder gut?