Latest / BZ am Ohr / Digitale Gewalt: Wie Frauen sich vor Deepfakes schützen können

Transcript

Digitale Gewalt: Wie Frauen sich vor Deepfakes schützen können · BZ am Ohr

• Nackt im Dunkeln. So stehen wir da, wenn wir Online Daten oder Bilder hinterlassen. Ziemlich einfach kann man mit Hilfe von künstlicher Intelligenz und nur einem einzigen Foto täuschend echt aussehende Pornoaufnahmen generieren. Digitale sexualisierte Gewalt ist ein Riesenproblem. Das hat sich gerade wieder gezeigt bei den Vorwürfen der Schauspielerin Coline Fernandes. Aber solche Fälle gibt es viel zu oft. Hier bei uns in Südbaden diskutieren wir zum Beispiel auch immer noch über den Spanner-Skandal an der Uni Freiburg, wo ein Unimitarbeiter hunderte Frauen heimlich gefilmt hat. Wie also kann man sich schützen vor digitaler Gewalt? Geht das überhaupt? Und wie sollte man sich verhalten, wenn man betroffen ist? Schützt das Gesetz uns Frauen ausreichend? Mein Name ist Dora Schölz. Ich bin Podcast-Redakteurin bei der Batschen Zeitung. Und über diese Fragen spreche ich heute mit Stefanie Bayrich. Sie ist Rechtsanwältin, Podcasterin und Autorin. Sie ist Expertin für Recht im digitalen Raum und außerdem auch Pressesprecherin bei der Bundesrechtsanwaltskammer. Stefanie, herzlich willkommen bei BZ am Ohr. Ja, vielen Dank für die Einladung. Ich habe mich sehr gefreut und freue mich jetzt auf unser Gespräch. Ja, schön. Ich freue mich auch. Stefanie, nackt im Dunkeln. Mit diesem Bild hast du in deinem Freiburger TED-Talk zu Deepfakes und KI beschrieben, wie wir gerade eben so dastehen, wenn wir uns im Internet bewegen, Daten oder eben gerade auch Bild und Ton hinterlassen. Klingt ziemlich unangenehm. Kannst du mal so ein bisschen erklären, was genau meinst du damit? Ja klar, also ich wollte natürlich bewusst auch so ein sehr, sehr plakatives Bild verwenden, deswegen nackt im Dunkeln. Und ich glaube, das beschreibt aber ganz gut die Situation, dass wir so ein bisschen die Kontrolle über unsere Daten verloren haben. Also die Kontrolle über unsere Bilder, über unsere Stimmen und deswegen sind wir nackt und das Dunkel, das sind für mich so ein bisschen diese sehr undurchsichtigen Systeme, in denen diese Daten verschwinden, ohne dass wir es mitbekommen. Also digitale Gewalt, da müssen wir ja nur wenige Wochen zurückschauen, um uns einen prominenten Fall vor Augen zu führen. Die Vorwürfe von Colin Fernandes. De facto passiert es aber ja viel häufiger und nicht nur Prominenten, dass ihre Profile online missbraucht werden. Insbesondere Frauen werden mit Fake-Videos erniedrigt, erpresst oder eben auch geradezu psychisch gefoltert. Bevor wir jetzt über konkrete Tipps oder für den Umgang damit sprechen, vielleicht erst nochmal kurz auf so einer emotionalen Ebene. Warum ist das für die Betroffenen so schlimm? Also es gibt ja durchaus Leute, die sagen ja, die erleben ja gar keine direkten körperlichen Übergriffe. Ja, also da muss man sich einfach nur mal in die Lage versetzen und vielleicht noch als Ergänzung, digitale Gewalt ist ja so viel mehr als nur ein, oder ich sag jetzt nur, das einzelne Deepfake-Video. Digitale Gewalt hat massive unterschiedliche Erscheinungsformen. Das kann ja vom Mobbing, von bösartigen Kommentaren, Hetze, Bedrohungen, das ist ja ein ganz, ganz weites Feld und Deepfakes sind für mich eben so eine Sonderkonstellation im Bereich digitale Gewalt. Und wenn man sich jetzt vorstellt, du kriegst es ja vielleicht selbst gar nicht als Erste mit. Also da hat jemand mit einem Nudifier, mit einer Face Swap App von dir ein Porno-Video erstellt. Dann gehst du zur Arbeit und alle haben es schon gesehen. Bis du es überhaupt mitkriegst, hat das 100.000, 200.000, 300.000 Views. Und natürlich könnte man jetzt als Außenstehender sagen, ja mei, es ist ja nicht echt, das bist ja nicht du. Es ist aber trotzdem geeignet, den Ruf massiv zu schädigen. Und es ist damit häufig eine große Scham verbunden, Verletzung. Und das muss man erst mal wegstecken. Also ich glaube, die Auswirkungen bei den Betroffenen sind ganz massiv. Und auch diese Deepfake-Pornos sind ja nur ein Teilbereich. Das können ja auch ganz andere Dinge sein. Prominenter Fall war zum Beispiel, dass es Deepfake-Videos gab von echten Medizinern. Also die Fake-Videos dann natürlich nicht echt, die Werbung für bestimmte Produkte gemacht haben. Massiv rufschädigend. Und das Ding ist, diese Videos, diese Bilder, diese Hassbotschaften, was auch immer, häufig sind es ja auch einfach Racheaktionen, die sind dann ja schon so oft um die Welt gegangen, bis du das richtig stellst. Es vergeht ganz viel Zeit, bis du es gelöscht bekommst, es vergeht ganz viel Zeit. Und du erreichst ja nicht alle, die das dann schon gesehen haben. Natürlich kennen dich nicht alle, die dich gesehen haben, aber ich glaube, das kann man sich nur schwer vorstellen, wenn man nicht selbst schon mal betroffen war. Ja, voll. Dann kommen wir doch jetzt mal auf so eine eher pragmatische Ebene. Wenn ich jetzt erkenne, dass ich betroffen bin, dass mein Profil meine Bilder missbraucht werden, was tue ich dann? Also ich stelle mir vor, im ersten Moment stehe ich ja voll unter Schock, kann vielleicht überhaupt nicht klar denken. Also was wären so konkrete Schritte, die ich mir vielleicht merken kann, was man in so einem Moment dann tun sollte? Also ich würde da danach differenzieren, welche Art von Ereignis hat dich gerade ereilt. Also es gibt ja auch da verschiedene Varianten. Man liest immer mehr von geklonten Accounts, die dann mit Inhalten bespielt werden, häufig in betrügerischer Absicht. Da handeln ganz viele so, dass sie das sofort publik machen und sagen, hey, das bin nicht ich. Das ist ein geklonter Account. Und dann sind es die üblichen Schritte. Also natürlich bei der Plattform melden. Da kommen wir gleich noch im Einzelfall dazu, wie das überhaupt erfolgversprechend sein kann und wie eben nicht. Wenn es strafrechtlich relevant ist, dann würde ich Strafanzeige erstatten beziehungsweise Strafantrag stellen. Und wenn es ganz massiv ist, dann sollte ich mich entweder an eine Organisation wenden, bei der ich Schutz kriegen kann oder Unterstützung. Es wäre zum Beispiel HateAid. Und ansonsten sich anwaltlich beraten lassen, weil dann kannst du ja die Löschung versuchen zu erwirken. Ob das dann klappt, steht wieder auf dem anderen Blatt. Und bei diesen Meldungen muss man im Hinterkopf haben, da gab es auch schon diverse Verfahren dazu vor Gericht. Ein Kollege von mir hat da einige angestrengt. Dabei ist rausgekommen, dass bei einigen Plattformen nichts anderes als tote Briefkästen dahinter geschaltet sind. Also es sind automatisierte Systeme, du meldest, kennt jeder wahrscheinlich schon. Du hast schon mal was gemeldet, vielleicht gar nicht dich betreffend, sondern vielleicht Volksverhetzung oder Hassrede oder Mobbing. Und dann kriegst du ja immer nur lapidar zurück, ja, kein Verstoß festgestellt. Deswegen arbeiten manche damit, dass sie sagen, ja, ich suche mir je nach Plattform da eine E-Mail-Adresse raus und schreibe da hin, weil ich da viel mehr Details übermitteln kann. Weil wer schon mal versucht hat, eine Meldung abzusetzen, du hast ja dann so ein kleines Auswahlmenü, dann kannst du da auswählen, kannst aber im Prinzip je nach Plattform entweder nichts oder fast gar nichts ergänzen als Erläuterung. Und dann gibt es immer mal wieder so, ja, kursierende Tipps. Da bin ich mir nicht so sicher, wie hilfreich die sind. Manche haben Erfolg, manche nicht. Die sagen dann, ja, meld mal lieber eine Urheberrechtsverletzung, weil manche Plattformen so viel Ärger hatten mit großen Firmen, dass sie da vermeintlich ein bisschen anders drauf reagieren, ob das funktioniert. Kann ich nicht beurteilen, das habe ich nur immer wieder gehört. Aber das mit den E-Mails könnte ein guter Tipp sein. Da muss man manchmal ein bisschen suchen, alles ein bisschen versteckt. Es sind eigentlich auch andere Formulare vorgeschrieben, aber diese normalen Meldungen ist häufig nicht Erfolgversprechen. Und wenn ich überlege, was mir an eigenen Beiträgen gesperrt wurde wegen Hasskommentar, weil die KI irgendwas falsch verstanden hat, dann melde ich eine eindeutige Volksverhetzung. Abgebildete Hakenkreuze oder ähnliches und das ist dann in Ordnung. Also daran sieht man das schon. Ja krass. Bevor wir jetzt auch zu dieser juristischen Einschätzung kommen, wozu sind eigentlich die Plattformen auch verpflichtet? Vielleicht erst nochmal einen Schritt zurück. Du hast gesagt Anzeige erstatten, zur Polizei gehen. Das würde ich einer Freundin auch auf jeden Fall immer sofort raten. Wir wissen ja aber von den Zahlen zu körperlichem Missbrauch, dass viele eben nicht zur Polizei gehen, weil sie Angst haben, dass man ihnen nicht glaubt. Wie ist denn da die Lage bei digitaler Gewalt? Also wie ernst wird man da genommen, wenn man zur Polizei geht und was muss man vielleicht auch sagen? Gibt es da bestimmte Wörter, bestimmtes Material, das man da mitbringen sollte? BeamtInnen einem da glauben? Ja, also man muss auch gar nicht überall persönlich vorbei. Es gibt inzwischen auch die Möglichkeit, das online zu machen bei manchen Polizeidienststellen. Das kann ich nicht pauschal für Deutschland beantworten. Da muss man dann eben schauen, wie es in der eigenen Umgebung gerade so ist. Ansonsten auch da gibt es Informationen bei HateAid. Es gibt Meldehelden. Da kann ich mich auch hinwenden. Und ansonsten ist es ganz, ganz wichtig, natürlich Beweise zu sichern. Die brauche ich sowohl fürs Strafrecht als auch fürs Zivilrecht. Das heißt, ich kann Screenvideos machen, ich kann Screenshots machen, ich muss alles dokumentieren. Und auch da muss ich wieder an HateAid verweisen, die haben sich die ganze Arbeit schon gemacht. Da gibt es Anleitungen dazu, wie ich rechtssicher Beweise sichern kann. Also da am besten mal durchklicken. Vielleicht könnt ihr das in den Shownotes verlinken. Das sind sehr, sehr gute Anweisungen oder Anleitungen, weil das sollte ich schon machen. Also in aller Regel hat es wenig Aussicht auf Erfolg, wenn ich einfach nur da hinschreibe, ja, also dieser und jene Account hat dieses oder jenes über mich gepostet oder geschrieben oder veröffentlicht, sondern ich muss da schon ein bisschen Butter bei die Fische und muss das dokumentieren. Und was ich ganz wichtig finde, das ist häufig so, übrigens bei vielen Formen von Gewalt, dass die Betroffenen sich davor scheuen, Anzeige zu erstatten aus diversen Gründen. Da sollte man sich nicht schämen. Man hat nichts falsch gemacht. Also das vielleicht mal Punkt eins. Und ich kann nur was ändern oder mich schützen, wenn ich aktiv dagegen vorgehe. Da möchte ich also jedem einfach nur Mut machen. Natürlich haben wir eine Flut von Straftaten, die online begangen werden. Da kommt auch die Polizei irgendwie nur bedingt hinterher. Aber je besser ich dokumentiere, je präziser ich bestreibe. Und wichtig ist, wenn es ein Antragsdelikt ist, muss ich halt auch einen Strafantrag stellen. Dann besteht da schon die Chance, dass man sich das genauer anguckt. Und es nimmt ja auch zu. Also du meinst, die Fälle nehmen zu und dadurch werden die Behörden da auch geübter darin, sowas zu verfolgen. Ja, genau. Und wie sieht jetzt die juristische Lage aus? Also inwiefern sind Opfer da geschützt? In welche Richtungen kann man da juristisch gehen? Inwiefern sind auch eben, du hast die Plattform schon angesprochen, die verpflichtet, Dinge dann auch zu löschen? Ja, also da muss man zweierlei unterscheiden und es kommt natürlich auch auf den konkreten Inhalt an, den ich beanstande. Also vielleicht erstmal so Status Quo. Ich kann strafrechtlich ansetzen, ich kann zivilrechtlich ansetzen. Im Strafrecht sind es im Wesentlichen die sogenannten Ehrdelikte. Also ich habe die Beleidigung, ich habe üble Nachrede, je nachdem Verleumdung. Es gibt dann noch einen Sonderstraftatbestand, da geht es um höchstpersönliche Lebensbereiche und Bildaufnahmen. Die sind in diesen klassischen Deepfake-Fällen immer ein bisschen knifflig, weil da geht es darum, dass eben in der Privatsphäre, also im äußersten inneren Raum, im höchstpersönlichen Lebensbereich da irgendwas fotografiert wird und dann verwendet wird. Und das Problem ist, dass ich bei diesen Deepfakes einfach nur ein Gesicht brauche, vielleicht ein Foto, das öffentlich zugänglich ist. Das heißt, da falle ich dann hinten schon wieder runter. Also es ist alles nicht so ganz einfach. Und bei diesen ganzen ehrverletzenden Delikten brauche ich halt natürlich eine gewisse Schwelle. Die überschritten wird. Aber das ist so der strafrechtliche Bereich. Da sagen viele Experten, da kommen wir vielleicht gleich noch dazu, dass das definitiv nicht ausreichend, dass es da Strafbarkeitslücken gibt. Auch wenn sich da in den letzten Jahren viel getan hat, was so eher verletzende Aufnahmen angeht. Wir haben ja auch den Upskirting-Paragrafen vor ein paar Jahren bekommen. Der andere Bereich, und das ist der, mit dem ich dann wirklich was bewirken kann, Weil selbst eine Strafanzeige bewirkt ja nicht automatisiert, dass dieser Inhalt verschwindet. Und das heißt immer dann, wenn meine Persönlichkeitsrechte betroffen sind, dann habe ich unter Umständen einen Anspruch auf Löschung dieser Daten. Also da könnte ich dann die Plattform, je nachdem welches, in Anspruch nehmen. In einer idealen Welt würde das natürlich so funktionieren, dass ich das melde, dass ich das dort bekannt mache, kurz ein bisschen begründe und dann verschwindet das Ganze einfach. Die Erfahrung zeigt, dass die Plattformen sich da so ein bisschen sperren. Also in manchen Fällen funktioniert es, in manchen musst du wirklich bis vor Gericht ziehen. Und das ist dann halt einfach ein Riesenproblem, weil das Ganze zieht sich, das Ganze dauert. Und das ist natürlich für die Betroffenen äußerst unbefriedigend. Es gibt dann noch die Möglichkeit, je nachdem welche Intensität, welche Qualität das hatte, dass ich halt Schadensersatz geltend mache oder ähnliches. Und bisher war so ein bisschen die Krücke, dass man sagt, naja, wir können diese Lücken, die jetzt vorhanden sind, so ein bisschen übers Kunsturhebergesetz schließen. Also das geht aber dann jetzt schon ein bisschen sehr tief rein. Aber grundsätzlich Strafrecht, Zivilrecht, ich habe verschiedene Anknüpfungspunkte, die sind da. Ich persönlich bin damit nicht so ganz glücklich, weil es alles sehr langsam ist, sehr schwergängig. Und wir haben keine sofortige Hilfe. Das ist das Problem. Es ist noch nicht so angepasst auf die aktuelle Lage, wo ja so viel digital einfach so schnell auch passiert. Jetzt ist es ja so, dass die Justizministerin Stefanie Hubig von der SPD gerade aktuell einen Gesetzentwurf vorgelegt hat, um genau solche Lücken zu schließen. Was genau hat die Ministerin denn da vorgelegt? Ja, also sie sagt, sie will, also sie ist, muss man erst mal sagen, großes Lob, dass sie das Thema wieder aufgegriffen hat. Sie setzt sich sehr ein, gerade für den Schutz von Frauen und gegen digitale Gewalt und sie möchte so ein bisschen Strafbarkeitslücken schließen. Das heißt, wir haben da zwei Ansatzpunkte. Es sollen ein paar Strafschärfungen kommen in einzelnen Paragrafen und dann will sie aber auch neue Paragrafen schaffen. Ob das dann so kommt, weiß man noch nicht. Es soll eine Erweiterung geben beim Upskirting-Paragrafen, es soll ein bisschen ausgeweitet werden und dann soll es tatsächlich explizit einen Straftatbestand geben, der Deepfakes erfasst, sexualisierte Deepfakes erfasst. Das Problem ist jetzt, dass die Experten sehen, sie sind sich so ein bisschen uneinig. Also in meiner Bubble haben natürlich alle darüber diskutiert und da scheiden sich so ein bisschen die Geister. Geht es weit genug? Geht es zu weit? Ich bin immer noch nicht so ganz im Reinen mit diesem Entwurf. Ehrlicherweise glaube ich, ja, es ist gut, dass wir da den Finger drauf haben, dass wir die Strafbarkeit ein bisschen ausweiten. Mein Problem ist aber, dass in vielen Bereichen das Herstellen, das Erstellen eben dann doch noch nicht erfasst ist. Es gibt dann wieder Einschränkungen, die dazu führen, dass eben doch nicht alle Deepfakes, die ich gern erfasst gesehen hätte, erfasst werden. Auf der anderen Seite wird es zum Teil so weit gefasst, dass die Abgrenzung wieder sehr, sehr schwierig sein wird. Liegt das jetzt vor oder liegt das nicht vor? Also das mit dem Erstellen, da meinst du, dass quasi nur das Verbreiten strafbar sein soll von solchen Inhalten? Ja, je nachdem, welche Art von Deepfake es ist, genau, kommt es halt wie bisher auch wieder darauf an, dass du es verbreitest, dass du es zugänglich machst. Ja, es ist ein Schritt nach vorne. Ich glaube aber, dass diese Debatte, brauchen wir härtere Strafen, brauchen wir mehr Straftatbestände? Ja, die muss geführt werden. Die greift meines Erachtens aber so ein bisschen zu kurz, weil man sich ja wie in vielen Bereichen die Frage stellen kann, schreckt es denn ab, wenn es strafbewehrt ist? Reicht das denn? Also wenn man das jetzt auf die Fälle, die so konkret gerade durch die Medien gegeistert sind, anwendet, es ist ja jetzt nicht so, dass eine angezeigte Beleidigung straflos gewesen wäre und trotzdem passiert es. Also da habe ich halt so ein bisschen Kopfschmerzen dabei. Und ja, es soll auch ein bisschen die zivilrechtliche Verfolgung vereinfacht werden. Das aber auch nicht in einem Maß, wo ich denke, ja, da hätten wir sofort Schutz für die Betroffenen. Den hätten wir meines Erachtens eher bei dem, was gerade so, und deswegen finde ich persönlich, dass es ein bisschen spannender auf EU-Ebene passiert. Weil da gab es nämlich auch im März gerade eine Abstimmung und da hat man sich auf EU-Ebene eher darauf verständigt, dass man zum Beispiel Nudifier verbieten soll. Also KI-Tools, die es einem ermöglichen, wenn man ein Foto von jemandem hat, ein ganz normales angezogenes Foto, diese Person quasi digital auszuziehen. Genau, und das ist ja häufig das, was passiert. Entweder das oder du hast diese Face-Swap-Apps, mit denen du Gesichter austauschen kannst. Und das würde halt meines Erachtens, ja, vorzeitig, also es wäre halt eher beim Präventionsthema angesetzt. Da könntest du vielleicht ganz viel einfach schon verhindern. Und natürlich hast du die Technik-Nerds, die das trotzdem hinkriegen. Aber ehrlich, ich dann nicht ohne App. Also nicht, dass ich solche Videos erstelle. Aber natürlich habe ich auch meine Apps, mit denen ich KI-generierte Inhalte erstellen kann. Und das würde halt deutlich früher ansetzen. Und da gab es eben gerade eine Einigung und das sieht ganz gut aus, finde ich, dass da was passiert. Jetzt ist es ja auch so, dass es ExpertInnen gibt, die sagen, innerhalb der nächsten ein, zwei Jahre könnten 90 Prozent der Inhalte im Internet KI generiert sein. Und wir erkennen ja jetzt schon oft gar nicht mehr, was denn echt ist und was nicht. Du hast gerade schon gesagt, man könnte diese Nudifier verbieten. Was würdest du denn sagen, welche Möglichkeiten gibt es generell, KI sinnvoll juristisch einzuschränken? Was wäre da dein Ansatz? Ich bin an sich immer keine Freundin von Einschränkungen, es sei denn, es ist tatsächlich rechtlich geboten. Und ich glaube ganz ehrlich, wofür braucht man eine Nudifier-App? Also die kann weg, das wird mich jetzt nicht weiter stören. Weil ganz ehrlich, wer hat berechtigte Bestrebungen, so einen Teil zur Verfügung zu haben, fällt mir jetzt irgendwie ehrlich gesagt kein Szenario ein. Ansonsten KI einschränken finde ich schwierig, weil ich glaube, wir leben in einer technisierten Welt, wir arbeiten mit KI, wir sind in vielen Berufen auf KI angewiesen. Ganz ehrlich, ich könnte meinen Job nicht mehr machen komplett ohne KI oder mit eingeschränkter KI, ich brauche das schon auch. Und KI ist an sich ja nicht schlecht, die ist nicht böse, die ist weder ethisch noch unethisch, weder moralisch noch unmoralisch. Das sind ja die Menschen, die sie nutzen. Und deswegen Einschränkung von KI finde ich schwierig. Ich wäre da eher auf der Ebene Kennzeichnungspflichten. Da hat die EU ja auch was auf den Weg gebracht. Das muss jetzt alles dann, wenn das fortentwickelt ist. Also da geht es zum Teil mit den Unifyern jetzt noch um die Ausgestaltung. Und dann ist es ja immer so, dass die Mitgliedstaaten Zeit haben, das umzusetzen. Aber so langsam waren wir jetzt auch nicht, muss man sagen. Und es wirkt ja jetzt so, und das vielleicht auch mal zur Verteidigung unseres Bundesjustizministeriums, es wirkt jetzt so, als sei dieser eine prominente Fall Ursache gewesen für diesen Entwurf. Das natürlich nicht. Also sie hat ja auch gesagt, man war da schon dran, der war quasi fast fertig in der Schublade. Und das war halt vielleicht jetzt der passende Anlass, um dieses Thema zu verarbeiten. In dem Peak der öffentlichen Wahrnehmung dann auch zu platzieren. Genau, das ist das jetzt beschleunigt. Genau, so ein Gesetzentwurf, der schreibt sich ja nicht über Nacht. Also Einschränkung von KI wäre ich kein Freund. Wovon ich begeistert wäre, es geht doch mal ein bisschen härter an die Plattform ran. Was man ja nicht vergessen darf, es geht ja nicht nur darum, dass die da, ist ja immer das Hauptargument, vor technischen Problemen stehen mit der Löschung. Nein, das geht alles ganz, ganz einfach, wenn man denn will. Sondern es wird mit diesen Inhalten, je mehr Klicks, je mehr Empörung, wird ja Geld verdient. Und da könnte man ja mal ran. Da, wo es Geld liegt, wo es ums Geld geht, da tut es weh. Und das heißt, wenn man da eine Möglichkeit fände, dass die Löschungen schneller durchgesetzt werden, dass es verbindliche Community-Richtlinien gibt, auf deren Einhaltung dann auch gepocht wird. Das fände ich ganz gut. Also mehr Prävention und mehr Unterstützung bei der Durchsetzung für die Betroffenen. Hast du da eine Idee, was für ein juristischer Hebel das sein könnte? Grußgelder. Wenn die nicht innerhalb von Zeitraum X löschen, gibt es richtig heftig Buchstaben. Ja, ich kann dir jetzt nicht sagen... Ah, welches, war das Australien? Ich glaube, es war Australien. Die haben tatsächlich eine eigene Aufsichtsstelle auch. Also ich kann dir nicht mehr sagen, wie es heißt. Ich lese immer ganz viel und das flog so an mir vorbei. Also irgendwie so eine Art Cyber Community Security Officer. Also es hieß ganz anders, aber du weißt, worauf ich ihn auswähle. Und an den kann man sich auch wenden, der ist ansprechbar. Also das wäre ja vielleicht auch, jetzt nicht bis zum Ende durchdacht, aber das wäre so eine spontane Idee, die ich ganz gut fände. Weil die Plattformen scheffeln da mit Geld. Dann pack sie da, wo es wehtut, beim Geld. Ja, toll. Wenn wir jetzt mal ein bisschen rauszoomen von der juristischen Debatte quasi hin zu so einer gesellschaftlichen Ebene. Also was müsste sich denn gesellschaftlich ändern? Wenn ich jetzt so an die Debatte eben gerade mit den Vorwürfen von Colin Fernandes denke, da wurde ja sehr schnell dann nicht mehr über die eigentlichen Vorwürfe oder über digitale Gewalt diskutiert, sondern über Presserecht, Stichwort Unschuldsvermutung oder auch Kanzler Merz, der ja die ganze Debatte in Zusammenhang gestellt hat mit Migration. Also was würde da gesellschaftlich helfen? Also ich glaube, das Problem ist natürlich, wir sind alle Menschen. Und wir springen natürlich sehr, sehr schnell auf entsprechende Empörungszüge auf und verlieren dann den Fokus für das, woraus es wirklich ankommt. Das wird massiv gepusht durch die sozialen Medien, die genau davon leben. Also Empörung erzeugt Klicks. Und ich glaube, wir können alle ganz viel selbst dazu beitragen, indem wir unseren eigenen Fokus wieder zurechtrücken. Also ich kann ja selbst entscheiden, gehe ich jetzt mit, weg von der Debatte, auf Nebenkriegsschauplätze. Und die Unschuldsvermutung, ja, die gibt es, vor allem im Gerichtsverfahren. Das andere ist Verdachtsberichterstattung. Das kann die Presse eigentlich ganz gut beurteilen. Aber alle Welt muss dann zwanghaft die eigene Meinung dazu äußern und man pusht ja damit alles noch. Also das vergessen glaube ich immer ganz viele. Man hat dann so das Bedürfnis, da jetzt auch schnell was dazu zu sagen und dann pushe ich vielleicht Inhalte, die ich gar nicht pushen will. Und ich glaube, wenn wir einen Schritt zurücktreten, sollten wir uns klar machen, wir alle können selbst bis zu einem gewissen Grad beitragen, solche Dinge zu verhindern. Also jetzt nicht den Fall Fernandes, das waren Dinge aus dem privaten Bereich, wenn es so ist, wie sie berichtet. Aber mit unseren eigenen Daten online gehen wir total sorglos um. Also wenn ich mir anschaue, was man in den sozialen Medien permanent für Bilder aus dem privaten Bereich sieht. Da stehen die Leute vor den eigenen Haustüren, fotografieren sich in ihrer Küche, in ihrem Wohnzimmer, dann vielleicht noch mit einem weiten Winkel. Wenn es ganz doof läuft, sind die Kinder noch mit auf dem Bild? Da kann ich ja immer nur von abraten, das zu machen. Also das wäre Punkt eins. Macht euch klar, alles, was ihr hochladet, kann potenziell missbraucht werden. Und diese Entscheidung sollte ich jedes Mal bewusst treffen, wenn ich Inhalte veröffentliche. Und das andere ist, ich glaube, wir sollten so ein bisschen darauf achten, wie interagiere ich selbst online? Erzeuge ich selber Reichweite bei Dingen? bei denen ich keine Reichweite erzeugen sollte. Ist das ein echter Inhalt? Ist das ein Fake? Falle ich gerade selber auf was rein? Also ich glaube, was wir selber präventiv tun können, ist auf jeden Fall Awareness und große Bitte. Wenn man selbst auf Inhalte stößt, von denen man glaubt, das geht so aber nicht, melden. Weil ab einer gewissen Masse an Meldungen, das wird ja zum Teil auch orchestriert, verwendet in sozialen Medien, kann das dann tatsächlich doch wieder was bewirken. Du stehst ja selber auch stark in der Öffentlichkeit, du hostest fünf Podcasts, du moderierst, du bist Mentorin, du bist auf Instagram und TikTok unterwegs. Wie gehst du denn selber ganz persönlich mit der Gefahr, um Opfer von Diebfakes oder von Datenmissbrauch zu werden? Ich bin mir der Tatsache bewusst, dass das jederzeit passieren kann. Ich glaube, das ist schon mal Punkt eins. Also mich würde es nicht überraschend treffen. Schön fände ich es nicht, aber das ist Teil meines Jobrisikos. Das ist dann einfach so, ich würde mich dann zur Wehr setzen. Und zwar aus allen Rohren. Ich weiß nicht, ob es mich, ich kann es nicht beurteilen. Also ich kann nicht sagen, antizipieren, würde mich das jetzt mental richtig krass treffen. Weil ich glaube, es macht immer einen Unterschied, ob du vorbereitet bist oder unvorbereitet. Es kann gut sein, aber das ist dann halt Teil des Risikos, mit dem ich leben muss. Also ich muss ja auch damit leben, dass ich zum Teil angefeindet werde. Also ich kriege wirklich böse Nachrichten. Ich muss auch die Kommentare moderieren. Da stand auch schon was drin davon, dass ich auf Listen stehe. Man möge hängen oder in die Kammer, die Gaskammer drängen. Das kommt schon mal vor. Aber dessen muss man sich einfach bewusst sein. Ich weiß das, ich würde nie... Ohne Not Menschen aus meinem Umfeld mit ablichten, es sei denn, die sind selbst online vertreten. Ich gebe von mir schon relativ viel Preis, aber ich glaube, weil es für meine Formate einfach erforderlich ist. Und ja, wenn es denn kommt, so sei es. Also dann wird man sehen. Ich glaube, dass es ein Stück weit Berufsrisiko ist, wenn du dich exponierst. Was ich viel tragischer finde, dass es Menschen immer wieder betrifft, die eben nicht bewusst sich in dieser Weise beruflich exponieren, sondern die halt dann so einen privaten Account haben und da, was weiß ich, halt ein bisschen was aus der Freizeit posten oder vielleicht ja auch mal über den Job berichten, aber nicht so bewusst exponiert. Und da trifft es dich dann natürlich echt hinterrücks. Ja, jetzt hast du eben auch schon das Stichwort Prävention angesprochen, auch schon so ein paar Sachen gesagt, wie du sagen würdest, so handelt man ein bisschen datenverantwortlicher vielleicht im Netz. Ich muss ja sagen, mich macht es so ein bisschen sauer auch, dass es jetzt wieder die Frauen sind, die sich irgendwie schützen sollen, anstatt dass wir die Möglichkeiten der Täter einschränken, aber dennoch kannst du nochmal so ein bisschen auf den Punkt zusammenfassen, wie verhalte ich mich präventiv, wenn ich im Internet unterwegs bin? Ja, also das Einfachste ist natürlich, und das funktioniert nicht, das funktioniert bei fast niemandem, möglichst wenig privates Hochladen. Also ich muss mir wirklich bei allen Daten, die ich preisgebe, seien es Bilder, sei es meine Stimme, darüber im Klaren sein, das kann missbraucht werden. Es gibt in jeder App so ein paar Möglichkeiten. Ja, die ich für die Leute nutzen kann, die sich nicht wirklich auskennen. Also sei es jetzt auf TikTok kann ich natürlich, was weiß ich, ausschließen, dass Duette oder Stitches gemacht werden. Aber das sind nicht die Probleme, von denen wir sprechen. Und egal in welcher App ich welche Einstellung verwende, um das Downloaden oder was auch immer zu verhindern, diese Einstellung gibt es in fast allen Apps. Es gibt auf jedem Handy die Möglichkeit, ein Screen-Video aufzunehmen. Das ist das große Problem. Das heißt, wenn ich Daten online stelle, kann ich mich fast nicht schützen. Das heißt, Awareness ist ganz wichtig. Was ich natürlich machen kann, um so ein bisschen, ich sag mal, im legalen Bereich die Kontrolle zu behalten, ist, wenn ich eine App downloade und sie nutze, ich weiß, es ist super lästig, aber guckt mal in die Nutzungsbedingungen. Ist da ausgeschlossen, dass meine Daten für KI-Training verwendet werden? Das ist zum Beispiel so ein Punkt. Aber so hart das klingt, richtig Schutz gibt es nicht präventiv für alles, was ich online stelle. Lasst eure Kinder nicht ins Bild laufen. Guckt, dass man nicht erkennen kann, wo ihr genau wohnt, wenn ihr irgendwelche Aufnahmen macht. Achtet drauf, wenn ihr euer neues Auto fotografiert, bitte nicht mit Kennzeichen, nicht die Klingelschilder. Das sind so ganz banale Dinge, aber das Verwenden meiner Fotos kann ich damit natürlich auch nicht verhindern, sei es nackt im Dunkeln das klingt hart, aber, ja wenn ich die Entscheidung treffe, wenn ich sage ich möchte aber online präsent sein. Dann muss ich damit einfach rechnen. Ich glaube, das Risiko ist ein bisschen geringer, wenn man sich von diesen ganz hochgradig kommerziellen Plattformen löst. Es gibt da ja ein neues Ding hier in Berlin, Weedium. Habe ich jetzt nicht mehr so viel wahrgenommen. Es ist natürlich schwer, mit den Großen mitzuhalten. Oder ich könnte mir auch mal im Fidiverse einen Account zulegen. Also ich bin da überall, aber ich komme halt leider momentan noch nicht weg von diesen kommerziellen Plattformen, Weil da die Botschaften hin müssen. Wie hoch ist denn deiner Meinung nach die Gefahr, dass man digital missbraucht wird, ohne davon zu wissen? Also viele Opfer erfahren davon ja erst durch Zufälle oder weil FreundInnen sie auf irgendwas aufmerksam machen. Kann ich nicht abschätzen. Ich kann es nicht abschätzen. Also wenn du jemand bist, der jetzt nicht wahnsinnig bekannt ist, dann kommt es natürlich darauf an, wie groß die Bubble um dich rum ist. Andererseits stellt sich dann auch die Frage, wie groß ist die reelle Gefahr, dass dir das passiert und dass es jemand mitbekommt, den du kennst. Also kann ich wahnsinnig schwer abschätzen. Was natürlich Fakt ist, und das ist leider so, es gibt einen Risikofaktor, der gleich alles erhöht und das ist Frau sein. Ja Das bringt mich zu meiner nächsten Frage Werden denn auch Männer Opfer? Also von sexualisierter Gewalt habe ich jetzt online, ich wüsste gar nicht, ob ich überhaupt schon mal was mitbekommen habe. Es gibt tatsächlich Umfragen unter Politikerinnen und Politikern zu digitaler Gewalt und auch Angriffen im realen Leben. Auch da ist die Quote bei Frauen etwas höher. Bei Männern sind es andere Dinge, die widerfahren. Also ich glaube, es waren, ich kann es ja nicht genau sagen, 63 der weiblichen Politikerinnen und 53 der männlichen hatten schon Gewalterfahrungen auch im digitalen Raum in den letzten sechs Monaten vor der Umfrage. Also das finde ich schon ziemlich krass und es splittete sich aber dann sehr schnell auf, Da ging es nicht immer um Fake-Videos, sondern allgemein digitale Gewalt. Bei Frauen sehr häufig Vergewaltigungsandrohungen, sexualisierte Angriffe online. Bei Männern körperliche Gewalt, Morddrohungen. Also das ist dann einfach ein anderes Problem. Das Spielfeld, würde ich sagen, in Ordnung ist natürlich beides nicht. Und ich finde es traurig, dass jemand, egal ob ich ihn gut finde oder schlecht finde, in Ausübung eines Amtes, weil er dieses Amt ausübt, Opfer von digitaler Gewalt wird. Das geht nicht. Und ich finde zwar auch, Friedrich Merz übertreibt das etwas mit seinen jüngsten Beschwerden, dass es keinem Kanzler von ihm so schlimm ergangen sei. Weiß ich nicht, müsste man mal Mutti fragen. Also mir ist das Danke Merkel auch noch sehr präsent im Kopf, dass alle Welt geschrien hat. Aber auch Herr Merz hat das nicht verdient. Das ist eine Verrohung der öffentlichen Kommunikation, die ich absolut nicht in Ordnung finde. Da sind wir wieder bei der Frage, was sich gesellschaftlich auch ändern muss. Vielleicht nochmal abschließend, du hast es eben schon so ein bisschen gesagt, aber vielleicht nochmal auf den Punkt, Und das Bild nackt im Dunkeln. Muss ich jetzt an meiner Nacktheit arbeiten, also weniger von mir online preisgeben oder auch mehr Licht ins Dunkel bringen? Also vielleicht KI verstehen, verstehen, wohin das alles führen kann und was ich noch glauben kann. Und wenn letzteres, was würdest du da vielleicht empfehlen für jemanden, der vielleicht mit KI bislang noch nicht so viele Berührungspunkte hatte? Also ich glaube, es braucht beides. Also ich will jetzt nicht sagen, löscht alle Apps und alle Accounts, aber wirklich bewusst entscheiden, weil dann habe ich ein Stück weit die Kontrolle über das, was ich von mir online stelle. Dann ist es natürlich draußen. Aber ich muss bei jedem Schritt, bei jeder Veröffentlichung mir darüber im Klaren sein. Ich glaube, das ist wichtig, hatte ich eben schon gesagt. Ich glaube, was auch wichtig ist, dass man sich mal ein bisschen mit dem Thema befasst. Da gibt es wirklich niedrigschwellige Infoangebote. Was ist überhaupt digitale Gewalt? Welche Formen von digitaler Gewalt gibt es? Weil wenn ich ein bisschen Wissen habe, dann erkenne ich sowas auch schneller. Dann kann ich vielleicht auch mich schützend vor andere Stellen und eben dazu beitragen, indem ich melde. Auch dafür weiß, hey, die haben das so schön erklärt, sodass es jeder versteht. De facto ist KI eigentlich relativ einfach, Risiko zu bewerten. Es gibt fast nichts, was KI nicht kann. Also das muss man sich einfach mal klar, alles, was du dir theoretisch vorstellen kannst, lässt sich mit KI umsetzen. Manchmal ist es einfach nur besonders innervierend, bis das dann klappt, weil KI halt auf dem Level eines Assistenten ist und KI immer auf das zurückgreift, was es schon kennt. Aber theoretisch, wenn die Trainingsdaten da sind, kann KI fast alles, wenn man gut promptet, wenn man sich ein bisschen auskennt. Also das ist eigentlich recht leicht nachzuvollziehen. Und ich glaube, sich der Tatsache bewusst sein, dass es auf der Welt einfach Menschen gibt, die nichts Gutes im Sinn haben. Und sich der Tatsache bewusst sein, dass wir jetzt natürlich alle, natürlich berechtigt, über Pornodeepfakes, sexualisierte Deepfakes sprechen. Dass aber das, was von den Menschen ausgeht, die KI zweckentfremden oder für ungute Zwecke nutzen, die Gefahr, die wirklich besteht, das ist eine viel größere Gefahr. Und das habe ich auch versucht in meinem TED-Talk so ein bisschen darzustellen. Weil wenn du dir der Tatsache bewusst bist, alles, was ich online sehe, könnte halt potenziell gefälscht sein, stellt sich ja zwangsläufig die Frage, was ist noch wahr? Und das finde ich ziemlich schwierig. Damit umzugehen ist wirklich schwierig. Und das bedeutet, dass wir alle, glaube ich, eine Verantwortung tragen dahingehend, glaub nicht sofort alles, was du siehst. Nicht im Sinne eines Grundmisstrauens gegenüber Gott und der Welt, aber hin zu einem eigenen Anspruch an sich selbst doch mal zu verifizieren. Genauer hinzuschauen. vielleicht ein bisschen weniger bestimmte Medien zu konsumieren ein bisschen weniger wischen ein bisschen mehr nachdenken über das, was ich so sehe und das ist gar nicht allein unsere Schuld, sondern die Plattformen, die heizen uns ja regelrecht dazu an dran zu bleiben, stupide, alles läuft im Autoplay ab, wir scrollen durch, wir sehen, wir sehen wir sehen, aufreger, oh Gott ja, schicke ich mal dahin dass wir da das Tempo rausnehmen. Und auch da ist man ja dran, TikTok wird gerade verklagt. Von einem Kollegen von mir, sehr, sehr spannend, weil man festgestellt hat, bei Design sind gewisse Plattformen so gestaltet, dass sie abhängig machen, dass sie süchtig machen. Und sich da zu informieren, da anzusetzen, weil ehrlich, das meiste wird ja über die sozialen Medien geteilt. Da Bewusstsein zu entwickeln, sich zu informieren und vielleicht noch einen Schritt weiter zu gehen und das wäre für mich Prävention im allerersten Schritt. Mal auf meine Kinder gucken, die vielleicht auch schon ein Handy haben. Also das ist so das Absurde. Wir selbst machen uns bei uns manchmal nicht genug Gedanken und vergessen dabei komplett den Blick auf die Kinder. Weil im schlimmsten Fall werden auch die Kinder schon indoktriniert. Meine Kinder kriegen solche Inhalte zu sehen. Und jetzt mal ganz ehrlich, wenn ich als Erwachsener zum Teil nicht feststellen kann, ohne weiteres, gibt da so ein paar Tricks, aber wenn ich nicht feststellen kann, Ist das echt? Ist das fake? Wie soll das sein, mein Kind? Ja, also das ist auf jeden Fall ein super, super wichtiges Thema. Da berichten wir, liebe Zeit, auch ganz viel über das Thema. Pack ich euch alles in die Shownotes. Ich glaube an dieser Stelle, wir könnten über dieses Thema noch ewig weitersprechen. Es gibt super viele spannende Punkte, aber ich glaube, irgendwann geht uns dann auch die Zeit aus. Stefanie, ich danke dir ganz, ganz herzlich für deine offenen Worte, für deine konkreten Tipps, für deine Einschätzungen. Danke, dass du bei uns warst. Sehr, sehr gerne. Vielen Dank für die Einladung. Und euch danke ich natürlich auch ganz herzlich fürs Zuhören. Wenn euch die Folge gefallen hat, dann abonniert doch gerne unseren Kanal und dann hören wir uns nächste Woche wieder bei Blizett am Ohr.