Latest / Holger ruft an / Holger ruft an ... wegen KI-Verordnung

Transcript

Holger ruft an ... wegen KI-Verordnung · Holger ruft an

• 0:00
  Speaker 1: Also die KI-Verordnung allein und vor allem die Kennzeichnungspflichten allein, die werden natürlich nicht alle unsere Probleme lösen.
• 0:07
  Speaker 1: Die durch Deepflex entstanden sind.
• 0:09
  Speaker 1: also sie werden zum Beispiel auch nicht diesen generellen Vertrauensverlust in Medien lösen können den wir erleben das Menschen durch deepflex immer mehr das Gefühl haben dass sie eigentlich gar nichts mehr glauben können was Sie sehen und hören.
• 0:21
  Speaker 1: Und da können Kennzeichnungspflichten aber nur ein einziger Baustein unter sehr sehr vielen Bausteinen sein.
• 0:32
  Speaker 0: Hallo Maria, hier ist Holger.
• 0:34
  Speaker 0: Ich ruf an wegen KI-Verordnung.
• 0:36
  Speaker 0: Du forscht seine Uni Tübingen zu Deepfakes Medienethik und Technikphilosophie Und diese Woche ist die KI Kennzeichnungspflicht in Kraft getreten Die Verlangt grob gesagt dass alles was mal irgendwie beruflich veröffentlicht gekennzeichnet werden muss wenn es mit KI erstellt worden ist.
• 0:50
  Speaker 0: Also gilt für Presseinfluencer aber auch für Telefonhotlines wo ja oft kein Mensch mehr sitzt Besonders erwähnt werdender Deepfake.
• 0:59
  Speaker 0: Was ist der Unterschied eigentlich zwischen Fakes und Deepfakes?
• 1:04
  Speaker 1: Also, Deepfake sind nach der KI-Verordnung der EU Bilder, Audiodateien und Videos die mit Hilfe von KI manipuliert oder erstellt wurden.
• 1:16
  Speaker 1: Und die einen gewissen Grad an Realismus aufweisen also die geeignet sind um Menschen tatsächlich zu täuschen das Menschen tatsächlich denken könnten dass was da abgebildet ist es so tatsächlich passiert Menschen sein, die da abgebildet sind aber auch Orte oder Ereignisse.
• 1:33
  Speaker 0: Also sowas wie diese Werbespots mit Günther Jauch, die nie gedreht worden sind, die ich ständig beim Spiegel zum Beispiel auf der Webseite präsentiert kriege?
• 1:41
  Speaker 1: Ich weiß nicht was du da genau an Werbesspots präsendieren kriegst Aber wenn es nie passiert ist dann ist das vermutlich ein Tiefelk.
• 1:50
  Speaker 0: Warum ist das ein besonderes Problem?
• 1:52
  Speaker 0: also ich kann jede beliebige Falschmeldung wird doch erst mal im Zweifelsfall für wahr gehalten.
• 1:59
  Speaker 1: Ja, also natürlich es gibt auch schon immer Medienmanipulation.
• 2:02
  Speaker 1: Medienmanepulation ist so alt wie die Medien selbst und auch schon vor KI und vor Deepfakes konnten zum Beispiel Bilder ziemlich einfach manipuliert werden.
• 2:12
  Speaker 1: Wir kennen das alle schon jetzt inzwischen durch Photoshop beispielsweise.
• 2:15
  Speaker 1: Also wir haben uns zum gewissen grad auch daran gewöhnt dass gerade Bilder nicht unbedingt wirklich ein Abbild der Realität sind.
• 2:21
  Speaker 1: Aber durch Deepfags durch die KI-Technologie ist das Ganze einfach sehr viel einfacher und überzeugender geworden Und es können auch einfach immer mehr Menschen das tun, und zwar komplett ohne technisches Know-how.
• 2:34
  Speaker 1: Also ich habe inzwischen durch die neuen technischen Möglichkeiten gerade durch Bildgeneratoren, Audiogeneraturen oder Videogeneratoren die Möglichkeit komplett ohne irgendein technisches Vorwissen und oft auch, dass ich irgendwas dafür bezahlen muss.
• 2:47
  Speaker 1: Sozusagen meine Vision aufzuschreiben als Text prompt als Textbefehl.
• 2:52
  Speaker 1: Und ich hatte dann ein sehr realistisch aussehendes Bild oder eine sehr reallistisch klingende Audiodatei oder sogar einen fotorealistisch wirkenden Video.
• 2:59
  Speaker 1: Ich kann Stimmen jeder beliebigen Person klonen.
• 3:02
  Speaker 1: Ich brauche da nur ungefähr eine halbe Minute Audio-Mitschnitt und kann dann schon die Stimme überzeugen, klonen und sie alles sagen lassen was ich möchte oder ein einziges Bild in vernünftiger Auflösung und ich kann einen überzeugenden Bild oder Videodeapfag jeder Personen
• 3:15
  Speaker 1: generieren.".
• 3:16
  Speaker 0: Und vor allen Dingen wie du sagtest es kann jeder und jede machen das heißt die schiere Masse wird auch gleichzeitig zum Problem.
• 3:22
  Speaker 0: Ich Brauche keine Zeitung mehr um meine Falschmeldungen zu veröffentlichen.
• 3:26
  Speaker 1: Genau, also da kommt im Prinzip so diese technische Entwicklung und Bereich generativer Kail zusammen mit diesen neuen Verbreitungsmöglichkeiten gerade über die sozialen Medien.
• 3:35
  Speaker 1: Also wir erleben das ja schon lange als auch lange tatsächlich vor dem Aufkommen von Bildgeneratoren zum Beispiel dass wir über die socialen Medien einfach auch als einzelne Personen eine enorme Reichweite generieren können und das traditionelle Medien als Gatekeeper sozusagen geschwächt werden, vielleicht sogar ein bisschen wegfallen.
• 3:51
  Speaker 1: Weil immer mehr Menschen ja auch ihre Informationen teilweise sogar ausschließlich aus den sozialen Medien erhalten.
• 3:57
  Speaker 1: Deswegen wirken da sozusagen diese Entwicklungen zusammen um das Ganze noch mal sehr viel gefährlicher zu
• 4:03
  Speaker 1: machen.".
• 4:04
  Speaker 0: So und an die Deepfakes kommt jetzt ein Schild dran.
• 4:07
  Speaker 0: Hier Achtung KI.
• 4:09
  Speaker 0: wie soll das funktionieren?
• 4:10
  Speaker 0: Da kommt kein Schild daran.
• 4:11
  Speaker 0: also wie kennzeichnet man KI?
• 4:13
  Speaker 0: eine Bildunterschrift KI erstellt mit Hilfe von KI enthält KI
• 4:19
  Speaker 1: Eine gute Frage.
• 4:21
  Speaker 1: Und vor allem kommt auch nicht an alle ein Schild dran und ich glaube, da sind wir schon so'n bisschen im Kern des Problems.
• 4:26
  Speaker 1: also jetzt müssen wir ein bisschen reinschauen was steht eigentlich in der KI-Verordnung der EU?
• 4:31
  Speaker 1: Woher kommt die und für wen gilt sie eigentlich und für wem gilt die auch nicht?
• 4:34
  Speaker 1: und wer wird sich auch nicht daran halten selbst wenn sie eigentlich für diese Gruppen und Organisationen gelten würde?
• 4:41
  Speaker 1: Und tatsächlich ist ja so, dass die KI-Verordnung einmal die Anbieter in die Pflicht nimmt und zwar sind das diejenigen, die die Programme zur Verfügung stellen mit denen man dann wiederum KI generierte Bilder oder Outlet-Heinen oder Videos generieren kann.
• 4:56
  Speaker 1: Also es ist dann sowas wie OpenAI zum Beispiel oder Google mit Gemini oder Adobe mit Firefly.
• 5:02
  Speaker 1: also die Filmen, die uns diese Tools an die Hand geben.
• 5:07
  Speaker 1: sozusagen sind jetzt in der Pflicht, dass sie es so machen.
• 5:13
  Speaker 1: Dass das was rauskommt in maschinenlesbarer Form gekennzeichnet ist.
• 5:18
  Speaker 1: Das heißt, die machen müssen nicht etwas, was wir als Nutzende von Social Media Plattformen dann sehen.
• 5:24
  Speaker 1: aber das muss Maschinen lesbar gekennzeichend sein also eine KI wiederum.
• 5:28
  Speaker 1: vermutlich wird dann wiederum erkennen können müssen, dass es KI generiert ist
• 5:33
  Speaker 0: sowie in Metadaten von Fotos.
• 5:35
  Speaker 0: auch der Ort Zum Beispiel, drin steht würde dann in einem Text, in dessen Metadaten stehen KI erzeugt.
• 5:42
  Speaker 1: Genau also das ist auch schon ein bisschen eine offene Frage noch weil tatsächlich gibt es noch keine klaren Standards also keine klare technischen Standards wie eigentlich die Anbieter von KI System ihre Inhalte als KI generiert kennzeichnen sollen?
• 5:55
  Speaker 1: Also wir haben auf der einen Seite diese Möglichkeit dass in den Metadatten irgendwo zu hinterlegen und dann steht da wirklich irgendwie das wurde mithilfe von Firefly generiert.
• 6:04
  Speaker 1: Wer weiß, was da noch drin steht.
• 6:06
  Speaker 1: Also vielleicht welcher Text prompt dem zugrunde lag oder wie das Ganze dann noch verbessert wurde?
• 6:11
  Speaker 1: Es ist aber so dass Metadaten häufig sehr einfach zu entfernen sind.
• 6:14
  Speaker 1: also bei Bildern zum Beispiel kann man einfach nur Screenshot machen und schon sind die Metadate weg.
• 6:19
  Speaker 1: Und dann gibt es aber auch noch die Möglichkeit des Anbieter Maschinen lesbare Wasserzeichen integrieren In einem Bild zum Beispiel sind das dann Unstimmigkeiten in den Pixel, die wir als Mensch überhaupt nicht wahrnehmen.
• 6:33
  Speaker 1: Aber die eben eine KI wahrnehmen könnte.
• 6:37
  Speaker 1: Das Problem ist dabei aber häufig dass oft das sehr anbieterspezifisch ist damit es ganze nicht auch wieder sehr leicht entfernt werden kann.
• 6:45
  Speaker 1: Es ist von Anbietern zu Anbieten wiederum unterschiedlich wo diese Unstimigkeiten in dem Pixel versteckt sind so dass es eigentlich nur durch die Anbiter selbst möglich ist zu detektieren, also eindeutig zu detectieren ob etwas von ihrer KI erstellt wurde oder nicht.
• 7:01
  Speaker 1: Also das ist auch noch so ein bisschen offen und die KI-Verordnung sagt oder empfiehlt zum aktuellen Stand dass Anbieter da verschiedene Formen kombinieren sollen um das Ganze möglichst robust zu machen und dem Stand der Technik zu entsprechen.
• 7:16
  Speaker 0: Also es gibt, alleine für die Anbieter gibt es jede Menge Möglichkeiten.
• 7:20
  Speaker 0: Dann gibt das für mich als Nutzer auch genug Möglichkeiten, die Wasserzeichen oder was auch immer die Metadaten der Anbiter zu umgehen und das dann trotzdem zu verönsern.
• 7:30
  Speaker 0: Wer überprüft das denn überhaupt?
• 7:32
  Speaker 0: Gibt's jetzt irgendwie die KI-Polizei, die ausrückt und wie wird das dann überprüfen?
• 7:39
  Speaker 1: Also wir wissen vielleicht noch auf den zweiten Punkt eingehen, weil tatsächlich die Anbieter sind die einen.
• 7:43
  Speaker 1: Die Betreiber, die sogenannten Betreibers sind die anderen und die Betreber sind dann die Organisationen oder auch Personen, die diese Tools nutzen um damit dann Deepfacts zu generieren und die dann irgendwo zum Beispiel in den sozialen Medien zu verbreiten.
• 7:56
  Speaker 0: Also Influencer aber auch klassische Medien?
• 8:00
  Speaker 1: Genau, klassische Medien natürlich Filmen Parteien Vereine also das betrifft sehr viele.
• 8:08
  Speaker 1: Es betrifft nicht Privatpersonen, die einfach nur in ihrem privaten Bereich irgendwas teilen.
• 8:13
  Speaker 1: Also wenn ich jetzt zum Beispiel im Familienchat irgendein Deepfake-Teil bin ich davon nicht betroffen.
• 8:18
  Speaker 1: aber die Linie wann ich noch eine Privatpersone bin und wann ich schon eine gewisse öffentliche Funktion habe ist ziemlich dünn und wird wahrscheinlich relativ eng gefasst sein.
• 8:27
  Speaker 1: also es wird wahrscheinlich so sein wenn jemand zum Beispiel ein öffentliches Social Media Profil hat und dort dann irgendwelche Friedrich Merz Deepfakes oder sowas postet.
• 8:37
  Speaker 1: Oder sogar nur, wenn jemand gerne was bei eBay verkauft und da KI-generierte Bilder benutzt und damit so ein bisschen Nebeneinkommen generiert.
• 8:43
  Speaker 1: Dass man das dann auch als Privatperson sozusagen kennzeichnen muss, weil man nicht mehr wirklich ganz im privaten Bereich unterwegs ist.
• 8:50
  Speaker 1: Und diese Betreiber von KI Systemen müssen dann ihre Deepfakes so kennzeichnern dass sie für ganz normale Nutzende ohne irgendwelche technischen Hilfsmittel ganz klar sichtbar sind.
• 9:03
  Speaker 1: Und dann sind wir in einem Bereich, dass wir dann sowas haben wie Bilder wo im Bild selbst ein Hinweis sein muss das das mit KI generiert ist oder im Video selbst und nach einer Werbepause zum Beispiel muss die so Hinweise auch wiederholt werden.
• 9:16
  Speaker 1: also es reicht ja nicht dass man sowas in die Caption schreibt oder dass man einmal das Eigen blendet.
• 9:22
  Speaker 1: Also es muss ganz klar erkennbar sein Am ersten Kontakt mit diesem Deepfake aber auch wiederholt, dass das eben ein Deepfag ist.
• 9:31
  Speaker 0: Also wie früher Dauerwerbesendung oben rechts in der Ecke im Fernsehen?
• 9:36
  Speaker 1: Ja es könnte so darauf hinauslaufen.
• 9:38
  Speaker 1: also theoretisch muss es nicht permanent zu sein, also im Video kann es ab und zu dann auch wieder ausgeblendet werden und dann gibt es tatsächlich auch noch so eine Formulierung an der KI-Verordnung etwas mit künstlerischem Hintergrund veröffentlicht wird oder Satire Dann muss es nur so gekennzeichnet sein, dass das Ganze den Genuss des Werkes nicht einschränkt.
• 9:59
  Speaker 1: Was auch noch ein bisschen interpretationsoffen ist.
• 10:02
  Speaker 1: also welche Art von Kennzeichnung schränkt in genustes Werkes ein und welche nicht Genau?
• 10:08
  Speaker 1: und jetzt hat es dir gefragt, wer sitzt das alles durch?
• 10:11
  Speaker 1: Und da sind wir auch wirklich bei einem großen Knackpunkt.
• 10:14
  Speaker 0: Durchsetzen ist ja der zweite Schritt.
• 10:16
  Speaker 0: Prüfen reicht mir schon mal.
• 10:18
  Speaker 0: also wenn ich Opfer eines Defakes bin dann kann ich hier hingehen und versuchen das durchzusetzen dass das irgendeinen Rechtsanspruch aber Das ist ja eine Verordnung, also das ist ja allgemeingültig.
• 10:28
  Speaker 0: Das heißt es muss ja auch irgendwer so wie die Polizei Blitzer aufstellt oder sowas.
• 10:34
  Speaker 0: Also sowas müsste es da theoretisch auch geben, also eine automatische Überprüfung und ehrlich gesagt das kann ich mir nicht vorstellen dass das jemals passieren kann.
• 10:43
  Speaker 1: Ich glaube tatsächlich auch, dass die KI-Verordnungen aus unterschiedlichen Gründen deswegen nicht zu einer wirklich flächendeckenden Kennzeichnung aller KI generierten Inhalte in den sozialen Medien führen wird.
• 10:55
  Speaker 1: Also einerseits weil eben bestimmte Akteure, die komplett Privatpersonen ausgenommen sind aber auch weil natürlich böswillige Akteur sich nicht an dieser Kennzeichnungspflichten halten werden.
• 11:07
  Speaker 1: Also denken wir zum Beispiel in Akteuren, die jetzt im Bereich Politik unterwegs sind und auf irgendeine Wahl im Ausland Einfluss nehmen wollen oder eine Wahl im Inland, die die Gesellschaft spalten wollen, die Desinformationen verbreiten wollen.
• 11:18
  Speaker 1: Die vielleicht einfach nur trügerischen Deep Fakes Geld machen wollen.
• 11:24
  Speaker 1: Diese Akteure werden sich natürlich nicht an die Kennenzeit ums Pflichten halten.
• 11:27
  Speaker 1: Und dann ist die Frage, wie kann man dem Ganzen überhaupt noch herwerden?
• 11:32
  Speaker 1: Da brauchen wir dann wiederum KI, um eben Deepfakes zu detektieren.
• 11:37
  Speaker 1: Also das Deepfake-Detektion, also man kann ja inzwischen gut gemachte Deepfaks nicht mehr mit dem bloßen Auge erkennen oder irgendwie hören was etwas ein Deepfaket ist sondern man muss sich eigentlich auf KI verlassen und das Ganze noch aufdecken können.
• 11:52
  Speaker 1: Und dann ist die Frage, wie kann das Ganze überhaupt noch umgesetzt werden?
• 11:55
  Speaker 1: Da können diese maschinenlesbaren Kennzeichnungen helfen.
• 11:58
  Speaker 1: Die anbieter ja jetzt nach der KI-Verordnung einführen müssen...
• 12:01
  Speaker 0: Wenn ich der böswillige Akteur bin und diese Kennzeichnung gar nicht mache, da muss ja trotzdem irgendwo idealerweise erkannt oder irgendwie erkannt werden, dass ich das gemacht habe!
• 12:12
  Speaker 0: Dann müsste auch noch irgendetwas mit mir passieren.
• 12:14
  Speaker 0: Was würde mit mir
• 12:15
  Speaker 0: passieren?!
• 12:18
  Speaker 1: Bei den Anbietern ist es halt so, dass natürlich auch die ... Also die Großen werden das wahrscheinlich genauso machen.
• 12:22
  Speaker 1: Aber es gibt natürlich auch kleine Anbiete und wenn ich ein böswürdiger Akteur bin dann bin ich wahrscheinlich ein Betreiber also jemand der so im System nutzt um irgendwas zu verbreiten.
• 12:30
  Speaker 1: Man nutze sich wahrscheinlich dann eher ein kleineres Tool einen Open Source Tool was ich irgendwie lokal laufen lasse was dann eben nicht diese maschinenlesbaren Metadaten- und Wasserzeichen einbaut.
• 12:40
  Speaker 1: Und dann braucht man eben die Deepfake-Dediktion und da wird schon lange dran gearbeitet.
• 12:44
  Speaker 1: aber die hinkt immer der Generierung von Deepfakes hinterher.
• 12:47
  Speaker 1: Sprechen wir so ein Katz- und Maus Spiel, immer wenn die Detektion verbessert wird.
• 12:53
  Speaker 1: Dann wird kurz darauf auch die Generierung verbessert um das wieder zu umgehen.
• 12:57
  Speaker 1: Sie ist nie perfekt!
• 12:58
  Speaker 1: Es gibt immer echte Deepfakes, die nicht erkannt werden oder authentische Medien, die fälschlicherweise als Deepfake erkannt, remarquiert werden Und sie ist immer wahrscheinlichkeitsbasiert.
• 13:09
  Speaker 1: Das heißt, ich bekomme keine feste Aussage, sondern so was wie fünfundet achtzig Prozent Wahrscheinlichkeit ist das ein Fake.
• 13:14
  Speaker 1: und wie gehe ich dann damit um?
• 13:16
  Speaker 1: Und da ist auch die Frage Wie wird es dann konkret passieren?
• 13:20
  Speaker 1: also Es wird vermutlich kein Uploadfilter oder sowas geben dass die Plattformen in der Pflicht wären, dass jedes Medium was hochgeladen wird überprüfen müssen.
• 13:30
  Speaker 1: Sondern die KI-Verordnung gibt eben nur vor für Betreiber und für Anbieter.
• 13:34
  Speaker 1: Und bisher eben nur für Plattformen, dass sie das irgendwie erhalten müssen diese Kennzeichnung weitergeben müssen aber nicht, dass die irgendwie jetzt alles filtern und überprüfen müssen.
• 13:42
  Speaker 1: Das heißt es wird wahrscheinlich darauf hinauslaufen, dass es dann wieder meldungsbasiert ist.
• 13:46
  Speaker 1: also dass jemand dann sagt hier ist ein Inhalt da vermute ich der SKI generiert Aber er ist nicht als solcher gekennzeichnet.
• 13:53
  Speaker 1: und dann kommt eben diese Deep Fake Detektion zum Tragen wie aber nicht perfekt ist.
• 13:58
  Speaker 1: Dann kann es zum Beispiel Widersprüche geben, etwas fälschlicherweise als KI-generiert gekennzeichnet wird.
• 14:02
  Speaker 1: Da kommen wir zu so einer Flut an potenziellen Widersprüchen.
• 14:05
  Speaker 1: natürlich, wenn wir die schiere Masse anschauen, an dem was da gepostet wird... ...da kann es dann auch eben passieren dass wir sozusagen in eine Situation kommen wo wir eigentlich davon ausgehen das weitgehend alles was KI generiert ist gekennzzeichnet ist.
• 14:21
  Speaker 1: und wenn dann etwas nicht als KI generated gekennzeichnet ist.. ..dann wird's besonders gefährlich weil wir den ja vielleicht besonders stark Vertrauen.
• 14:29
  Speaker 0: Das ist auch eins meiner Probleme, ich habe noch ein Problem.
• 14:32
  Speaker 0: selbst wenn dann ein Wasserzeichen oder durchgehend erkennbar ist dass es sich um KI heißt dann werden ja trotzdem weiter Falschmeldung verbreitet.
• 14:41
  Speaker 0: also heute Journal neulich KI-Wasserzeichen in einem KI erstellten Bild in einen Beitrag.
• 14:48
  Speaker 0: keinen hat's interessiert.
• 14:49
  Speaker 0: irgendwie ist es durch sämtliche Abnahmschleifen gelaufen und veröffentlicht worden.
• 14:55
  Speaker 0: Da kommen wir überhaupt nicht gegen an.
• 14:58
  Speaker 0: Ist das überhaupt sinnvoll, so eine KI-Verordnung zu schreiben?
• 15:01
  Speaker 1: Also ich finde man muss da ein bisschen Erwartungsmanagement betreiben.
• 15:05
  Speaker 1: also die KI Verordnungen allein und vor allem die Kennzeichnungspflichten allein werden natürlich nicht alle unsere Probleme lösen, die durch Diebwerks entstanden sind.
• 15:14
  Speaker 1: Also die werden zum Beispiel auch nicht diesen generellen Vertrauensverlust in Medien lösen können, den wir erleben.
• 15:20
  Speaker 1: Also dass Menschen durch Deepflex immer mehr das Gefühl haben, dass sie eigentlich gar nichts mehr glauben können was sie sehen und hören
• 15:26
  Speaker 1: bzw.,
• 15:26
  Speaker 1: dass sie nicht mehr wissen wem und was die noch vertrauen können und was nicht.
• 15:31
  Speaker 1: Und da können Kennzeichnungspflichten immer nur ein einziger Baustein unter sehr vielen Bausteinen sein.
• 15:37
  Speaker 1: Tatsächlich ist es auch wissenschaftlich noch gar nicht so richtig klar und eindeutig untersucht welche Wirkung eigentlich Kennzeichnungspflichten haben.
• 15:44
  Speaker 1: Es kann ja nicht auch sein, unbeabsichtig negative Folgen haben, wie zum Beispiel das dann etwas eine falsche Information stärker geglaubt wird nur weil sie mit einem nicht KI-generierten Bild illustriert ist.
• 15:58
  Speaker 1: Also da gibt es auch Studien dazu oder dass Kennzeichnungen dazu führen also zb auch Kennzeichnung von Werbeklipps beispielsweise dazu führen, dass Menschen dann aber echte politische Inhalte weniger Glauben.
• 16:13
  Speaker 1: Also es kann eben auch noch mehr dazu führen, dass Menschen irgendwie alle misstrauen und gleichzeitig gibt's aber auch Forschung die zeigt das wir zu stark auf Kennzeichnungen vertrauen und dass wir dann zum Beispiel auch etwas glauben was eben nicht gekennzeichnet ist aber KI generiert ist oder etwas was fälschlicherweise als KI gekennzeichnet ist dann eben nicht mehr glauben obwohl es ein echtes Medium ist.
• 16:36
  Speaker 1: also da sind sehr viele Probleme mit drin Und Kanzlerverpflichten sind nur eine von vielen, vielen Baustellen die wir da bei Deepfakes angehen müssen.
• 16:44
  Speaker 0: Zumal ich daher auch nicht rauskomme.
• 16:46
  Speaker 0: also ausgenommen von der kenzlerges Pflicht sind unter anderem erkennbar fiktive Darstellungen das ist gut zähler über Frankfurt Das ist kein Problem aber halt auch Texte, die redaktionell von Menschen überprüft wurden.
• 16:57
  Speaker 0: So wenn ich mir dann anhöre beziehungsweise durchlesen was der Chefredakteur von IPNMedia sagt niemand ist Journalist geworden um Texte zu tippen Der Journalist der Zukunft werde ein KI-Komponist sein.
• 17:09
  Speaker 0: Wenn ich mir sowas dann anh höre Dann kann das alles ja auch bedeuten dass gerade mal ein Prozent eines textesmenschlichen Ursprungs sein muss damit der Text nicht gekennzeichnet werden muss.
• 17:19
  Speaker 0: aber realistischerweise es ist ein KI Text.
• 17:22
  Speaker 0: Wie kann ich sicher sein?
• 17:24
  Speaker 0: Selbst der Spiegelschef-Redakteur hat gesagt, bei uns gibt's das nicht.
• 17:26
  Speaker 0: Wir schreiben allen unseren Kram selbst auf, könnt ihr euch
• 17:28
  Speaker 0: verlassen.".
• 17:29
  Speaker 0: Aber er sagt das ja auch nur!
• 17:32
  Speaker 0: Wie kann sich sicher sein, dass nicht gekennzeichnete Texte tatsächlich von Menschen
• 17:36
  Speaker 0: sind?!
• 17:38
  Speaker 1: Da wird eben diese Kennzeichnungspflicht nicht alle Probleme lösen.
• 17:43
  Speaker 1: Also die sagt hier auch... Es gibt so Umsetzungsleitlinien, die das ein bisschen genauer beschreiben wie es ganz umgesetzt werden soll.
• 17:52
  Speaker 1: Und da gibt es einerseits ... Das Gekennzeichen wird etwas KI generiert ist also komplett mit KI erstellt oder etwas mit KI bearbeitet wurde.
• 18:01
  Speaker 1: Aber wo da jetzt generell die Schwelle ist ab wann etwas so gekennzeichnet werden muss Oder eben dann doch als komplett KI generieren Ist auch noch unklar.
• 18:11
  Speaker 1: Also wenn wir zum Beispiel an Bilder denken wenn ich jetzt einfach nur ein Bild nehme und ich filter es so ein bisschen.
• 18:19
  Speaker 1: Und ich lasse die Person ein bisschen hübscher aussehen oder mache ein bisschen Make-up drauf, muss sich das dann schon als KI bearbeitet kennzeichnen?
• 18:26
  Speaker 1: Da haben wir tatsächlich nicht nur solche eher banalen Beispiele sondern da gibt es auch Beispelte auch für Medien sehr viel mehr Relevanz haben.
• 18:34
  Speaker 1: Also zum Beispiel gab es im Dezember, ein Video in Iran wo eine schwarz verhüllte Person auf einer Straße sitzt und sich iranischen Sicherheitskräften entgegenstellt und dieses Video wurde aus einem Hochhaus aufgenommen und hatte eine sehr schlechte Qualität.
• 18:51
  Speaker 1: das war sehr verschwommen und tatsächlich wurde es dann mit KI verbessert damit sie eben schärfer aussah und in dieser mit KI bearbeiteten Version ging das Ganze dann viral.
• 19:02
  Speaker 1: Aber das ganze hatte natürlich so KI-Artifakte drin, also es konnte sozusagen als KI bearbeitet erkannt werden was dann wiederum dazu gefüttert hat dass das iranische Regime argumentiert hat ja das ist ja alles KI Schrott das er alles KI generiert in Zweifel gezogen hat, dass das Ganze jemals passiert ist.
• 19:21
  Speaker 1: Und das sind dann auch so neue Probleme die da mitkommen also...
• 19:25
  Speaker 0: Die Idee der KI-Verordnung ist ja Vertrauensbildung.
• 19:28
  Speaker 0: Wie soll es dem Publikum ermöglichen?
• 19:29
  Speaker 0: Ich zitiere jetzt aus den Richtlinien.
• 19:31
  Speaker 0: Fundierte Entscheidungen zu treffen sein, Vertrauen in KI einzuschätzen und Fehlinformation oder Täuschung zu vermeiden.
• 19:37
  Speaker 0: Ist Vertrauungsbildung über KI Verordnung eventuell der falsche Ansatz?
• 19:41
  Speaker 1: Die KI-Verordnung kommt ja auch aus dem Verbraucherschutz.
• 19:44
  Speaker 1: Also ich finde, da werden auch sehr hohe Erwartungen reingesteckt.
• 19:48
  Speaker 1: aber tatsächlich ist es keine Verordnung die sich primär mit politischen Themen zum Beispiel beschäftigt sondern das geht wirklich sehr viel um Verbraucherschutz und Sicherheit und Innovation im KI Bereich.
• 20:01
  Speaker 1: Und wenn wir jetzt eben anschauen ob diese Kennzeichnungspflichten tatsächlich Vertrauen schaffen können dann ist die Forschungslage eben wie gesagt gespalten.
• 20:09
  Speaker 1: also es könnte sogar sein das Kennzeichnung dazu führen, dass Menschen noch skeptischer werden.
• 20:16
  Speaker 1: Was eigentlich die Echtheit von Medien um sie herum angeht?
• 20:20
  Speaker 0: Ich gerade sagte wie kann ich wissen das so?
• 20:23
  Speaker 0: und wenn ich nur darüber nachdenke was du eben ja gesagt hast wenn ich über nachdenkte einfach sagen kann das ist halt Karrier stellt aber nicht gekennzeichnet und ich verlasse mich da jetzt drauf weil wir haben jetzt die Kennzeichnungspflicht dann muss sich ja nur im Grunde einmal belogen werden um danach niemandem mehr zu glauben.
• 20:38
  Speaker 1: genau also Du kannst dich da nicht blind drauf verlassen.
• 20:41
  Speaker 1: Also es wird halt schon vermutlich so sein, dass gerade Firmen oder Behörden oder Parteien jetzt schon einen größeren Anreiz haben ihre KI-generierten Inhalte als solche zu markieren, als sie es vorher hatten.
• 20:54
  Speaker 1: also gerade auch viele Parteien beispielsweise nutzen schon länger Deepfakes für Wahlkämpfe Kennzeichnen die aber häufig nicht.
• 20:59
  Speaker 1: Da hat die KI Verordnung ja schon mit durchaus empfindlichen Bußgeldern so ein gewisses Sanktionspotenzial, was wahrscheinlich dazu führen wird dass gerade solche Institutionen ihre Deepfacts durchaus kennzeichnen werden.
• 21:12
  Speaker 1: Aber das wird eben nicht flächendeckend der Fall sein.
• 21:13
  Speaker 1: Das heißt ich kann mich jetzt nicht komplett darauf verlassen sondern es wird weiterhin sehr viele Akteure geben die eben nicht kennzeichnenden und deswegen meine ich ist nur einen Baustein unter vielen.
• 21:22
  Speaker 1: da kommen dann auch viele andere Themen wieder rein wie Medienkompetenz und kritischer Umgang mit dem was ich da sehe also Klassischere Medienkompetenz, sowas wie Quellen prüfen oder berichtet jemand anderes auch darüber.
• 21:36
  Speaker 1: Berichten vertrauenswürdige Quellen über das gleiche Bilderrückwärtssuche und solche Dinge.
• 21:42
  Speaker 1: Der Faktencheck
• 21:43
  Speaker 0: sozusagen ist ja nichts was das Publikum macht.
• 21:45
  Speaker 0: Das ist noch nicht so was ich vom Publikums erwarten darf.
• 21:47
  Speaker 0: Genau.
• 21:48
  Speaker 0: Gibt es überhaupt irgendwelche Ansätze?
• 21:51
  Speaker 0: Irgendwelche Ideen?
• 21:53
  Speaker 0: Wie sich dem Publikuum auch so einfach machen kann?
• 21:56
  Speaker 0: Ich nehme mir eine Zeitung und was da drin steht, stimmt.
• 21:59
  Speaker 0: Darauf habe ich mich jahrzehntelang verlassen?
• 22:01
  Speaker 0: Ob ich mich verlassen kann oder nicht ist dahingestellt.
• 22:04
  Speaker 0: Ich hab's halt getan weil so war die Welt.
• 22:06
  Speaker 0: aber jetzt ist die Welten andere wie... Gibt es irgendwelche wirksamen Methoden gegen Fakes-und Deepfakes?
• 22:14
  Speaker 1: Du hast natürlich recht!
• 22:15
  Speaker 1: Wir können dem Individuen da jetzt auch nicht zu viel... also Wir können nicht erwarten, dass jeder, der abends auf den Sofa scrollt und sich fünfhundert Videos anschaut, jedes einzelne Video Fakten checkt.
• 22:27
  Speaker 1: Aber ich finde darum geht es auch gar nicht.
• 22:30
  Speaker 1: Es sind ja doch viele Videos dabei, ob jetzt die Katze da irgendwie auf dem Tarpolin springt um den Gartengieß.
• 22:35
  Speaker 1: Das ist jetzt nicht das Thema, sondern es geht dann wirklich um die wo's irgendwie gefährlich wird also wo zum Beispiel den Ruf einer Person komplett geschädigt wird wo es vielleicht eine politische Relevanz entfaltet oder wo ich betrogen werden könnte.
• 22:49
  Speaker 1: Also ist ja auch ein wachsendes Thema, gerade Eckart von Hirschhausen zum Beispiel hat ja auch sehr viel berichtet über diese große Betrugsmasche mit vielen Deepfakes von ihm, wo mich defekten Gesundheitsprodukte verkauft werden sollen und so.
• 22:59
  Speaker 1: Also damit da ist es schon wichtig auch dass wir als Individuen also als Social Media Nutzende kritischer werden und das geht dann nicht nur um diesen Faktencheck wobei mir wichtig ist zu sagen wichtig reinzuschauen, ob das ein Defake ist oder nicht.
• 23:15
  Speaker 1: Also diese sechs Finger und so weiter ist ja komplett veraltet.
• 23:18
  Speaker 1: Das können wir auch nicht wirklich erwarten.
• 23:20
  Speaker 1: aber so einen Schritt zurückzugehen und zu sagen okay werde ich hier gerade manipuliert.
• 23:24
  Speaker 1: also dann gehört auch so ein Verständnis davon dazu wie diese Plattformen funktionieren also dass die eben über diese Emotionalisierung funktionieren über das hervorrufen von negativen Emotionen wie Wut oder Haas oder Angst oder eine krasse Bestätigung meines eigenen Weltbilds.
• 23:40
  Speaker 1: Wenn ich verstehe Schwächen von mir aus genutzt werden, dann bin ich vielleicht auch als Individuum resistenter gegenüber solcher Manipulation.
• 23:50
  Speaker 1: Und ansonsten gibt es natürlich auch noch technische Ansätze das man nicht kennzeichnet was KI generiert ist sondern dass man authentische Medien kennzeichnen
• 23:58
  Speaker 0: kann.
• 23:58
  Speaker 0: Da kann ich ja genauso Mist erzählen.
• 23:59
  Speaker 1: Genau da haben wir auch diese ganzen Probleme mit den Metadaten die einfach entfernt werden können, die Wasserzeichen die einfach entfernt werden die Tatsache, dass so was flächendeckend eingesetzt werden müsste um eine gewisse Wirkung zu entfalten.
• 24:11
  Speaker 1: Also es gibt da nicht die eine goldene Lösung für Stich.
• 24:16
  Speaker 0: Maria Pavelitz vielen Dank sehr
• 24:18
  Speaker 1: gerne
• 24:18
  Speaker 0: Holger ruft anes ein Podcast von übermedien dem unabhängigen werbefreien Magazin für Medienkritik ausschließlich finanziert durch unsere Community.
• 24:26
  Speaker 0: Ein Abo gibts ab sechs Euro monatlich und dafür gibt's sofort Zugang zu allen Artikeln und obendrauf unseren wöchentlichen Newsletter.
• 24:33
  Speaker 0: Wer unabhängige Medienkritik ebenfalls unterstützen möchte, findet alle Infos auf übermedien.de und dort gibt's auch reichlich Übermedien zu lesen bis wir in der nächsten Folge auch wieder über Medien reden!
• 24:44
  Speaker 0: Ich bin Holger Klein und danke für die Aufmerksamkeit.