Latest / KI Espresso / 86.000 Menschen — keiner erkennt die Deepfake

Transcript

86.000 Menschen — keiner erkennt die Deepfake · KI Espresso

• 0:00
  SPEAKER_00: Fast jeder dritte Kryptoinvestor ist bereits auf ein betrügerisches Deepfake hier reingefallen.
• 0:05
  SPEAKER_01: Das ist eine echt heftige Zahl.
• 0:07
  SPEAKER_00: Ja, absolut.
• 0:08
  SPEAKER_00: Und obwohl, naja, 28% von euch da draußen noch nie eine der gängigen Methoden zur Ververifizierung von digitalen Inhalten genutzt haben, hält sich da so ein fataler Irrglaube.
• 0:20
  SPEAKER_01: Wir denken nämlich alle, wir würden so eine KI-Fälschung schon irgendwie sofort erkennen.
• 0:25
  SPEAKER_00: Genau.
• 0:26
  SPEAKER_00: Und deshalb schauen wir uns heute eine Reihe aktueller Studien an, plus den neuen 63-seitigen Bericht des Bundestags und internationale Gesetzentwürfe.
• 0:35
  SPEAKER_00: Unsere Mission für diese Analyse heute: wir wollen herausfinden, ob wir dem Deepfack-Tsunami mit reiner Aufklärung beikommen können oder ob wir längst radikalere Maßnahmen brauchen.
• 0:46
  SPEAKER_01: Also wir brauchen da definitiv radikalere Maßnahmen.
• 0:49
  SPEAKER_01: Eure massive Selbstüberschätzung ist nämlich unser eigentliches Sicherheitsproblem.
• 0:54
  SPEAKER_00: Wie meinst du das genau?
• 0:55
  SPEAKER_01: Naja, eine aktuelle Meta-Analyse mit über 86.000 Teilnehmenden demontiert dieses Selbstbild einfach völlig.
• 1:04
  SPEAKER_01: Die bittere Realität ist nämlich, nur 19% von euch achten überhaupt auf die typischen Verrätersignale.
• 1:11
  SPEAKER_00: Krass.
• 1:12
  SPEAKER_00: Nur 19 Prozent.
• 1:13
  SPEAKER_01: Ja.
• 1:14
  SPEAKER_01: Und das, obwohl wir aktuell ja noch klare technische Grenzen der KI sehen.
• 1:18
  SPEAKER_01: Weißt du eigentlich, warum die Modelle momentan noch so oft an Händen oder, naja, an Schatten scheitern?
• 1:26
  SPEAKER_00: Weil Hände einfach anatomisch wahnsinnig komplex sind, also so von den Gelenken her.
• 1:32
  SPEAKER_00: Exakt.
• 1:33
  SPEAKER_01: Die Modelle generieren Bilder eher aus zweidimensionalen Mustern.
• 1:36
  SPEAKER_01: Die haben aber gar kein echtes räumliches Verständnis für die Mechanik von Gelenken oder Seen.
• 1:42
  SPEAKER_00: Ah, okay.
• 1:43
  SPEAKER_01: Deshalb tauchen da dann halt plötzlich sechs Finger auf.
• 1:46
  SPEAKER_01: Und bei Schatten fehlt den Algorithmen auf das Verständnis für eine konsistente, also physikalisch korrekte Lichtquelle im Raum.
• 1:53
  SPEAKER_00: Verstehe.
• 1:54
  SPEAKER_01: Aber das wirklich Erschreckende daran ist, 81% der Menschen übersehen selbst diese groben Schnitzer.
• 2:01
  SPEAKER_00: Okay, lass uns da mal einen kurzen Schritt zurücktreten.
• 2:05
  SPEAKER_00: Für mich ist das nämlich genau wie in den frühen Tagen der E-Mail.
• 2:08
  SPEAKER_01: Du meinst mit dem Phishing?
• 2:09
  SPEAKER_00: Richtig, genau.
• 2:10
  SPEAKER_00: Genauso wie wir damals lernen mussten, nicht auf jeden Link vom angeblichen Nigeria-Prinzen zu klicken, müssen wir jetzt einfach unsere visuellen Spam-Filter im Gehirn trainieren.
• 2:20
  SPEAKER_01: Ja, aber.
• 2:21
  SPEAKER_00: Warte, Medienkompetenz ist absolut lernbar.
• 2:23
  SPEAKER_00: Schau dir doch mal an, was gerade passiert.
• 2:25
  SPEAKER_00: Der Bundestag hat das Problem verstanden und diesen echt umfangreichen Bericht vorgelegt.
• 2:29
  SPEAKER_01: Naja, Papier ist geduldig.
• 2:32
  SPEAKER_00: Aber darauf aufbauend hat die Bundesregierung Mitte November eine neue Infoseite gestartet.
• 2:37
  SPEAKER_00: Wir geben den Leuten also genau das Wissen und die Checklisten an die Hand, um diesen internen Spam-Filter aufzubauen.
• 2:43
  SPEAKER_01: Nee, also da muss ich dir jetzt echt entschieden widersprechen.
• 2:46
  SPEAKER_01: Aufklärungskampagnen sind strukturell fast völlig wirkungslos.
• 2:50
  SPEAKER_00: Wieso das denn?
• 2:52
  SPEAKER_01: Wir haben doch gerade gesehen, dass 28 Prozent diese Werkzeuge und Checklisten sowieso ignorieren.
• 2:57
  SPEAKER_01: Eine nette Infoseite stoppt den Betrug einfach nicht.
• 3:00
  SPEAKER_00: Aber es ist ein Anfang.
• 3:02
  SPEAKER_01: Der finanzielle und gesellschaftliche Schaden passiert aber jetzt, in diesem Moment.
• 3:07
  SPEAKER_01: Wir debattieren hier über Checklisten, anstatt endlich mal harte juristische Konsequenzen zu ziehen.
• 3:13
  SPEAKER_01: Schau mal nach Kalifornien.
• 3:14
  SPEAKER_01: Dort hat man verstanden, worum es geht.
• 3:16
  SPEAKER_00: Was genau machen die denn anders?
• 3:19
  SPEAKER_01: Die greifen richtig durch und schaffen Haftbarkeit.
• 3:22
  SPEAKER_01: Politisch motivierte Deepfakes sind dort 60 Tage vor Wahlen schlichtweg per Gesetz verboten.
• 3:27
  SPEAKER_00: Okay, das ist ein harter Schritt.
• 3:29
  SPEAKER_01: Aber es funktioniert, weil es die Plattformen zwingt, manipulative Inhalte sofort zu entfernen, sonst drohen denen nämlich harte Strafen.
• 3:39
  SPEAKER_01: Und in Deutschland.
• 3:40
  SPEAKER_00: Wir machen halt Berichte.
• 3:41
  SPEAKER_01: Genau, da schreiben wir 63-seitige Berichte.
• 3:44
  SPEAKER_01: Während der bayerische Gesetzentwurf aus dem Jahr 2024 für einen neuen Paragrafen, also den 201b im Strafgesetzbuch, immer noch auf sich warten lässt.
• 3:54
  SPEAKER_01: Freiwillige Medienkompetenz ist da einfach kein verlässlicher Schutzwahl.
• 3:58
  SPEAKER_00: Boah, ich finde aber, du machst es dir mit dem Ruf nach dem Gesetzgeber da etwas zu leicht.
• 4:03
  SPEAKER_00: Ein Verbot in Kalifornien oder ein Paragraf in Bayern, der stoppt doch keinen Server, der irgendwo in Nordkorea oder Russland steht.
• 4:11
  SPEAKER_01: Aber Aufklärung allein ja wohl auch nicht.
• 4:14
  SPEAKER_00: Wir lösen ein technologisches Problem eben nicht nur mit dem Strafrecht.
• 4:18
  SPEAKER_00: Wir müssen technisch aufrüsten.
• 4:20
  SPEAKER_00: Und da passiert einiges.
• 4:22
  SPEAKER_00: Die Telekom arbeitet beispielsweise bereits an handfesten Lösungen zur Authentifizierung.
• 4:27
  SPEAKER_01: Aber wie soll das die Leute schützen, die ohnehin nicht genau hinsehen?
• 4:31
  SPEAKER_00: Indem sich die ganze Philosophie ändert.
• 4:33
  SPEAKER_00: Wir versuchen dann nicht mehr, krampfhaft den Fehler in der Fälschung zu finden, sondern stattdessen etablieren wir mathematische Beweise für das Echte.
• 4:42
  SPEAKER_00: Das funktioniert quasi über kryptografische Wasserzeichen, die direkt bei der Aufnahme von einem Video oder Bild untrennbar in die Datei geschrieben werden.
• 4:50
  SPEAKER_01: Okay, also direkt an der Quelle.
• 4:52
  SPEAKER_00: Ganz genau.
• 4:53
  SPEAKER_00: Du musst also als Nutzer gar nicht mehr nach fehlerhaften Schatten suchen, sondern dein Endgerät prüft automatisch im Hintergrund, ob die Quelle verifiziert ist.
• 5:02
  SPEAKER_01: Also technisch faszinierend, ja, aber solange das nicht flächendeckend Standard ist, bleibt unsere Lage extrem verwundbar.
• 5:09
  SPEAKER_00: Das stimmt wohl.
• 5:10
  SPEAKER_01: Denk da einfach mal an den ersten Satz dieser Folge zurück.
• 5:13
  SPEAKER_01: Fast jeder dritte Kryptoinvestor dachte auch, er sei unantastbar.
• 5:18
  SPEAKER_01: Überdenkt das.
• 5:19
  SPEAKER_01: Seid ihr euch wirklich immer noch sicher, dass ihr beim nächsten Videoanruf eurer Chefin die Schattenführung kritisch hinterfragt?
• 5:26
  SPEAKER_00: Echt fairer Punkt.
• 5:27
  SPEAKER_00: Dieses blinde Selbstvertrauen der Menschen ist brandgefährlich.
• 5:31
  SPEAKER_00: Und hier ist noch ein Gedanke, den ihr heute mal mitnehmen solltet.
• 5:34
  SPEAKER_01: Welcher?
• 5:35
  SPEAKER_00: Was passiert eigentlich morgen?
• 5:37
  SPEAKER_00: Also wenn die Algorithmen diese letzten anatomischen Hürden meistern, wenn sie die Hände und Schatten absolut perfektionieren und die 19% der Aufmerksamen, ihr allerletztes visuelles Werkzeug endgültig verlieren.
• 5:51
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI-Espresso.
• 5:55
  SPEAKER_01: Jeden Tag eine neue KI-Debatte in sechs Minuten.
• 5:58
  SPEAKER_00: Das war KI Espresso.