Latest / eGovernment Podcast / Deepfakes, Phishing, Exploits - Gefahren von KI
Transcript
- 0:35Torsten Frenzel: Ja, hallo und herzlich willkommen zur 192. Ausgabe des E-Government-Podcasts.
- 0:40Torsten Frenzel: Ich bin Thorsten Frenzel und heute habe ich wieder in meinem virtuellen Studio
- 0:43Torsten Frenzel: einen Gast. Hallo Christopher, ich grüße dich.
- 0:46Christopher Nehring: Hallo Thorsten, freut mich dabei zu sein.
- 0:48Torsten Frenzel: Ja, Christopher, bevor es losgeht, vielleicht stellst du dich ganz kurz vor,
- 0:51Torsten Frenzel: damit die Zuhörerinnen und Zuhörer auch wissen, mit wem Sie hier zu tun haben.
- 0:54Christopher Nehring: Gern doch. Ich bin Dr. Christopher Nehring. Ich komme aus einer ganz spezifischen
- 1:00Christopher Nehring: Ecke zur Frage der Digitalisierung in der Verwaltung Und zwar beschäftige ich
- 1:05Christopher Nehring: mich eigentlich jetzt so die letzten 15 Jahre mit dem Thema Informationsmanipulation,
- 1:11Christopher Nehring: Desinformation, Fakes.
- 1:12Christopher Nehring: Ich habe über Geheimdienstgeschichte promoviert, war lange Jahre im Deutschen
- 1:19Christopher Nehring: Spionagemuseum in Berlin.
- 1:21Christopher Nehring: Ich schreibe seit acht Jahren für verschiedene deutsche Medien,
- 1:27Christopher Nehring: die Deutsche Welle, Tagesspiegel, Spiegel, NZZ etc.
- 1:31Christopher Nehring: Und bin seit drei Jahren Gastdozent des Medienprogramms Südosteuropa der Konrad-Adenauer-Stiftung
- 1:38Christopher Nehring: mit dem Schwerpunkt Desinformation und Medien.
- 1:41Christopher Nehring: Und das heißt, ich kam zur Digitalisierung, vor allem zu KI,
- 1:47Christopher Nehring: über die Frage, wie kann ich KI am besten für Fakes und Manipulationen einsetzen.
- 1:53Christopher Nehring: Also das war so mein KI-Moment.
- 1:56Christopher Nehring: Erste Woche, als JGPD draußen war, stundenlang damit verbracht,
- 2:00Christopher Nehring: um zu gucken, wie schön kann ich damit manipulieren.
- 2:04Christopher Nehring: Und seitdem ist das alles,
- 2:07Christopher Nehring: was ich den ganzen Tag noch tue, also so den KI unter dem Gesichtspunkt der
- 2:15Christopher Nehring: Cybersecurity, unter dem Gesichtspunkt Informationsmanipulation,
- 2:18Christopher Nehring: Manipulationsmöglichkeiten anzuschauen.
- 2:21Torsten Frenzel: Ja und jetzt vielen Dank für diese breite Vorstellung. Jetzt wird sich der geneigte
- 2:26Torsten Frenzel: Hörer und die geneigte Hörerin fragen, was hat das Ganze mit der öffentlichen
- 2:30Torsten Frenzel: Verwaltung zu tun, weil mit KI und Manipulation haben wir in der öffentlichen
- 2:35Torsten Frenzel: Verwaltung überhaupt nichts zu tun.
- 2:36Christopher Nehring: Ja, wenn das so wäre, könnten wir das Gespräch jetzt abbrechen und einen späten
- 2:41Christopher Nehring: Frühschoppen trinken gehen.
- 2:43Torsten Frenzel: Das können wir nachholen auf jeden Fall.
- 2:45Christopher Nehring: Sehr gerne. Allerdings sind es eher zwei logische, also zwei gravierende Denkfehler.
- 2:54Christopher Nehring: Einmal ist der große Denkfehler, der mir allerdings Tag ein,
- 2:59Christopher Nehring: Tag aus begegnet, der, dass mich KI-Risiken erst dann treffen,
- 3:03Christopher Nehring: wenn ich auch eigene KI-Programme.
- 3:07Christopher Nehring: Applikationen benutze oder in Organisationen eben etabliert habe.
- 3:12Christopher Nehring: Das klingt zwar logisch, ist aber vollkommen falsch,
- 3:16Christopher Nehring: denn es gibt bestimmte Risiken, also sogenannte intrinsische Risiken,
- 3:22Christopher Nehring: die dann kommen, wenn ich Applikationen selbst bei mir installiert habe oder benutze und andere,
- 3:27Christopher Nehring: deren Opfer ich auch werden kann, obwohl ich selbst zum Beispiel eine bestimmte
- 3:31Christopher Nehring: Technologie gar nicht benutze, wenn eben jemand anderes sie an mich heranspielt.
- 3:36Christopher Nehring: Dann so der zweite Teil, gerade Informationsmanipulation, das ist doch was für
- 3:41Christopher Nehring: hohe Politik, für Medien oder Wirtschaftskriminalität oder was auch immer und
- 3:46Christopher Nehring: nicht für die öffentliche Verwaltung.
- 3:49Christopher Nehring: Leider ist eben auch das Quatsch, weil die öffentliche Verwaltung
- 3:53Christopher Nehring: kann und wird genauso zur Zielscheibe einerseits gezielter Informationsangriffe
- 3:59Christopher Nehring: von Manipulations- und Betrugsversuchen und gerade in Verbindung mit dem Thema
- 4:05Christopher Nehring: KI sind da jetzt eigentlich nochmal ganz neue Möglichkeiten aufgetan,
- 4:11Christopher Nehring: die direkt für die Verwaltung in den täglichen Arbeitsprozessen von Bedeutung sind.
- 4:17Christopher Nehring: Ich glaube, zu ein paar von diesen Beispielen kommen wir jetzt dann ausführen.
- 4:20Torsten Frenzel: Ich wollte gerade sagen, also noch kann ich so nicht so richtig greifen.
- 4:23Torsten Frenzel: Hast du vielleicht mal ein Beispiel dafür, wie mich das in der Verwaltung betrifft?
- 4:27Torsten Frenzel: Also gut, mit Chat-GPT, ich weiß, dass die ein bisschen halluziniert,
- 4:30Torsten Frenzel: aber das ist noch lange kein Fake, was sie mir da rausbringt.
- 4:34Christopher Nehring: Na, ob es jetzt ein Fake ist oder nicht, wäre eine Ansichtssache,
- 4:37Christopher Nehring: aber das trifft mich dann wirklich erst, wenn ich selbst so die Applikationen
- 4:41Christopher Nehring: in meinem System benutzt habe.
- 4:43Christopher Nehring: Es geht vielleicht auch nicht so unbedingt um den Bereich Text,
- 4:47Christopher Nehring: sondern um audiovisuelle Inhalte, also sprich Deepfakes.
- 4:52Christopher Nehring: Den Begriff hat man jetzt vielleicht auch in der Verwaltung schon mal gehört.
- 4:55Torsten Frenzel: Vielleicht erklärst du nochmal ganz kurz.
- 4:57Christopher Nehring: Ja, genau. Also so ein neues Modewort. Es meint Manipulationen oder also audiovisuelle
- 5:04Christopher Nehring: Inhalte, sprich Bilderton oder Videodateien, die mithilfe von KI-Technologien
- 5:10Christopher Nehring: erstellt oder manipuliert wurden.
- 5:13Christopher Nehring: Das heißt, um in der öffentlichen Verwaltung mir jetzt mal so einen Eindruck
- 5:19Christopher Nehring: davon zu geben, das betrifft zum Beispiel sehr stark den Bereich Identität.
- 5:23Christopher Nehring: Wir haben das bei großen Betrügereien, Finanzverbrechen, organisierter Kriminalität
- 5:31Christopher Nehring: schon gesehen. Jemand gibt vor, jemand zu sein, der er nicht ist,
- 5:35Christopher Nehring: um zum Beispiel Zahlungen zu veranlassen.
- 5:37Christopher Nehring: In der öffentlichen Verwaltung zum Beispiel kann ich mir mittlerweile mit Hilfe
- 5:42Christopher Nehring: von KI-Programmen Ausweise erstellen lassen. Die sind erst mal virtuell verwendet.
- 5:47Christopher Nehring: Noch nicht haptisch, da sind sie noch nicht da, aber alles, was eine Datei betrifft,
- 5:53Christopher Nehring: einen Inhalt, einen Nachweis, irgendein Dokument, das kann ich mir auch mit KI erstellen lassen,
- 5:59Christopher Nehring: wenn ich die gut genug trainiere, gut genug meine Prompts schreibe und am besten
- 6:05Christopher Nehring: natürlich auch Trainingsmaterialien wie jetzt ein bestimmtes Dokument ausgegeben
- 6:09Christopher Nehring: von Behörde X zur Verfügung stelle,
- 6:12Christopher Nehring: dann kann die KI das sehr gut duplizieren.
- 6:15Christopher Nehring: Das heißt, so im Bereich Identitäts- oder Nachweisfälschung sind diese KI-Tools
- 6:22Christopher Nehring: heute schon so weit, dass sie zum Beispiel im Finanzbereich hat,
- 6:28Christopher Nehring: dass die US-Finanzbehörde jetzt dazu aufgerufen,
- 6:31Christopher Nehring: bei der Zwei-Faktor-Authentifizierung Stimmen nicht mehr zu benutzen,
- 6:36Christopher Nehring: weil die KI-Tools, die Stimmen fälschen, zu gut geworden sind.
- 6:39Christopher Nehring: Und das kann natürlich auch jede Kreisverwaltung treffen, dass jemand mit KI
- 6:46Christopher Nehring: gefälschte Nachweise, Dokumente bringt, um bestimmte Leistungen zu bekommen,
- 6:51Christopher Nehring: um bestimmte Anträge zu stellen etc.
- 6:53Torsten Frenzel: Da möchte ich nochmal drauf eingehen. Das Tool, was wir hier benutzen,
- 6:56Torsten Frenzel: das hat übrigens auch eine KI und die hat auch schon meine Stimme synthetisiert.
- 7:02Torsten Frenzel: Also ich könnte den Podcast einfach nur über die Tastatur betreiben.
- 7:05Torsten Frenzel: Aber nochmal zurück zu den gefälschten Nachweisen.
- 7:08Torsten Frenzel: Gefälschte Nachweise kann ich auch jetzt schon machen. Da brauche ich ein paar
- 7:11Torsten Frenzel: Photoshop-Skills und kann mir, keine Ahnung, eine Geburtsurkunde ausstellen
- 7:15Torsten Frenzel: oder sonstiges, weil das ist alles Papier.
- 7:18Torsten Frenzel: Das Papier ist irgendwie digitalisiert und wenn ich das drei,
- 7:21Torsten Frenzel: vier Mal ausdrucke, vielleicht ein bisschen verknittert oder so,
- 7:24Torsten Frenzel: dann sieht es sogar echt aus.
- 7:26Torsten Frenzel: Beim Personalausweis oder bei solchen Ausweis-Nachweisen sehe ich tatsächlich
- 7:30Torsten Frenzel: noch ein Problem, weil da sind ja Sicherheitskriterien dran,
- 7:34Torsten Frenzel: die man zum Beispiel auch nur erkennt, wenn sich dieser Ausweis bewegt.
- 7:38Torsten Frenzel: Ich habe erst neulich selber so ein Video-Ident gemacht.
- 7:40Torsten Frenzel: Da muss man den Ausweis in verschiedene Richtungen kippen und einen Finger drauf
- 7:44Torsten Frenzel: tun und auf bestimmte Stellen und so weiter und so weiter, damit man sieht,
- 7:47Torsten Frenzel: dass es auch ein echter Ausweis ist. Kann das KI schon umgehen?
- 7:50Christopher Nehring: Also ich glaube, diese spezifischen Merkmale, die du gerade angesprochen hast,
- 7:55Christopher Nehring: wie bei so einem Video-Ident-Verfahren, wird eine große Herausforderung. Müsste man mal testen.
- 8:00Christopher Nehring: Sollen wir mal eine Möglichkeit ist, einmal, dass das jemand anderes macht.
- 8:04Christopher Nehring: Also ich lege eine Live-Deepfake-Software drauf, die in diesem Call,
- 8:08Christopher Nehring: ist es jemand anderes und kann vielleicht das Bild noch bearbeiten.
- 8:11Christopher Nehring: Dieses Wasserzeichen könnte noch eine Herausforderung werden.
- 8:15Christopher Nehring: Da ist es mehr so die Frage, ist der Grund oder ist der Faktor,
- 8:19Christopher Nehring: dass es das heute noch in diesem Verfahren vielleicht nicht möglich ist,
- 8:22Christopher Nehring: wirklich schon die Sicherheit dafür, dass diese Programme das nicht in spätestens
- 8:27Christopher Nehring: sechs Monaten schon hinkriegen.
- 8:29Christopher Nehring: Wir haben hier aber, jetzt speziell in dem Beispiel, das du genannt hast,
- 8:33Christopher Nehring: ja auch die Verbindung, das ist kein rein digitales Dokument,
- 8:36Christopher Nehring: sondern du schaltest halt quasi zwei Ebenen ineinander.
- 8:39Christopher Nehring: Das heißt, vor der Kamera muss noch jemand stehen, der ein haptisches,
- 8:44Christopher Nehring: physisches Objekt bewegt oder irgendwas damit macht.
- 8:47Christopher Nehring: Das kann KI noch nicht vollkommen übernehmen.
- 8:52Christopher Nehring: Die Frage, wie gut das möglich ist, so eine Szene zum Beispiel auch mit einem
- 8:57Christopher Nehring: Videoerstellungs-Tool komplett zu erstellen,
- 9:04Christopher Nehring: ob das in ein oder zwei Jahren gut genug ist, ist eine der Fragen.
- 9:08Christopher Nehring: Und so diesen Aspekt, den du vorher angesprochen hast, die Frage,
- 9:12Christopher Nehring: ja, Fakes oder Fälschungen an sich sind nichts Neues.
- 9:16Christopher Nehring: Das ist nicht was, was die KI erfunden hat. Was die KI oder diese große Entwicklung
- 9:22Christopher Nehring: im Bereich generative KI jetzt in den letzten zwei,
- 9:27Christopher Nehring: drei Jahren gemacht hat, ist einmal, dass diese ganzen Fälschungen viel einfacher
- 9:31Christopher Nehring: geworden sind, viel schneller, die Qualität viel besser.
- 9:35Christopher Nehring: Und dass jetzt quasi jedermann, selbst egal wie technisch versiert er ist,
- 9:41Christopher Nehring: also du hast das Beispiel Photoshop genannt, da brauche ich schon noch Photoshop-Skills.
- 9:45Christopher Nehring: Jetzt kann ich das einfach einem Programm mit ein paar Worten beschreiben und
- 9:50Christopher Nehring: wenn ich das nicht gut genug hinkriege, benutze ich wieder ein anderes KI-Tool,
- 9:53Christopher Nehring: das mir den Befehl schreibt und dann wird das gemacht.
- 9:56Christopher Nehring: Das heißt, das ist einfacher geworden, schneller, billiger.
- 10:00Christopher Nehring: Qualitativ besser und das ist nur der Stand, wie wir ihn heute haben und das
- 10:06Christopher Nehring: oft auch nur jetzt mit den großen gängigen Anwendungen, für die ich mir einfach online Zugang kaufe.
- 10:12Christopher Nehring: Wir haben noch nicht davon gesprochen, was es ist, wenn professionelle Angreifer
- 10:16Christopher Nehring: sich ihr KI-Modell selbst trainieren, genau für solche Zwecke.
- 10:20Christopher Nehring: Also das gab es schon im Bereich bei den LLMs,
- 10:25Christopher Nehring: dass im Darknet so speziell trainierte Modelle angeboten wurden,
- 10:29Christopher Nehring: die zum Beispiel nur Phishing-Mails erstellen und nur darauf trainiert wurden,
- 10:34Christopher Nehring: dass eben viel besser zu tun als bislang der Standard war.
- 10:37Christopher Nehring: Das ist auch noch so ein anderes Beispiel bei klassischen Cyberangriffen,
- 10:42Christopher Nehring: die jetzt eine KI-Komponente bekommen, die genauso wie bislang die Verwaltung
- 10:47Christopher Nehring: auch gleichfalls als Ziel haben.
- 10:50Christopher Nehring: Also wir wissen ja, Cyberangriffe treffen ja jetzt nicht nur irgendwie Bundesministerien
- 10:54Christopher Nehring: oder Unternehmen, sondern Kommunen, Städte, Krankenhäuser durch die Bandbreite
- 11:00Christopher Nehring: weg und da eben auch die klassischen Cyberangriffe kriegen durch KI eine ganz neue Qualität.
- 11:05Torsten Frenzel: Vielleicht sagst du nochmal ganz kurz, was ein LLM ist und dann habe ich direkt
- 11:09Torsten Frenzel: die nächste Frage für dich.
- 11:10Christopher Nehring: Okay. LLMs, eben das, was wir jetzt als Chatbots kennen, also LLM für Large
- 11:15Christopher Nehring: Language Model, die großen Sprachmodelle, das sind die generativen KI-Anwendungen,
- 11:20Christopher Nehring: die Text produzieren, bearbeiten oder verändern.
- 11:24Christopher Nehring: Also da geht es um Text. Bei LLMs und den Chatbots geht es um Text.
- 11:29Christopher Nehring: Bei Deepfakes geht es in der Regel um Bild und Ton. Mhm.
- 11:32Torsten Frenzel: Das heißt, wenn ich mir jetzt das richtig überlege, wenn ich mir mein E-Mail-Postfach
- 11:38Torsten Frenzel: anschaue, da kommen immer noch E-Mails rein mit,
- 11:41Torsten Frenzel: ich bin schwerreicher König oder Königssohn aus Uganda und habe mehrere Milliarden
- 11:49Torsten Frenzel: Euro, die ich transferieren möchte.
- 11:51Torsten Frenzel: Das wird jetzt einfacher und tatsächlich auch sinnvoller formuliert,
- 11:56Torsten Frenzel: ohne dass ich das direkt im Ansatz merke.
- 11:59Christopher Nehring: Na, das ist erstmal, das ist die erste Stufe. Ich kann das natürlich jetzt auch
- 12:03Christopher Nehring: schon auf Knopfdruck, also nicht nur in 30 verschiedenen Sprachen erstellen lassen.
- 12:06Christopher Nehring: Ich kann mir eben auch neue, ganz neue inhaltliche Szenarien entwerfen lassen,
- 12:11Christopher Nehring: je nachdem, welche Zielgruppe ich eingebe.
- 12:16Christopher Nehring: Ich kann das automatisieren. Ich kann das auch, wenn ich jetzt mehr über ein
- 12:20Christopher Nehring: spezifisches Ziel weiß.
- 12:21Christopher Nehring: Ist ja so die Frage, sende ich das jetzt raus an 5 Millionen E-Mails-Adressen
- 12:25Christopher Nehring: und hoffe halt, dass 1.000 draufklicken oder so.
- 12:29Christopher Nehring: Oder greife ich ein Ziel fokussierter an, dann spezialisiere ich das halt nochmal
- 12:33Christopher Nehring: und schneide diese Botschaften speziell zu.
- 12:37Christopher Nehring: Und das geht halt jetzt viel einfacher und schneller, das ist mal die erste
- 12:40Christopher Nehring: Stufe. Es gibt auch schon...
- 12:43Christopher Nehring: Die nächsten Stufen von dieser, das typische Beispiel war ja der nigerianische
- 12:48Christopher Nehring: Prinz, der sein Vermögen transferieren will.
- 12:51Christopher Nehring: Die gleiche Bande, die er eben organisiert, dahinter steckt,
- 12:55Christopher Nehring: die betreibt auf Telegram einen eigenen Channel, wo sie Videos,
- 12:59Christopher Nehring: so Ausbildungsvideos und PR online stellen.
- 13:03Christopher Nehring: Man sehen kann, dass auch die mittlerweile KI für sich entdeckt haben in ihren Betrugsangriffen.
- 13:10Christopher Nehring: Speziell zum Beispiel ein Beispiel, dass die gleiche Bande Live-Deepfake-Software benutzt.
- 13:15Christopher Nehring: Das heißt, sie bahnt bestimmte Personen vor allem über Dating-Websites an,
- 13:20Christopher Nehring: loggt sie dann in so einen Zoom- oder Teams-Call und benutzt dabei Deepfake-Software,
- 13:25Christopher Nehring: um Stimme zu verstellen, anders aufzutreten.
- 13:28Christopher Nehring: Und zum Beispiel um die Überweisung von kleinen Summen für Reisen in den Zielort,
- 13:36Christopher Nehring: für gemeinsame Treffen oder irgendwie ein gemeinsames Event,
- 13:39Christopher Nehring: für das man Tickets braucht, zu bekommen.
- 13:42Christopher Nehring: Das heißt, auch da hat die nächste Stufe dank KI schon gezündet.
- 13:47Christopher Nehring: Und KI kann da halt sehr viel tun. Es kann inhaltlich diese Betrugsmaschen weiterentwickeln.
- 13:53Christopher Nehring: Sprich, ich kann auch so ein Sprachmodell wie Chachapiti,
- 13:58Christopher Nehring: HRGPT hat das am Anfang noch gemacht, wenn auch bestimmte Szenarien erstellen
- 14:03Christopher Nehring: lassen und mir Vorschläge und Strategien entwickeln lassen dafür,
- 14:06Christopher Nehring: wie ich das eben für kriminelle Zwecke einsetzen kann.
- 14:09Christopher Nehring: Plus nochmal eben diesen Faktor, dass ich zumindest im digitalen Auftritt als
- 14:14Christopher Nehring: jemand ganz anderes auftreten kann mit anderer Stimme, anderem Gesicht und so weiter.
- 14:20Christopher Nehring: Das sind so die Stufen. Wir befinden uns da eigentlich gerade,
- 14:24Christopher Nehring: es ist die nächste Stufe und es ist jetzt gerade so eine Evolution und die große
- 14:29Christopher Nehring: Revolution kommt, die steht uns wahrscheinlich eben noch bevor.
- 14:31Christopher Nehring: Und wir wissen noch gar nicht genau, wie sie aussehen wird,
- 14:35Christopher Nehring: aber wir wissen, dass eben gerade bei Betrugsangriffen, bei Cyberangriffen,
- 14:40Christopher Nehring: bei allem, was das Thema Identität, Authentifizierung angeht,
- 14:44Christopher Nehring: gerade ein wahnsinniger Entwicklungsprozess stattfindet und eben die Möglichkeiten,
- 14:50Christopher Nehring: die es gibt, das zu manipulieren und anzugreifen, eine ganz neue Stufe erreicht.
- 14:55Torsten Frenzel: Um aus diesem Negativbeispiel mal was Positives rauszuholen,
- 14:58Torsten Frenzel: also die nigerianischen Prinzen, die scheinen auch einen Fachkräftemangel zu haben.
- 15:03Torsten Frenzel: Das heißt, die können ihren Fachkräftemangel mit KI hier einfangen.
- 15:06Torsten Frenzel: Also wenn das mal nicht ein Beispiel ist dafür, dass KI funktioniert,
- 15:09Torsten Frenzel: um Fachkräfte zu ersetzen beziehungsweise zu unterstützen.
- 15:13Christopher Nehring: Wenn man es so sehen will, ich glaube, die haben auch für sich entdeckt,
- 15:17Christopher Nehring: wie viele Organisationen das, wenn sie ihr Spezialwissen, das sie haben,
- 15:21Christopher Nehring: weitergeben in Kursen und Trainings, dass es sich auch damit Geld verdienen
- 15:26Christopher Nehring: lässt und das eben auch auf der Seite des organisierten Verbrechens.
- 15:31Christopher Nehring: Genau. Das sind auch noch lange nicht alle Angriffsmöglichkeiten,
- 15:35Christopher Nehring: die es jetzt so gibt oder Einsatzmöglichkeiten für diese Technologie,
- 15:39Christopher Nehring: auch die, die die Verwaltung betreffen.
- 15:40Christopher Nehring: Wenn wir daran denken, so ein großes Thema, wofür Deepfakes sowieso schon lange
- 15:46Christopher Nehring: benutzt werden, ist so für Cybermobbing und Diskreditierung oder Imageangriffe.
- 15:53Christopher Nehring: Sprich, ich denke jetzt da gerade an eine sehr spezielle und eindeutige politische
- 15:58Christopher Nehring: Richtung, die generell der Meinung ist, dass der Staat, Medien und sonstige
- 16:04Christopher Nehring: Einrichtungen alle unter einer Decke stehen und die Bevölkerung hinters Licht führt.
- 16:08Christopher Nehring: Die hat es noch nie so leicht, angebliche Beweise für zum Beispiel Wahlfälschung
- 16:15Christopher Nehring: auf kommunaler Ebene oder Wahlfälschung in einfachen Wahllokalen,
- 16:19Christopher Nehring: Beweise dafür zu erstellen oder Reden einfach zu fälschen.
- 16:24Christopher Nehring: Das muss nicht der Bundeskanzler sein, das geht bei jedem Bürgermeister,
- 16:27Christopher Nehring: bei jedem Abteilungsleiter.
- 16:29Christopher Nehring: Wir hatten schon Fälle zum Beispiel in den USA in Schulen, bei denen auf einmal
- 16:34Christopher Nehring: ein Video aufgetaucht ist vom Schulleiter, wo er angeblich rassistische Beschimpfungen
- 16:40Christopher Nehring: gegen Schüler vom Stapel lässt.
- 16:42Christopher Nehring: Und wie sich herausstellte, waren das nicht mal von Schülern erstellte Deepfakes,
- 16:48Christopher Nehring: sondern von Lehrern erstellte Deepfakes, die eben, es waren unzufriedene Mitarbeiter,
- 16:53Christopher Nehring: wenn man es runterbrechen will, die ihren Chef diskreditieren wollten.
- 16:56Christopher Nehring: Jetzt soll es ja durchaus auch in der Verwaltung mal den einen oder anderen
- 16:59Christopher Nehring: enttäuschten Mitarbeiter geben oder den einen oder anderen enttäuschten Bürger oder Kunden.
- 17:05Christopher Nehring: Und der kann sich jetzt sehr leicht sowas erstellen, um zu behaupten,
- 17:10Christopher Nehring: die Verwaltung hat mich diskriminiert, die Verwaltung hat mich betrogen oder
- 17:14Christopher Nehring: ich habe doch das und das zu dem und dem Zeitpunkt gemacht,
- 17:18Christopher Nehring: auch wenn ich es gar nicht gemacht habe und so die Beweislast umkehren.
- 17:22Christopher Nehring: Auch das sind alles mögliche Szenarien, die gerade Verwaltungsorgane auf der
- 17:25Christopher Nehring: niedrigen, der unteren kommunalen Stufe sehr leicht treffen können und bei der
- 17:30Christopher Nehring: es wichtig ist, eben Bescheid zu wissen.
- 17:32Torsten Frenzel: Aber gehen wir nochmal darauf ein, wie leicht das überhaupt ist.
- 17:35Torsten Frenzel: Also ChatGPT hat jeder Zugriff drauf, da gibt es kostenlose Möglichkeiten,
- 17:38Torsten Frenzel: da kann ich mir ganz schnell Texte generieren lassen.
- 17:41Torsten Frenzel: Aber wenn ich jetzt mir anschaue, es geht um Audio und Video,
- 17:45Torsten Frenzel: wie leicht ist denn da ranzukommen Oder wie leicht ist denn das für einen interessierten Laien?
- 17:52Christopher Nehring: Leicht genug. Also sagen wir mal, der erste, den man erstellen will,
- 17:57Christopher Nehring: speziell mit einer Stimme oder einem Bild,
- 17:59Christopher Nehring: das man sich selbst besorgt, wird vermutlich so ein bis zwei Stunden dauern,
- 18:05Christopher Nehring: bis er ungefähr die Qualität hat, die man will. Der zweite dauert dann noch ein paar Minuten.
- 18:10Christopher Nehring: Stimme, und das ist so ein bisschen das Schaudrige dabei,
- 18:13Christopher Nehring: sprich reine Audio-Fakes, sind mit am leichtesten und am schwierigsten zu erkennen,
- 18:20Christopher Nehring: weil man bei einer Stimme einfach nicht so viele, wenn man nur eine Tondatei
- 18:23Christopher Nehring: hat, entweder am Telefon oder auch wenn sie online veröffentlicht wird,
- 18:27Christopher Nehring: nicht so viele Anhaltspunkte hat wie bei einem Video.
- 18:30Christopher Nehring: Das Wichtige ist erstmal, man braucht am besten eben Probe von der Stimme oder
- 18:37Christopher Nehring: dem Video, das man bearbeiten will.
- 18:41Christopher Nehring: Wenn es jetzt Personen sind, die sehr öffentlich sind, wie Politiker,
- 18:46Christopher Nehring: Journalisten, Geschäftsführer oder andere Personen des öffentlichen Lebens, ist das sehr leicht.
- 18:52Christopher Nehring: Dann hat man genug Material davon auf YouTube oder auf anderen Plattformen.
- 18:55Christopher Nehring: Und wenn wir jetzt zum Beispiel an einen Bürgermeister, einen Landrat oder jemanden
- 19:01Christopher Nehring: aus der Verwaltung denken, dann hat man dann vielleicht online nicht das Originalmaterial.
- 19:06Christopher Nehring: Das heißt, man muss eine Veranstaltung besuchen, wo der Mensch spricht und schneidet
- 19:11Christopher Nehring: das mit dem Handy mit und dann hat man sein Ausgangsmaterial.
- 19:14Christopher Nehring: Dann lädt man das hoch, kopiert die Stimme oder das Video und dann tippt man
- 19:18Christopher Nehring: den Text ein, den man will, dass das sagt, der Zugang zu diesem Programm kostet nicht besonders viel.
- 19:24Christopher Nehring: Also gerade bei der Stimme kostet das so im Durchschnitt 5 Dollar im Monat.
- 19:30Christopher Nehring: Videos ist ein bisschen teurer, aber ich kann ja auch in einem Video,
- 19:33Christopher Nehring: in einem Monat erst mal mehr produzieren und der Preis sinkt natürlich kontinuierlich.
- 19:38Christopher Nehring: Also vor zwei, drei Jahren war der Preis dafür, für den Zugang,
- 19:41Christopher Nehring: so ein Monatsabo, vielleicht 200, 300 Dollar.
- 19:44Christopher Nehring: Jetzt sind es unter 50.
- 19:46Christopher Nehring: In noch einem Jahr sind es wahrscheinlich auch keine 10 mehr.
- 19:50Christopher Nehring: Und damit kann ich erst mal arbeiten. Wenn ich jetzt ganz lange Dateien zum
- 19:54Christopher Nehring: Beispiel erstellen will, wird es wieder schwieriger.
- 19:56Christopher Nehring: Da ist einmal die technische Qualität so ein bisschen wackelig.
- 19:59Christopher Nehring: Oder ich muss teurere Abos kaufen. Aber das ist eben auch so,
- 20:03Christopher Nehring: da entwickelt sich die Software schnell genug.
- 20:05Christopher Nehring: In einem Jahr oder zwei produziert es auch zehn Minuten sehr stabil.
- 20:11Christopher Nehring: Aber so das erste Produkt zu erstellen, da spielt man ein bisschen mit der Anwendung
- 20:15Christopher Nehring: rum und muss halt einfach gucken, dass man so eine Trainingsdatei hat oder so
- 20:19Christopher Nehring: eine Beispielaufnahme von 30 Sekunden, eine Minute reicht.
- 20:23Torsten Frenzel: Also es ist also für jeden, der so halbwegs mit einem Computer umgehen kann.
- 20:28Christopher Nehring: Ja, da ist keine größere Hemmschwelle mehr.
- 20:32Christopher Nehring: Das Kompliziertere, da gehen wir dann schon ins Detail, oder die Frage,
- 20:35Christopher Nehring: wie kann man es auch gut erkennen, ist dann eher das, was man die Person sagen
- 20:39Christopher Nehring: lässt, Wenn das jetzt so völlig abwegig ist oder so völlig anders als das,
- 20:45Christopher Nehring: was die Person sonst so sagt.
- 20:46Christopher Nehring: Also wenn ich jetzt einem Politiker das komplette Gegenteil von dem erzählen
- 20:50Christopher Nehring: lasse, was er gestern noch gesagt hat, dann ist das erstmal auffälliger und
- 20:55Christopher Nehring: wird vermutlich auch nicht so lange wirken.
- 20:57Christopher Nehring: Wenn ich den Stil aber sehr gut kopiere und nur kleine Änderungen einbaue,
- 21:01Christopher Nehring: dann wird es immer schwieriger.
- 21:03Christopher Nehring: Aber es ist also auch gerade bei solchen Deepfake-Stimmen und Anrufen,
- 21:09Christopher Nehring: ich kann das ja auch quasi live schalten in einem Zoom-Call oder am Telefon,
- 21:16Christopher Nehring: da wird es auch schon sehr massiv für Betrugsmaschen zum Beispiel benutzt.
- 21:21Christopher Nehring: Das heißt, es werden Stimmen geklont von kindernahen Verwandten und dann Fake-Anrufe
- 21:26Christopher Nehring: gestartet, um eben auch Geld zu erbeuten.
- 21:31Christopher Nehring: Das ist, was es auch schon gab, hier waren zum Beispiel gefälschte Notrufe,
- 21:34Christopher Nehring: Gefahrenmeldungen oder Verleumdungen.
- 21:37Christopher Nehring: Also sprich, ich kann bei der Polizei mit einer falschen Stimme anrufen und
- 21:40Christopher Nehring: einer falschen Identität.
- 21:41Christopher Nehring: Ich kann natürlich auch bestimmte, alle möglichen Arten von Hinweisen,
- 21:45Christopher Nehring: Telefonen, Notrufportalen oder so überschwemmen mit einer Flut von Meldungen,
- 21:51Christopher Nehring: nur um das System eben an den Rande der Kapazität zu bringen und das vollkommen automatisiert,
- 21:57Christopher Nehring: ohne dass ich jetzt wirklich 100 Leute gleichzeitig anrufen lassen muss.
- 22:01Torsten Frenzel: Da hatte ja Google vor ein paar Jahren eine tolle Demo auf ihrer Google I.O.,
- 22:05Torsten Frenzel: wo beim Friseur ein Termin gemacht
- 22:07Torsten Frenzel: wurde oder ein Tisch reserviert mit Nachfragen und allem drum und dran.
- 22:11Christopher Nehring: Ja, die Simulation. Sagen wir mal,
- 22:15Christopher Nehring: Das Grundgerüst, das dahinter steckt, ist ja jetzt nicht irgendwie erst letztes
- 22:18Christopher Nehring: Jahr wirklich gekommen.
- 22:20Christopher Nehring: Es hat sich halt enorm verbessert, ist quasi für jedermann zugänglich,
- 22:25Christopher Nehring: der einen Online-Zugang hat und kann dadurch eben in verschiedene Richtungen gehen.
- 22:30Christopher Nehring: Also es kann einmal in der Masse viel stärker aufkommen, es kann die Qualität
- 22:36Christopher Nehring: steigern, auch wenn die eigentlich noch gar nicht so gut ist,
- 22:39Christopher Nehring: wie es zum Beispiel vor zwei Jahren als JGPD rauskam und andere große populäre Tools,
- 22:45Christopher Nehring: wo befürchtet wurde, dass wir ja auch ungefähr heute im Jahr 2024 schon auf
- 22:51Christopher Nehring: einem Stand sind, dass man es gar nicht mehr unterscheiden kann.
- 22:54Christopher Nehring: Soweit ist es noch nicht gekommen, aber es wird eben immer besser.
- 22:57Christopher Nehring: Und gerade wenn es auf einen Gegenpart trifft, zum Beispiel in der Verwaltung, in Unternehmen,
- 23:04Christopher Nehring: in der Politik oder bei Medien, die halt so gar nichts von diesem,
- 23:07Christopher Nehring: noch nie davon gehört haben, überhaupt nicht wissen, dass es eben möglich ist,
- 23:11Christopher Nehring: Stimmbilder, alles Mögliche so gut von KI erstellen zu lassen.
- 23:17Christopher Nehring: Wenn die zwei Faktoren zusammenkommen, ist halt der Angreifer viel leichter.
- 23:22Torsten Frenzel: Jetzt sprechen wir ja die ganze Zeit über Angriffsvektoren, die eher so beim
- 23:28Torsten Frenzel: Social Hacking anzusiedeln sind.
- 23:29Torsten Frenzel: Gibt es denn auch Gefahren, die mir drohen als öffentliche Verwaltung oder generell
- 23:35Torsten Frenzel: drohen eher im IT-Bereich?
- 23:39Torsten Frenzel: Also kann eine KI mein Rechenzentrum hacken? Kann eine IT in mein Netzwerk rein? Eine KI meine ich.
- 23:47Christopher Nehring: So pauschal ist schwer zu sagen. Also technisch gesehen wird das bestimmt möglich sein.
- 23:54Christopher Nehring: Mit den populären Anwendungen wohl eher noch nicht.
- 23:57Christopher Nehring: Da sind wir noch nicht auf der Stufe, dass das völlig automatisiert ablaufen
- 24:00Christopher Nehring: kann. Was natürlich oft vergessen wird von denen, die nicht selbst programmieren
- 24:05Christopher Nehring: oder sich viel damit beschäftigen.
- 24:06Christopher Nehring: Jetship-BT und auch andere dieser KI-Generatoren können auch programmieren.
- 24:12Christopher Nehring: Das heißt, die erstellen Computer-Code, wenn ich sie danach frage.
- 24:14Christopher Nehring: Und ich kann eben sagen, erstell mir ein Stück Computer-Code in der und der
- 24:18Christopher Nehring: Sprache zu diesem und diesem Ziel.
- 24:21Christopher Nehring: Dass ich so einen ganzen Angriff automatisiert erstellen lassen kann,
- 24:26Christopher Nehring: auf dem Niveau sind wir noch nicht.
- 24:28Christopher Nehring: Also sprich, ähnlich wie bei den Inhalten, die sich im Text erstellt,
- 24:31Christopher Nehring: sind die Codes zwar von erstaunlicher Qualität dafür, dass es eben automatisiert
- 24:37Christopher Nehring: erstellt wird, aber noch nicht irgendwie 100% einfallsfähig.
- 24:41Christopher Nehring: Also ich kann nicht einfach nur copy und pasten. Die Frage ist natürlich, kommt es dahin?
- 24:45Christopher Nehring: Und auch, also gerade jetzt zum Beispiel bei JetGPT sind schon Vorfälle publik geworden,
- 24:52Christopher Nehring: dass insbesondere staatliche Hackergruppen aus Russland, China,
- 24:56Christopher Nehring: Nordkorea, Iran versucht haben, sich einmal Desinformationsbauteile von JetGPT
- 25:03Christopher Nehring: erstellen zu lassen, aber auch Code-Bauteile für Cyberangriffe.
- 25:07Christopher Nehring: Also JTPT hat veröffentlicht, dass sie das erkannt haben und abgestellt haben,
- 25:11Christopher Nehring: also in diesem spezifischen Beispiel.
- 25:13Christopher Nehring: Und da war es eben so, dass sich die Hackergruppen aus diesen Ländern bestimmt,
- 25:18Christopher Nehring: entweder haben sie Code eingegeben und analysieren lassen oder wollten bestehenden
- 25:22Christopher Nehring: Code verbessern oder sich bestimmte Teile eines Codes neu erstellen zu lassen.
- 25:28Christopher Nehring: Also es war so, die wollten schon auf das Tool zugreifen, um das,
- 25:32Christopher Nehring: was sie bislang gemacht haben, noch besser zu machen oder weiterzuentwickeln.
- 25:36Christopher Nehring: Aber noch nicht völlig automatisiert.
- 25:39Christopher Nehring: Deshalb ist es so beim Einsatz bei klassischen Cyberangriffen.
- 25:44Christopher Nehring: Ob das jetzt über Phishing-Mails oder über Computer-Code oder über Deepfake-Anrufe
- 25:50Christopher Nehring: geht, sind es eben viele Zwischenstufen von so einem großen Angriff,
- 25:54Christopher Nehring: den auch wie bislang die Verwaltung treffen kann.
- 25:58Christopher Nehring: Und dass Zwischenstufen davon
- 26:00Christopher Nehring: entweder von KI generiert werden oder das KI dabei zum Einsatz kommt.
- 26:05Christopher Nehring: Also wir wissen, dass so diese, wie diese nigerianische Prinzen-Mail,
- 26:08Christopher Nehring: wenn ich mir die jetzt mit KI erstellen lasse, das ist noch nicht die ganze
- 26:12Christopher Nehring: Attacke. Das ist nur ein kleiner Bauteil.
- 26:14Christopher Nehring: Ähnlich ist es eben zum Beispiel bei einem Fake-Anruf. Der schickt eine Mail,
- 26:19Christopher Nehring: da ist ein Link drin, ich rufe an, um den Mitarbeiter dazu zu bringen, auf den Link zu klicken.
- 26:25Christopher Nehring: Das sind so Bauteile, zum Beispiel, die kann ich jetzt mit KI besser machen.
- 26:28Christopher Nehring: Ich kann sie in einer viel größeren Bandbreite und viel schneller generieren.
- 26:32Christopher Nehring: Und danach kommt eben noch andere Bauteile hinzu, um diese ganze Attacke immer weiterzufahren.
- 26:39Christopher Nehring: Ich habe zum Beispiel mit vielen Cybersecurity-Experten, mit denen ich jetzt
- 26:43Christopher Nehring: so im letzten halben Jahr gesprochen habe, die sagen,
- 26:45Christopher Nehring: es hat nicht nur so die Anzahl der Angriffe generell, die immer weiter zugenommen
- 26:51Christopher Nehring: hat, sondern zum Beispiel auch in den letzten,
- 26:55Christopher Nehring: gerade im letzten halben Jahr, ja, dass immer eigentlich kleinere Organisationen
- 26:59Christopher Nehring: zum Opfer solcher Angriffe werden,
- 27:02Christopher Nehring: wo stark vermutet wird eben, dass es jetzt durch diese KI-Tools eben sich Angreifer
- 27:08Christopher Nehring: Zeit sparen können Und automatisieren können,
- 27:10Christopher Nehring: sodass es sich auch lohnt, jetzt mittelständische Betriebe ins Visier zu nehmen
- 27:14Christopher Nehring: oder Stadtverwaltung oder kleinere Verwaltung, bei denen man zwar vielleicht
- 27:18Christopher Nehring: mit einem Angriff weniger Summen rausholen kann,
- 27:22Christopher Nehring: als wenn man ein Großunternehmen angreift, aber dass die Schwelle,
- 27:29Christopher Nehring: die man überschreiten muss,
- 27:30Christopher Nehring: damit sich der Aufwand lohnt, eben sich einfach durch die KI-Tools so verschiebt,
- 27:34Christopher Nehring: dass das jetzt eben auch immer kleinere Einheiten angegriffen wird.
- 27:37Torsten Frenzel: Es ist ja auch nicht gesagt, dass man mit jedem Cyberangriff auch Geld verdienen will.
- 27:41Torsten Frenzel: Oftmals ist ja hier auch nur Chaos stiften und Informationen abgreifen.
- 27:46Christopher Nehring: Ja, gerade das Chaos stiften, also kommt halt darauf an, wer dahinter sitzt.
- 27:50Christopher Nehring: Das kann einen politischen Sinn haben, also bei politischen Aktivisten jetzt
- 27:54Christopher Nehring: à la couleur, die eben eine Verwaltung lahmlegen wollen, haben jetzt auch eben
- 27:58Christopher Nehring: ganz neue Tools, wie ich vorhin bei den falschen Alarmen oder Notrufen oder
- 28:02Christopher Nehring: Gefahrenmeldungen mal gesagt habe.
- 28:03Christopher Nehring: Das geht natürlich auch mit Mails-Anfragen oder einfach mit Videos,
- 28:09Christopher Nehring: die ich online bringe, um irgendeinen Amtsleiter oder sonst jemanden zu diskreditieren.
- 28:13Christopher Nehring: Viel leichter, viel schneller und viel mehr.
- 28:17Christopher Nehring: Bei spezialisierten Cyberangriffen, Informationen abgreifen ist so,
- 28:21Christopher Nehring: ja auch immer die Frage, warum wird die Information dann abgegriffen?
- 28:25Christopher Nehring: Also die kann ich zu Geld machen, ich kann erpressen und zu ihm sagen,
- 28:29Christopher Nehring: ja ich veröffentlich sie sonst oder ich verschlüssel sie, also die klassischen Ransom-Angriffe.
- 28:34Christopher Nehring: Mir wurde zum Beispiel auch schon berichtet, jetzt nicht aus dem Kreis der Verwaltung,
- 28:39Christopher Nehring: sondern aus dem Kreis großer Unternehmen,
- 28:41Christopher Nehring: dass sie schon mit KI gefälschte Ransom-Forderungen bekommen haben.
- 28:47Christopher Nehring: Sprich, eine Angreifer hat mithilfe von KI Inhalte erstellen lassen,
- 28:52Christopher Nehring: hat die an das Unternehmen X gespielt und hat gesagt, ich war bei euch im System,
- 28:57Christopher Nehring: habe die und die Daten abgegriffen. Hier ist ein Screenshot davon.
- 29:00Christopher Nehring: Wenn ihr nicht bis morgen so und so viel zahlt, dann veröffentliche ich die.
- 29:05Christopher Nehring: Und erst eine genauere Überprüfung, eine sehr lange forensische Untersuchung,
- 29:10Christopher Nehring: die dann zutage gefördert hat, dass überhaupt niemand in dem System drin war
- 29:13Christopher Nehring: und dass diese angeblichen Beweise mithilfe von KI erstellt wurden.
- 29:17Christopher Nehring: Das heißt, vorzutäuschen, dass ein Angriff stattgefunden hat,
- 29:20Christopher Nehring: wird auch immer realistischer.
- 29:23Christopher Nehring: Das kann ich auch mit verschiedenen Zielrichtungen machen. Ich muss gar nicht
- 29:26Christopher Nehring: darauf aus sein, das Geld zu bekommen, sondern ich kann so halt auch einfach
- 29:29Christopher Nehring: Prozesse oder Organisationen lahmlegen für eine gewisse Zeit,
- 29:33Christopher Nehring: weil erstmal alles überprüft werden muss, alles auf den Kopf gestellt,
- 29:37Christopher Nehring: gestoppt werden muss etc.
- 29:39Torsten Frenzel: Du hast gerade Forensik angesprochen. Forensik brauche ich ja, wenn es zu spät ist.
- 29:43Torsten Frenzel: Aber wie kann ich denn solche KI-generierten Deepfakes zum Beispiel oder Angriffsszenarien,
- 29:52Torsten Frenzel: wie kann ich denn das im Vorfeld erkennen?
- 29:54Torsten Frenzel: Also wenn ich mir vorstelle, dass so ein Sachbearbeiter eine E-Mail bekommt,
- 29:58Torsten Frenzel: wie kann er denn erkennen, dass das eine nicht echte und vielleicht von einer
- 30:01Torsten Frenzel: KI generierten E-Mail ist?
- 30:03Christopher Nehring: Bei E-Mails speziell hat man so ein paar Faktoren.
- 30:07Christopher Nehring: Einmal Absender ist eine ganz wichtige Sache, also sprich die Adresse,
- 30:10Christopher Nehring: von der es gesendet wurde, die oft versucht wird, authentische Adressen bis
- 30:16Christopher Nehring: auf einen Buchstaben oder so zu kopieren.
- 30:19Christopher Nehring: Bei Text muss man mal vorausschicken, auch wenn es nicht so geklappt wird,
- 30:23Christopher Nehring: Text ist eigentlich das Schwierigste zu erkennen.
- 30:25Christopher Nehring: Text und Ton sind sehr schwierig. Beim Text liegt es daran, dass viele Menschen
- 30:31Christopher Nehring: jetzt auch nicht wirklich delistisch besser schreiben als das, was eine KI produziert.
- 30:35Christopher Nehring: Dann gibt es nicht das eine Tool, das überprüfen kann, ob dieser Text KI produziert wurde.
- 30:42Christopher Nehring: Also das sind gerade die Tools für Texte sehr schlecht.
- 30:46Christopher Nehring: Der Inhalt und der Sinn ist immer noch das größte Kriterium,
- 30:51Christopher Nehring: gerade bei Text, dem ich nachgehen sollte. Bei Bildern und Videos haben wir
- 30:57Christopher Nehring: viel mehr Ansatzpunkte.
- 30:59Christopher Nehring: Also ich habe für alle, die es interessiert, ich glaube, du bringst es auch
- 31:02Christopher Nehring: als Link in die Beschreibung.
- 31:05Christopher Nehring: Dazu ein, zwei ausführliche Listen erstellt, was man sich denn mal angucken
- 31:09Christopher Nehring: soll, wenn man das überprüfen will.
- 31:10Christopher Nehring: Gerade beim Bereich Bild von einzelnen Aspekten, also zum Beispiel bei Bildern
- 31:16Christopher Nehring: klassisch waren die Gliedmaßen und Extremitäten immer ein Problem,
- 31:19Christopher Nehring: das heißt, wenn zu viele Finger produziert oder zusätzliche Arme und Beine,
- 31:24Christopher Nehring: dass Gesichtspartien oder der Hals verschwimmt.
- 31:27Christopher Nehring: Ohren sind und Augen sind ein Indikator, weil die Details oftmals nicht stimmen.
- 31:33Christopher Nehring: KI-Inhalte, also gerade visuelle Bilder und Videos sind oftmals noch sehr glänzend
- 31:40Christopher Nehring: und sehr, sagen wir mal, die Verpixelung wirkt noch nicht original.
- 31:45Christopher Nehring: Und das liegt daran, dass es in der Regel weniger Pixel produziert sind.
- 31:48Christopher Nehring: Das heißt, das wirkt alles noch ein bisschen wie aus einem Computerspiel,
- 31:52Christopher Nehring: jetzt so rein von der Optik.
- 31:54Christopher Nehring: Und interessanterweise wird gerade bei Bild- und Videos, die produziert werden
- 31:58Christopher Nehring: mit KI, wenn es dann irgendeine Art von Text gibt,
- 32:01Christopher Nehring: zum Beispiel als Aufdruck auf einem Kleidungsstück oder irgendwo im Hintergrund
- 32:04Christopher Nehring: oder sowas, dann sind es oft keine richtigen Buchstaben, sondern nur Zeichen, die Buchstaben ähneln.
- 32:12Christopher Nehring: Wenn wir spezialisierter vorgehen, Fluchtpunkte, Spiegelungen und Schatten stimmen so gut wie nie.
- 32:18Christopher Nehring: Das wird zwar jetzt auch langsam besser, aber zum Beispiel bei realen Bildern
- 32:22Christopher Nehring: und Fotos laufen Fluchtpunkte, die eingezeichnet werden in ein Bild,
- 32:26Christopher Nehring: immer auf denselben Fixpunkt, der außerhalb des Bildes liegt,
- 32:30Christopher Nehring: hinaus. Bei KI-Bildern gehen sie in alle Richtungen.
- 32:33Christopher Nehring: Das ist selten was, womit man jetzt als Verwaltungssachbearbeiter arbeiten kann.
- 32:37Christopher Nehring: Es wird bestimmt bald automatisierte Programme geben, die sowas erstellen könnten.
- 32:42Torsten Frenzel: Also ich glaube, ich würde ja behaupten, dass ich Bilder, die mit Doll-E oder
- 32:49Torsten Frenzel: sonstigen frei zugänglichen Systemen erstellt wurden, dass ich die so erkennen
- 32:54Torsten Frenzel: kann. Weil die haben alle eine bestimmte Stilistik.
- 32:56Torsten Frenzel: Selbst wenn ich die Stilistik ändere, sieht man es trotzdem.
- 33:00Torsten Frenzel: Dem, weil die sind sehr amerikanisch geprägt und die Bilder haben immer so einen
- 33:05Torsten Frenzel: amerikanischen Touch, egal was man machen muss. Wenn man sagt,
- 33:09Torsten Frenzel: generiere mir ein bayerisches Dorf, sieht es immer amerikanisch aus.
- 33:12Christopher Nehring: Ja, ja. Wie soll ich sagen? Also du hast schon mal DALI angesprochen.
- 33:15Christopher Nehring: DALI ist auch mit da würde ich dir zustimmen, relativ. Ich würde dir widersprechen,
- 33:19Christopher Nehring: also ich bin mir ziemlich sicher, dass du nicht 100 von 100 erkennen würdest,
- 33:22Christopher Nehring: aber die Mehrzahl glaube ich dir bei DALI, andere Generatoren sind aber auch
- 33:27Christopher Nehring: meiner Meinung nach besser als DALI.
- 33:30Christopher Nehring: Diese kulturelle Vorprägung für die Stilistik hast du schon angesprochen.
- 33:34Christopher Nehring: Gerade daran haben wieder andere gearbeitet, die das besser hinkriegen.
- 33:40Christopher Nehring: Bei Videos unterscheidet sich das nochmal ein bisschen, bei Audio noch viel
- 33:45Christopher Nehring: stärker, da wird es jeweils viel besser.
- 33:47Christopher Nehring: Dann ist so, was seit dem Aufkommen dieser Bildgeneratoren diskutiert wird,
- 33:53Christopher Nehring: so mehr die Frage, dass es eben sehr stark darunter betrachtet wird,
- 33:57Christopher Nehring: okay, was ist denn zukünftig möglich?
- 34:00Christopher Nehring: Also jetzt, wenn wir die Entwicklung, die diese Generatoren und Tools in den
- 34:05Christopher Nehring: letzten zwei Jahren oder so genommen hat, in die Zukunft projizieren und sagen,
- 34:09Christopher Nehring: okay, die lernen und verbessern sich genauso schnell und genauso gut weiter
- 34:13Christopher Nehring: in den nächsten zwei Jahren, dass es dann nicht mehr möglich ist.
- 34:17Christopher Nehring: Es ist zum Beispiel so, wenn du einfach nur random jetzt keine Szenen dir generieren
- 34:23Christopher Nehring: lässt, sondern Gesichter.
- 34:25Christopher Nehring: Da wird es viel schwieriger. Also wiederum DALI finde ich nicht das richtige Beispiel.
- 34:30Christopher Nehring: Das ist einfach nicht dafür jetzt speziell nicht gut genug. Wenn Sie mal,
- 34:34Christopher Nehring: es gibt eine ganz bekannte Webseite für KI-Generierte, ein Porträtbilder,
- 34:39Christopher Nehring: heißt thispersondoesn'texist.com.
- 34:43Christopher Nehring: Sie kriegen jedes Mal, wenn Sie draufklicken, einfach eine endlose Reihe von
- 34:46Christopher Nehring: KI-generierten Personen.
- 34:48Christopher Nehring: Das ist was ganz anderes. Also da gibt es auch ein paar Faktoren,
- 34:52Christopher Nehring: die man untersuchen kann.
- 34:53Christopher Nehring: Ohrläppchen, zum Beispiel Halspartien, Hintergründe und vor allem,
- 34:57Christopher Nehring: dass das auf einem spezifischen Mechanismus beruht, der die Augen immer in perfekter
- 35:02Christopher Nehring: Symmetrie und immer an der gleichen Stelle generiert.
- 35:04Christopher Nehring: Könnte man das so erkennen, aber das Einzelbild an sich sieht extrem schwer
- 35:08Christopher Nehring: zu erkennen aus. Also ich schaffe auch keine 10 von 10 dabei. Garantiere ich dir.
- 35:12Torsten Frenzel: Okay, das gucken wir nochmal an.
- 35:13Christopher Nehring: Das heißt, jetzt weißt du ja, dass wenn du dieses Bild auf dieser Seite siehst,
- 35:19Christopher Nehring: dass es dann KI generiert ist.
- 35:20Christopher Nehring: Wenn du halt so den Test machst und davon Bilder rüberziehst und dann Leuten
- 35:24Christopher Nehring: zeigst, dann kommt keine hundertprozentige Trefferquote dabei raus.
- 35:28Christopher Nehring: Plus jetzt bei anderen Sachen jetzt nicht nur so die, wenn du Szenen darstellen
- 35:34Christopher Nehring: lässt oder bekannte Personen,
- 35:36Christopher Nehring: sondern eben auch bestimmte Optiken, Dokumente etc., wird das deutlich schwieriger mit der Erkennung.
- 35:45Christopher Nehring: Bei Videos oder Stimmen hat man je nach Kontext natürlich auch Faktoren, die das beeinflussen.
- 35:51Christopher Nehring: Also ist das zum Beispiel live und muss ich darauf achten. Wir alle wissen,
- 35:53Christopher Nehring: wenn ich in einem Phonecall, in einem normalen Telefongespräch bin,
- 35:58Christopher Nehring: dass Stimmen oder die Verbindung wackelt.
- 36:01Christopher Nehring: Das ist halt auch das Gleiche in einem Videocall oder manchmal bestimmte Sachen,
- 36:05Christopher Nehring: je nach Verbindungsqualität oder so, verschwimmen und Sonstiges.
- 36:09Christopher Nehring: Das heißt, das ist nie die 100-prozentige Sicherheit, die es dafür gibt und
- 36:16Christopher Nehring: natürlich das Versprechen, dass diese Tools sehr schnell sehr viel besser werden darin.
- 36:23Christopher Nehring: Jetzt so bei der Erkennung, auch Hintergrunde, Hintergrundgeräusche oder auch
- 36:29Christopher Nehring: bei die Fake Videos, ob sich jetzt bestimmte Kameraperspektiven einfach immer
- 36:32Christopher Nehring: wieder wiederholen, wo man sieht, okay, die Originaldatei, die da reingefüttert
- 36:35Christopher Nehring: wurde, war zehn Sekunden lang,
- 36:37Christopher Nehring: hat drei Kameraeinstellungen und die wiederholen sich dann die ganze Zeit.
- 36:40Christopher Nehring: Das sind auch so Anhaltspunkte.
- 36:43Christopher Nehring: Aber alle diese Punkte muss man so zusammennehmen, um wirklich detailliert zu überprüfen.
- 36:49Christopher Nehring: Das dauert Zeit, das produziert einen Aufwand und man muss natürlich auch erstmal
- 36:53Christopher Nehring: wissen, dass das möglich ist, dass man das so überprüfen sollte,
- 36:58Christopher Nehring: um dann zu einem Urteil zu kommen.
- 37:00Christopher Nehring: Ich habe vorhin schon mal eben das Beispiel angesprochen vom US-Finanzministerium,
- 37:04Christopher Nehring: das jetzt sagt, wir sollen keine Stimmen oder Banken sollen keine Stimmen mehr
- 37:07Christopher Nehring: als Authentifizierung zur Überprüfung von Identitäten einsetzen.
- 37:11Christopher Nehring: So ähnliche Faktoren können uns in den nächsten Jahren noch viel öfter begegnen.
- 37:18Torsten Frenzel: Aber das ist schon mal eine gute Richtung, in die ich jetzt gerne abbiegen würde.
- 37:20Torsten Frenzel: Wir hatten jetzt darüber gesprochen, welche Möglichkeiten es gibt.
- 37:23Torsten Frenzel: Wir haben darüber gesprochen, wie man es eventuell erkennen kann.
- 37:26Torsten Frenzel: Was kann ich denn dagegen tun? Was kann ich denn gegen solche Deepfakes machen?
- 37:29Christopher Nehring: Ja, das kommt jetzt darauf an, aus welcher Perspektive man spricht,
- 37:34Christopher Nehring: ob jetzt als Einzelperson, als Organisation.
- 37:36Torsten Frenzel: Ja, als Organisation, also wenn ich an die öffentliche Verwaltung denke.
- 37:40Torsten Frenzel: Also was können die dagegen machen, dass sowas nicht passiert?
- 37:43Christopher Nehring: Das Erste, was man braucht, wie im Cybersecurity-Bereich, sind Bildungs- und Schulungsmaßnahmen.
- 37:49Christopher Nehring: Sprich, wenn Mitarbeiter nicht wissen, dass das möglich ist und was möglich
- 37:53Christopher Nehring: ist und wie leicht, ist die Wahrscheinlichkeit, dass geklickt,
- 37:57Christopher Nehring: zugestimmt und sonstiges gemacht wird, einfach sehr, sehr viel größer.
- 38:01Christopher Nehring: Das heißt so, KI-Bildung auch, was diese speziellen Risiken angeht,
- 38:05Christopher Nehring: ist der erste Schlüssel.
- 38:06Christopher Nehring: Es gibt im Bereich der Softwarelösungen, sprich Deepfake-Erkennungstools oder
- 38:13Christopher Nehring: KI-Inhalte-Erkennungstools, das ist ein sehr heiß debattiertes Thema,
- 38:17Christopher Nehring: weil eigentlich Stand der Forschung ist,
- 38:19Christopher Nehring: es gibt kein einziges, das wirklich gut genug ist.
- 38:23Christopher Nehring: Aber auch die werden besser. Die werden nie bei 100% landen.
- 38:26Christopher Nehring: Das heißt, das ist nicht so, dass man sich darauf verlassen können wird.
- 38:28Christopher Nehring: Wir haben die eine Software, die uns sagt, das ist KI-generiert und das nicht.
- 38:32Christopher Nehring: Aber es wird schon mal besser werden zur Ergänzung. Zum Beispiel eben gerade bei Live-Calls.
- 38:39Christopher Nehring: Nächster Punkt ist, dass ich eben meine Prozesse, bei denen diese verschiedenen
- 38:43Christopher Nehring: Angriffsszenarien eine Rolle spielen können.
- 38:46Christopher Nehring: Sprich, wenn es um das Management von der Außendarstellung, also meines Images,
- 38:53Christopher Nehring: meiner Glaubwürdigkeit etc.
- 38:54Christopher Nehring: Geht, diesen Aspekt im Blick zu behalten und zu gucken, was wird denn schon
- 38:58Christopher Nehring: damit gemacht oder angegriffen, darauf zu verweisen, dass es sowas gibt.
- 39:04Christopher Nehring: Man kann mithilfe von Social Media Monitoring Tools speziell danach suchen lassen.
- 39:09Christopher Nehring: Man kann natürlich, wenn es erstmal erscheint oder wenn es erstmal da ist,
- 39:15Christopher Nehring: muss man relativ schnell darauf hinarbeiten, dass es,
- 39:20Christopher Nehring: Entweder gelöscht, speziell gekennzeichnet oder demobilisiert wird,
- 39:24Christopher Nehring: sprich, dass es nicht mehr irgendwie unter den ersten Treffern auftaucht.
- 39:28Christopher Nehring: Das ist alles gar nicht so leicht und geht auch gar nicht so schnell,
- 39:30Christopher Nehring: weil es nicht so ist, dass man jetzt, wenn jetzt so ein Video auf irgendeiner
- 39:33Christopher Nehring: Social-Media-Plattform auftaucht, irgendwie eine Mail schreibt oder auf einen
- 39:37Christopher Nehring: Button drückt und dann wird das irgendwie gelöscht oder automatisch überprüft.
- 39:40Christopher Nehring: Dazu muss ich natürlich vorbereitet sein und mir überlegt haben,
- 39:46Christopher Nehring: okay, wie gehe ich das denn an?
- 39:47Christopher Nehring: Also, wie arbeite ich darauf hin, dass es dort wieder runtergenommen wird?
- 39:52Christopher Nehring: Mit wem muss ich sprechen?
- 39:53Christopher Nehring: Wo kann ich sie kennzeichnen? Welche rechtlichen Schritte sind möglich und müssten
- 39:57Christopher Nehring: so schnell wie möglich eingeleitet werden?
- 40:00Torsten Frenzel: Ich brauche hier auch tatsächlich einen Notfallplan, wo ich mir vorher Gedanken
- 40:05Torsten Frenzel: mache, was ich tue, wenn so ein Video zum Beispiel auftaucht.
- 40:08Christopher Nehring: Ja, so eine Incident Response und Crisis Management muss eben auch diese Punkte
- 40:12Christopher Nehring: jetzt berücksichtigen.
- 40:14Christopher Nehring: Ähnlich wie bei der Verbindung Cyberangriffe und KI.
- 40:18Torsten Frenzel: Und mal noch eine andere Frage. Hast du vielleicht noch ein,
- 40:20Torsten Frenzel: zwei Links für die Shownotes, wo man schon mal im Video vielleicht sehen kann,
- 40:23Torsten Frenzel: was heutzutage alles geht?
- 40:25Torsten Frenzel: Also ich stelle mir das ziemlich interessant vor, zu sehen, wie in so einem
- 40:29Torsten Frenzel: Videocall plötzlich Stimme und Gesicht ausgetauscht werden oder ähnliches.
- 40:33Christopher Nehring: Ich kann dir was schicken, also so zum Beispiel von diesen angesprochenen nigerianischen
- 40:37Christopher Nehring: Prinzen, also dieser Betrugsbande.
- 40:40Christopher Nehring: Ich glaube ein Beispiel, das eigentlich sehr eindrücklich war,
- 40:45Christopher Nehring: aber ich glaube das Video ist nicht mehr verfügbar.
- 40:47Christopher Nehring: Es gab doch auch diese russische angebliche Comedian-Bande, die wohl aber eben
- 40:53Christopher Nehring: doch mit dem russischen Staat unter einer Decke steckt, die Bürgermeister in
- 40:57Christopher Nehring: ganz Europa angerufen hat,
- 40:58Christopher Nehring: sich als Bürgermeister von Kiew Vitali Glitschko ausgegeben hat und in seinem
- 41:03Christopher Nehring: Namen eben mit Bürgermeistern in ganz Europa gesprochen hat.
- 41:06Christopher Nehring: Das waren auch recht eindrückliche Videos,
- 41:08Christopher Nehring: wo man sieht, das war auch die Live-Benutzung von so einer Software.
- 41:11Christopher Nehring: Das heißt, eigentlich sitzen diese zwei, dieses angebliche komische Duo vor der Kamera.
- 41:16Christopher Nehring: Sie lassen diese Software laufen mit einem animierten Bild von Wladimir Klitschko und seiner Stimme.
- 41:22Christopher Nehring: Und alles, was sie sagen und ihre äußere Erscheinung kommt eben so rüber.
- 41:27Christopher Nehring: Auch hier muss man sagen, ich frage mich bis heute, wer diesen Call so organisiert
- 41:30Christopher Nehring: hat, weil er ja auch nicht von der originalen Mail des Bürgermeisters von Kiew
- 41:34Christopher Nehring: kam, sondern von anderen Mail-Accounts und dann Telefonanrufe geführt werden wurden etc.
- 41:40Christopher Nehring: Das heißt, da war eben das jeweilige Büro auch nicht besonders gut darin oder
- 41:47Christopher Nehring: schnell überhaupt auf die Idee zu kommen,
- 41:49Christopher Nehring: zu überprüfen, ist das jetzt der echte Bürgermeister von Kiew,
- 41:52Christopher Nehring: mit dem wir da gerade Kontakt haben, beziehungsweise sein Büro.
- 41:56Torsten Frenzel: Ja, ich glaube, da ist auch noch Aufklärungsarbeit in den Vorzimmern zu leisten.
- 42:00Christopher Nehring: Das zieht sich durch den Bereich weg. Also ich will da nicht in eine spezifische Richtung gehen.
- 42:05Christopher Nehring: Es ist nicht so, dass außerhalb von KI-Experten,
- 42:10Christopher Nehring: dieses Thema durch irgendwie breit besetzt oder hinterlegt wäre mit besonderer Kompetenz.
- 42:15Christopher Nehring: Also auch unter Cybersecurity-Experten, KI ist ein relativ neues Feld,
- 42:19Christopher Nehring: da muss man sich reinarbeiten und natürlich je nachdem, was so mein täglich
- 42:22Christopher Nehring: Brot ist, hat man das gemacht oder mal davon gehört oder eben auch nicht.
- 42:26Christopher Nehring: Aber jetzt, das ist nicht nur irgendwie, oh, da ist die Verwaltung so schlecht
- 42:30Christopher Nehring: oder so unbeleckt bislang.
- 42:32Christopher Nehring: Das zieht sich von Politik, Medien, Wissenschaft, Unternehmen,
- 42:37Christopher Nehring: Wirtschaft, Schulen hin zu Zur Verwaltung.
- 42:40Christopher Nehring: Diese Aufklärungs- und Trainingsmaßnahmen sind einfach überall notwendig,
- 42:45Christopher Nehring: weil es für jeden von diesen Bereichen eben erhebliche Risiken gibt,
- 42:49Christopher Nehring: die jetzt durch diese großen KI-Anwendungen so viel größer geworden sind oder
- 42:54Christopher Nehring: dabei sind, groß zu werden.
- 42:56Torsten Frenzel: Nachdem jetzt hier doch ein ziemlich hohes Potenzial an Schaden entstehen kann
- 43:02Torsten Frenzel: und die Gefahr auch immer weiter wächst,
- 43:03Torsten Frenzel: gibt es denn hier schon was auf der Gesetzgebungsebene, die hier die Handhabe
- 43:09Torsten Frenzel: etwas erweitert oder einschränkt?
- 43:12Christopher Nehring: Naja, ja und nein. Also das europäische KI-Gesetz nennt Deepfakes ausdrücklich.
- 43:19Christopher Nehring: Deepfakes an sich, beziehungsweise die Technologie, ist nicht verboten.
- 43:23Christopher Nehring: Das liegt daran, dass diese Technologie natürlich nicht nur irgendwie für Betrügereien
- 43:27Christopher Nehring: und negative Anwendungen und Reputationsangriffe etc.
- 43:31Christopher Nehring: Benutzt wird, sondern auch sehr viele positive Einsatzbereiche hat oder haben kann.
- 43:36Christopher Nehring: Diese betrügerischen Deepfakes und verleumderischen etc.
- 43:41Christopher Nehring: Sind natürlich verboten.
- 43:44Christopher Nehring: Das hilft mir jetzt nur so bedingt viel, weil das weiß der Angreifer natürlich vorher schon.
- 43:49Christopher Nehring: Also Betrug war vorher verboten, ob ich jetzt KI dafür benutze oder nicht,
- 43:53Christopher Nehring: stellt erstmal an sich noch keine besondere Schwere der Tat dar.
- 43:56Christopher Nehring: Das heißt, das hat jetzt den Straftatsbestand
- 43:58Christopher Nehring: zum Beispiel auch bei der Dokumentenfälschung nicht beeinflusst.
- 44:02Christopher Nehring: Das war vorher verboten und ist danach verboten.
- 44:05Christopher Nehring: Was ein bisschen eine kompliziertere Sache ist, solche KI-Inhalte müssen eigentlich,
- 44:10Christopher Nehring: wenn sie jetzt auch veröffentlicht werden, ob jetzt auf deiner Homepage oder
- 44:14Christopher Nehring: auf YouTube, Facebook oder wo auch immer, gekennzeichnet werden.
- 44:19Christopher Nehring: Das sagt das EU-Gesetz. Ab 2026 ist das in Kraft.
- 44:23Christopher Nehring: Das heißt, jedes Video, das dann irgendwie mit KI erstellt wurde oder auch nur
- 44:26Christopher Nehring: teilweise, muss ein spezielles Zeichen haben, wurde mit KI erstellt.
- 44:31Christopher Nehring: Da sind wir noch weit davon entfernt, wie diese Zeichen aussehen sollen.
- 44:36Torsten Frenzel: Aber das sind ja auch eher freiwillige Angaben.
- 44:38Christopher Nehring: Nee, das wird dann verpflichtend sein. Also so steht es im KI-Gesetz.
- 44:43Christopher Nehring: Ab 2026 ist es dann verpflichtend.
- 44:45Christopher Nehring: Und zum Beispiel die Plattformen müssten das, wenn das so nicht gelabelt ist, runternehmen.
- 44:49Christopher Nehring: Ich sage das alles vorsichtig im Konjunktiv, weil man müsste schon sehr viel
- 44:54Christopher Nehring: von dem, was heute noch online ist, löschen. Wird trotzdem nicht gemacht.
- 44:57Torsten Frenzel: Instagram hat schon angefangen. Also ich kann bei Instagram schon meinen Beitrag
- 45:00Torsten Frenzel: als von einer KI generiert kennzeichnen, aber das ist alles fakultativ.
- 45:04Christopher Nehring: Ja, das können sie. Ab 2.26 ist es dann verpflichtend.
- 45:10Christopher Nehring: Die Sache ist natürlich, dass jemand, der da speziell was veröffentlicht,
- 45:13Christopher Nehring: um zu schaden, das nicht tun wird, weil er ja genau auf diesen Effekt setzt.
- 45:18Christopher Nehring: Das heißt, das wirkt so ein bisschen für den Hausgebrauch sozusagen.
- 45:22Christopher Nehring: Also für Orthonormal- User könnte
- 45:25Christopher Nehring: das einen Unterschied machen oder eine kleinere Hemmschwelle setzen.
- 45:28Christopher Nehring: Je nachdem, wie rigoros das angewendet wird, was im Gesetz steht und wie es
- 45:33Christopher Nehring: dann angewendet wird, müssen wir erstmal noch sehen.
- 45:35Christopher Nehring: Aber für den professionellen Akteur, der schaden will, macht das keinen Unterschied.
- 45:41Christopher Nehring: Was er tut, war vorher auch schon verboten. Da kommt jetzt nichts Neues.
- 45:46Christopher Nehring: Und außer dieser Kennzeichnung von Inhalten steht nichts im KI-Gesetz,
- 45:52Christopher Nehring: was da hingegen weiter auf diese Problematik eingeht.
- 45:55Christopher Nehring: Wir können uns da nicht irgendwie auf das Gesetz verlassen.
- 45:59Christopher Nehring: Es gibt derzeit keine Mechanismen, die jetzt im Vorhinein etabliert sind,
- 46:04Christopher Nehring: um uns davor zu schützen.
- 46:06Christopher Nehring: Und auch wenn der Schaden erstmal da ist, dann eben dann Ermittlungen oder Prozesse
- 46:12Christopher Nehring: in Gang zu bringen, ist halt die andere Sache.
- 46:15Christopher Nehring: Das heißt, da ist dann halt im Nachhinein eine Strafe möglich für solche Sachen.
- 46:19Christopher Nehring: Aber das bringt jetzt bei der Prävention oder bei der Abwehr erstmal noch nicht so viel.
- 46:26Christopher Nehring: Ja, also auf Gesetzesbasis oder auf der Basis von Normen und Standards gibt
- 46:32Christopher Nehring: es da erstmal relativ wenig, was uns jetzt gerade vor Deepfake-Attacken schützen wird.
- 46:38Torsten Frenzel: Das heißt, die Technologie ist der Gesetzgebung wieder einen ganzen Schutt voraus.
- 46:41Christopher Nehring: Ja, das sowieso. Allerdings ist eben so die Entwicklung von so einer Software
- 46:46Christopher Nehring: halt auch einfach schneller als die von einem Gesetz auf europäischer Ebene.
- 46:50Christopher Nehring: Die Frage ist auch, ob sich diese Probleme speziell durch Gesetze lösen lassen.
- 46:57Christopher Nehring: Es würde sich eher lösen lassen, also wenn diese solche Inhalte dort,
- 47:02Christopher Nehring: wo sie erscheinen, was eben zumeist Social-Media-Plattformen und Kommunikationssysteme
- 47:07Christopher Nehring: sind, stärker in den Blick genommen würden.
- 47:10Christopher Nehring: Würden, dort würde es einen Unterschied machen.
- 47:13Christopher Nehring: Also eher, wie es dann da bei der Verbreitung umgesetzt wird.
- 47:17Christopher Nehring: Für bestimmte Formen von solchen Attacken, also jetzt speziell im Bereich Betrugsversuche
- 47:22Christopher Nehring: oder solche Veröffentlichungen im Darknet, da spielt sich sowieso schon so viel
- 47:26Christopher Nehring: außerhalb des gesetzlichen Rahmens ab, dass das, was da steht,
- 47:29Christopher Nehring: einfach nicht den Unterschied macht.
- 47:31Torsten Frenzel: Du hast ja selber auch zwei Papers veröffentlicht, Deepfakes erkennen und abwehren.
- 47:37Torsten Frenzel: Die wird man bei uns in den Shownotes finden und sich durchlesen können.
- 47:41Torsten Frenzel: Wenn noch jemand mehr von dir lesen will und mehr Informationen über dich haben
- 47:46Torsten Frenzel: möchte, wo findet er denn was?
- 47:48Christopher Nehring: LinkedIn ist eine gute Basis dafür. Ich glaube, wir bringen auch,
- 47:52Christopher Nehring: wir können gerne so die Kontaktadresse für Rückfragen, Rückmeldungen,
- 47:58Christopher Nehring: jegliche Art von Input, die gefordert wird, in die Beschreibung bringen.
- 48:03Torsten Frenzel: Genau, in deinen Papieren steht ja auch nochmal die Kontaktdaten alles drin.
- 48:08Christopher Nehring: Richtig, richtig. Darüber get in touch. Ich bin sehr aktiv, was jetzt so dieses
- 48:13Christopher Nehring: Thema angeht, gerade dadurch, dass es eben dieses Jahr sich so stark entwickelt und in den Fokus rückt.
- 48:19Christopher Nehring: Und eben, wie ich vorhin auch schon mal gesagt habe, so einfach das Bewusstsein
- 48:23Christopher Nehring: für das Problem und so zumindest mal davon gehört zu haben, dass es sowas gibt
- 48:28Christopher Nehring: und was möglich ist, ist so der erste Schritt, uns sicherer zu machen.
- 48:33Torsten Frenzel: Genau so ist es. Christopher, vielen, vielen Dank, dass du bei mir hier im E-Government Podcast warst.
- 48:38Torsten Frenzel: Und ich hoffe, es hat euch, liebe Zuhörerinnen und Zuhörer, auch wieder gefallen
- 48:43Torsten Frenzel: und habt wieder neue Informationen bekommen.
- 48:45Torsten Frenzel: Und ich verabschiede mich. Bis zum nächsten Mal. Bis dann.