Latest / Logbuch:Netzpolitik / LNP548 Leguan ist kein Teil von Deutschland

Transcript

LNP548 Leguan ist kein Teil von Deutschland · Logbuch:Netzpolitik

• 0:00
  Tim Pritlove: Guten Morgen Linus.
• 0:01
  Linus Neumann: Guten Morgen Tim.
• 0:03
  Tim Pritlove: Ich habe gehört Chuck Norris ist gestorben.
• 0:06
  Linus Neumann: Die Berichte über seinen Tod sind stark übertrieben.
• 0:30
  Tim Pritlove: Logbuch Netzpolitik Nummer 548 vom 20. März 2026 und seht es uns nach.
• 0:39
  Tim Pritlove: Wir haben eine kurze Unterbrechung im Programm gehabt, denn die letzte Sendung war vom 27.
• 0:44
  Tim Pritlove: Februar und seitdem kam es irgendwie nicht dazu.
• 0:49
  Tim Pritlove: Termine, Termine, Termine, aber immerhin sind wir jetzt wieder auf dem selben breiten Grad.
• 0:56
  Linus Neumann: Mit einer langen Sendung.
• 0:58
  Tim Pritlove: Einer langen Sendung. Das klingt ja jetzt nicht besonders optimistisch.
• 1:02
  Linus Neumann: Ja, eine lange Sendung, Logbuch Netzpolitik ist selten was Gutes.
• 1:07
  Linus Neumann: Also heißt nichts Gutes.
• 1:11
  Linus Neumann: Du weißt, was ich weile.
• 1:15
  Tim Pritlove: So viel zu den Erwartungshaltungen. Ihr könnt es euch schon mal gemütlich machen.
• 1:21
  Linus Neumann: Du kannst schon mal direkt den Finger hier zum Gute-Nachricht-Dschingel machen.
• 1:25
  Tim Pritlove: Ja?
• 1:25
  Linus Neumann: Ja.
• 1:26
  Tim Pritlove: Jetzt schon. Surprise, Motherfucker,
• 1:31
  Tim Pritlove: Also, okay Also der Finger Der Finger Der Finger ist jetzt schon mal am richtigen
• 1:38
  Tim Pritlove: Ort Soll ich schon loslegen oder haben wir noch irgendwas zu berichten?
• 1:42
  Linus Neumann: Ähm, haben wir noch irgendwas zu berichten?
• 1:46
  Linus Neumann: Irgendwas? Ich weiß.
• 1:47
  Tim Pritlove: Aus dem persönlichen Kontext heraus. Ich bin aufgeregt. Du bist aufgeregt.
• 1:52
  Linus Neumann: Ich bin aufgeregt.
• 1:53
  Tim Pritlove: Okay, wegen der Sendung. Oder generell einfach.
• 1:56
  Linus Neumann: Sendung kann. In der Sendung Logbuch Netzpolitik habe ich Routine.
• 2:01
  Linus Neumann: Das ist jetzt die 548. Ein paar waren ohne mich, aber meine 500 werde ich schon so gemacht haben.
• 2:07
  Tim Pritlove: Das werde ich gleich mal überprüfen.
• 2:08
  Linus Neumann: Das kann ich inzwischen. Also sagen wir mal, inzwischen bin ich nicht mehr ganz
• 2:11
  Linus Neumann: so aufgeregt. Also ich habe schon, morgen stehe ich auf mit Lampenfieber.
• 2:18
  Linus Neumann: Aber kriege ich hinter mich Gebracht Was ich nicht hinkriege Ist Wenn ich irgendwie
• 2:27
  Linus Neumann: bei diesem Funfacts Gefragt werde, ob ich da auch mal was mitmache Und mir garantiert wird,
• 2:31
  Linus Neumann: dass ich So ein Side-Act bin und dann steht auf einmal,
• 2:35
  Linus Neumann: Funfacts mit Linus Neumann in diesem Verkaufsding Damit komme ich nicht zurecht Okay.
• 2:41
  Tim Pritlove: Das verstehe ich Also man erwartet mehr von dir Das ist Druck.
• 2:45
  Linus Neumann: Das ist Pressure hier. Das ist die ganze Leistungsdruck, der ja auf mir landet.
• 2:50
  Linus Neumann: Und vor allem das habe ich ja noch nie gemacht. Das kann ja auch gar nicht.
• 2:54
  Linus Neumann: Und jetzt muss ich das lernen bis dahin.
• 2:56
  Tim Pritlove: Okay, also ich kann dich beruhigen, du hast bis dato an 509 der Sendung teilgenommen.
• 3:01
  Linus Neumann: 509?
• 3:01
  Tim Pritlove: Oh krass, haben wir das öfter?
• 3:02
  Linus Neumann: Achso, ich war ja einige Zeiten mal weg.
• 3:08
  Linus Neumann: So, 509. Okay, aber dann hätten wir ja mal meine 500. Sendung feiern können.
• 3:13
  Tim Pritlove: Tja, das hätten wir machen können, wenn wir das gewusst hätten,
• 3:15
  Tim Pritlove: aber haben wir übersehen.
• 3:18
  Tim Pritlove: Tja, aber ich habe meine 500er auch nicht gefeiert, aber wir haben unsere gefeiert.
• 3:23
  Linus Neumann: Ja, das ist übrigens auch schon etwas länger her wieder, wir könnten mal wieder,
• 3:28
  Linus Neumann: aber Eselts Albtraum, hier, Elenos, hatte sich an mich gewendet und hatte so
• 3:35
  Linus Neumann: ein Foto, was ich ihr geschickt hatte von den beiden,
• 3:38
  Linus Neumann: die am Anfang gejodelt haben.
• 3:41
  Tim Pritlove: Ja.
• 3:43
  Linus Neumann: Und meinte so, habt ihr noch mehr von den Bildern? Und dann hab ich so gedacht,
• 3:47
  Linus Neumann: ja, bestimmt hab ich bestimmt...
• 3:49
  Linus Neumann: Das Bild hatte ich selber irgendwie so aus Social Media, wahrscheinlich von Mastodon oder so.
• 3:53
  Linus Neumann: Ich glaube von Ralf Stockmann geklaut, der das gepostet hat.
• 3:57
  Linus Neumann: Da musste ich dann auch sagen, so ja, du, da war ich gar nicht, hab ich geklaut.
• 4:03
  Linus Neumann: Wenn ihr da wart und vielleicht noch Bilder habt, würden wir uns glaube ich
• 4:06
  Linus Neumann: über eine Mail freuen oder Elenos will sich freuen, Eseles Albtraum würden sich freuen.
• 4:12
  Tim Pritlove: Das gilt im Übrigen nicht nur für den Act, sondern für das ganze Event.
• 4:16
  Tim Pritlove: Ich hab nämlich dann mal in mein Archiv geschaut fürs Gestint. Ich hab gar keinen.
• 4:19
  Linus Neumann: Ich hab nur Bilder von dem Autounfall, den du dann nachgebaut hast.
• 4:23
  Linus Neumann: Weißt du noch? Diese Autobubser, die uns da verarscht haben.
• 4:26
  Tim Pritlove: Also, Autounfall. Die R-Quotes sind aber jetzt in Stadtteilgröße.
• 4:32
  Linus Neumann: Will man nicht meinen, ey.
• 4:34
  Tim Pritlove: Ich hab ihn nur touchiert. Nee, der ist geliebt.
• 4:37
  Linus Neumann: 5000 Euro. Ey, was für eine...
• 4:41
  Tim Pritlove: Echt, ey.
• 4:43
  Linus Neumann: Das hast du davon, wenn du nach West-Berlin fährst, ja? Wo die Leute irgendwie
• 4:46
  Linus Neumann: geputzte Autos haben und sowas.
• 4:48
  Tim Pritlove: Da fahren wir nicht wieder hin.
• 4:49
  Linus Neumann: Das war eine schlechte Erfahrung. Mein Autopo war hier, der ist gerade.
• 4:57
  Linus Neumann: Nichts war da. Nichts.
• 4:59
  Linus Neumann: Nein, und ich hab's auch gesagt.
• 5:02
  Tim Pritlove: Aber so ist es halt. Selbst wenn du mal was sagst, die Leute glauben es halt nicht immer.
• 5:06
  Linus Neumann: Ja, da werd ich nie mit zurechtkommen.
• 5:09
  Tim Pritlove: Das ist schlimm für dich, ich weiß. Aber da war nichts.
• 5:13
  Linus Neumann: Mann, ey, ich hab doch tausend Fotos. Die hätte ich Eleanor Schinke,
• 5:17
  Linus Neumann: weiß nicht, wie oft ich da Mikroskop-Makro-Funktion vom iPhone,
• 5:20
  Linus Neumann: mehr Licht hier, ein Bild von nichts.
• 5:22
  Tim Pritlove: Wenn wir Chuck Norris dabei gehabt hätten, ja, dann wäre das sicherlich anders gelaufen.
• 5:26
  Linus Neumann: Chuck Norris hätte da wenigstens mal eine Macke in das Auto gehauen.
• 5:29
  Tim Pritlove: Ja, eben.
• 5:29
  Linus Neumann: Dann hast du mal einen Grund zu heulen, dann hast du auch einen Versicherungsfall.
• 5:32
  Tim Pritlove: Wie, das ist eine Macke?
• 5:33
  Linus Neumann: Das soll eine Macke sein? Das ist doch keine Macke. Das ist eine Macke.
• 5:42
  Tim Pritlove: Ob er das besser gefunden hätte? Ich meine, hätte der Typ für die 5000 Euro
• 5:46
  Tim Pritlove: in der Reparaturwerkstatt auf jeden Fall was zu tun gehabt.
• 5:48
  Linus Neumann: Waren 5.000 Euro, oder?
• 5:49
  Tim Pritlove: Ich weiß nicht, keine Ahnung.
• 5:51
  Linus Neumann: Also wenn ich...
• 5:54
  Linus Neumann: Also, wenn ich sowas, also für das Geld hätten wir auf jeden Fall noch ein paar
• 5:58
  Linus Neumann: Scheiben einschlagen können.
• 6:00
  Linus Neumann: Da muss man echt sagen, so, komm, ey, dann, was kostet das 5000?
• 6:03
  Linus Neumann: Na komm, dann brechen wir jetzt noch hier irgendwas ab oder so.
• 6:05
  Linus Neumann: Ey, dann pissen wir noch auf den Ledersitz oder so.
• 6:07
  Tim Pritlove: Die Reifen sind eh nicht mehr gut.
• 6:09
  Linus Neumann: Ja, oder dann hauen wir noch, irgendwo stechen wir noch einen Reifen ein oder
• 6:12
  Linus Neumann: irgendwas. Aber nichts.
• 6:13
  Tim Pritlove: Das war's.
• 6:13
  Linus Neumann: Das war ja, du hast ja nichts.
• 6:15
  Tim Pritlove: Tja, was ist das? Heutzutage ist immer viel Lärm um nichts.
• 6:20
  Tim Pritlove: Das ist, äh, die Realität. Kommen wir zu den guten Nachrichten? Ja?
• 6:26
  Linus Neumann: Ja.
• 6:26
  Tim Pritlove: Gut.
• 6:32
  Linus Neumann: Die freiwillige Chat-Kontrolle wurde nicht verlängert. Völlig überraschend.
• 6:36
  Linus Neumann: Es handelt sich um die Ausnahmeregelung von der E-Privacy-Verordnung,
• 6:42
  Linus Neumann: die Meta, Google und Microsoft überhaupt rechtlich ermöglicht hat,
• 6:46
  Linus Neumann: freiwillig ohne dazu gezwungen zu werden,
• 6:50
  Linus Neumann: die Chats oder die Inhalte von Nachrichten nach CSAM zu untersuchen. CSAM,
• 7:00
  Linus Neumann: Child Sexually Abused Material und das wurde ja jahrelang immer diese E-Privacy
• 7:09
  Linus Neumann: Ausnahme, das haben sie immer genommen und haben gesagt wir müssen jetzt die Chat-Kontrolle,
• 7:14
  Linus Neumann: verabschieden weil die E-Privacy Richtlinien Ausnahme da, die die läuft aus,
• 7:20
  Linus Neumann: und die Kommission will das verlängern, dann haben sie mit EU-Parlament und
• 7:26
  Linus Neumann: Rat verhandelt, dass es jetzt gescheitert und ab dem 4.
• 7:29
  Linus Neumann: April ist das wieder nicht mehr erlaubt.
• 7:33
  Linus Neumann: Und das finde ich natürlich, also das ist schon sehr lustig.
• 7:38
  Linus Neumann: Also sehr schön, ja, dass man hier auf,
• 7:44
  Linus Neumann: sinnvolle Überlegungen kommt. So, jetzt müssen wir natürlich viele Leute,
• 7:47
  Linus Neumann: die zum ersten Mal, die nicht 548 Folgen dabei waren oder 509 wie ich,
• 7:52
  Linus Neumann: nochmal kurz erklären, warum ist das eine schlechte Idee.
• 7:56
  Tim Pritlove: Warum eigentlich, Linus?
• 7:58
  Linus Neumann: Soll ich das nochmal erklären? Also, du hast...
• 8:06
  Linus Neumann: Wenn du in dieser Menge Daten und Kommunikationen überwachst und das in diesem
• 8:12
  Linus Neumann: Fall dann auch automatisiert,
• 8:14
  Linus Neumann: hast du auch bei sehr geringen Fehlerquoten immer noch eine horrende Menge an False Positives.
• 8:22
  Linus Neumann: Ein Fall, den wir hier vor einiger Zeit behandelt hatten, war ein Mann,
• 8:28
  Linus Neumann: der auf Aufforderung eines Arztes an Selbingen ein Bild von seinem Kind geschickt hatte,
• 8:35
  Linus Neumann: das eine Verletzung am Unterleib hatte.
• 8:39
  Linus Neumann: Und daraufhin ging der Filter an und der Mann wurde lebenslang von Google gebannt. Google-Verbot.
• 8:48
  Linus Neumann: Mit der Chat-Kontrolle, die als Gesetzesvorschlag ja vorangetrieben wird,
• 8:56
  Linus Neumann: wäre nicht nur die Konsequenz, dass Google die sperrt oder was auch immer macht,
• 9:01
  Linus Neumann: sondern auch noch eine automatisierte Meldung an Polizeibehörden ergehen soll.
• 9:08
  Linus Neumann: Und das Ganze auch bei verschlüsselten Messengers passieren soll.
• 9:13
  Linus Neumann: Und damit hättest du eine Situation, wo du mit deinem verschlüsselten Messenger
• 9:18
  Linus Neumann: irgendwie kommunizierst und ein Scan dieser verschlüsselten Inhalte mittels
• 9:24
  Linus Neumann: einer KI stattfindet vor bzw.
• 9:27
  Linus Neumann: Nach der Verschlüsselung. Also hast du eine KI-Überwachung deiner Kommunikationsinhalte
• 9:33
  Linus Neumann: mit automatisierter Ausleitung an die Polizei.
• 9:36
  Linus Neumann: Und das ist nun wirklich eine sehr schlechte Idee.
• 9:43
  Linus Neumann: Vor allem, wenn man das technisch zu Ende denkt, kannst du dann sagen...
• 9:50
  Linus Neumann: Den Messenger, da könntest du es ja auch immer noch rauspatchen.
• 9:55
  Linus Neumann: Also angenommen, mir würde jetzt, also nehmen wir Signal als Beispiel,
• 9:59
  Linus Neumann: einer der verbreiteteren, verschlüsselten Messenger.
• 10:03
  Linus Neumann: Angenommen, Signal würde gezwungen, das zu tun, irgendeine KI-Überwachung da
• 10:07
  Linus Neumann: einzubauen. Wobei, wenn ich mir den Vortrag von Udbaf und Meredith beim Kongress
• 10:12
  Linus Neumann: anschaue, würde ich vermuten, die würden sich da wahrscheinlich nicht zuzwingen lassen.
• 10:16
  Linus Neumann: Angenommen, sie würden es und angenommen, sie täten es, dann könntest du es ja wieder rauspatchen.
• 10:23
  Linus Neumann: Das ist ja eine Open-Source-Software. Das heißt, was,
• 10:27
  Linus Neumann: Die logische Konsequenz wäre, dass irgendwann auf den Plattformen,
• 10:30
  Linus Neumann: auf den Geräten zu verankern.
• 10:32
  Linus Neumann: Ja, dass du nämlich sagst, nee, wir wissen ja, dass Signal keine vernünftige
• 10:36
  Linus Neumann: Überwachungs- KI in ihren verschlüsselten Messenger bauen, also bauen wir das
• 10:41
  Linus Neumann: am Ende in iOS oder Android ein.
• 10:45
  Linus Neumann: Eine wirklich sehr schlechte Idee,
• 10:51
  Linus Neumann: weil sie erstens schlechte Erkennungsquoten hat und bei diesen schlechten Erkennungsquoten
• 10:57
  Linus Neumann: Eben Unmengen an falschen Verdächtigungen und dann irgendwie automatisch an die Polizei.
• 11:02
  Linus Neumann: Das war wirklich ein ernsthaftes Problem.
• 11:06
  Linus Neumann: Noch dazu, die tatsächlich kriminellen Menschen, die würden ja auch um so etwas
• 11:13
  Linus Neumann: wissen, das heißt die weichen natürlich sehr schnell aus auf Systeme,
• 11:18
  Linus Neumann: wo sie dieser Überwachung entgehen würden,
• 11:22
  Linus Neumann: beispielsweise einfach ordentliche, Ende zu Ende verschlüsselte Systeme, wie wir sie jetzt haben.
• 11:28
  Linus Neumann: Also wieder eine Massenüberwachung, die genau die Menschen trifft und nicht die Kriminellen.
• 11:36
  Linus Neumann: Wie jede Massenüberwachung eigentlich nur dazu geeignet ist,
• 11:41
  Linus Neumann: die Kriminellen dahin zu lenken, sich vor ihr zu schützen,
• 11:46
  Linus Neumann: während die unbescholtenen Bürger ja nichts zu verbergen haben und dann dieser
• 11:52
  Linus Neumann: massenhaften Überwachung ausgesetzt sind.
• 11:56
  Linus Neumann: Ja, war schön.
• 11:58
  Tim Pritlove: Deswegen ist das scheiße Genau.
• 12:00
  Linus Neumann: Aber dass sie jetzt hier diese Ausnahme Gekippt haben Das muss ich echt sagen,
• 12:05
  Linus Neumann: das ist Überraschung Naja.
• 12:09
  Tim Pritlove: Sie wurde ja nicht verlängert Weil sie hätte jetzt verlängert werden Müssen,
• 12:14
  Tim Pritlove: wenn ich das richtig sehe Ja.
• 12:15
  Linus Neumann: Die ist immer nur für ein Jahr.
• 12:16
  Tim Pritlove: Und dazu gab es halt nicht die notwendige Mehrheit, das zu verlängern,
• 12:24
  Tim Pritlove: Und schon haben wir eine gute Nachricht. So einfach geht das?
• 12:28
  Tim Pritlove: Snap mit den Fingern. Zack, bumm.
• 12:30
  Linus Neumann: Zack, schon gibt es was Gutes.
• 12:32
  Tim Pritlove: Zack, bumm.
• 12:32
  Linus Neumann: Da werden die Leute im Iran sich freuen, dass es auch eine gute Nachricht gibt.
• 12:37
  Linus Neumann: Da wollten wir ja nicht drüber reden.
• 12:39
  Tim Pritlove: Ja, also wenn wir damit anfangen, dann wird die sehr zu lang.
• 12:42
  Linus Neumann: Wir könnten auch über Überraschungen und Atombomben mit der japanischen Premierministerin sprechen.
• 12:51
  Tim Pritlove: Nicht mehr Trump als nötig.
• 12:54
  Linus Neumann: Das war jetzt schon zu viel. Es gibt in diesem Bereich, also gestern kam eine,
• 13:02
  Linus Neumann: Eilmeldung, glaube ich war das sogar.
• 13:06
  Linus Neumann: Da ist mir echt die Spucke weggeblieben. Es gibt eine Schauspielerin mit dem
• 13:12
  Linus Neumann: Namen Colleen Fernandez,
• 13:15
  Linus Neumann: die seit vielen Jahren so eine der lauteren Stimmen und engagierteren Stimmen gegen Deepfake,
• 13:24
  Linus Neumann: Pornografie ist, insbesondere unter ihrem Namen, aber das Thema auch entsprechend
• 13:28
  Linus Neumann: politisch aktivistisch behandelt.
• 13:33
  Linus Neumann: Deepfake Pornos, ich glaube wir haben vor einiger Zeit schon darüber gesprochen.
• 13:36
  Linus Neumann: Deepfake kennt man, Porno hat man schon mal davon gehört.
• 13:40
  Linus Neumann: Die beiden zusammen kann man sich vorstellen, was das ist. Das zu verbreiten von Menschen,
• 13:48
  Linus Neumann: ist natürlich eine sehr schwere.
• 13:53
  Linus Neumann: Erniedrigung und Entwürdigung und die hat die Coline Fernandes an unterschiedlichen
• 14:01
  Linus Neumann: Stellen sehr häufig erfahren.
• 14:04
  Linus Neumann: Und Ende 2025, wie jetzt bekannt wurde, hat sie dann eben Anzeige erstattet
• 14:10
  Linus Neumann: gegen ihren inzwischen Ex-Mann Christian Ulmen, den man wahrscheinlich kennt.
• 14:17
  Linus Neumann: Unter anderem Tatort-Kommissar und hat aber irgendwie, ich weiß nicht,
• 14:21
  Linus Neumann: ich hab eher früher so Sachen geguckt, wie Mein neuer Freund und so,
• 14:24
  Linus Neumann: und da hat er echt witzige Sachen gemacht, ja, aber ist ein,
• 14:28
  Linus Neumann: denke ich, relativ bekannter,
• 14:30
  Linus Neumann: deutscher Schauspieler, ich glaub irgendwo bei Viva oder MTV oder irgendein
• 14:34
  Linus Neumann: Quatsch, da angefangen Viva-Moderator Viva-Moderator, ja, das hab ich immer
• 14:38
  Linus Neumann: nicht geguckt, der hat mir Kirre gemacht der hat,
• 14:44
  Linus Neumann: also wirklich eine völlig absurde also es kann man auch wirklich,
• 14:49
  Linus Neumann: also es ist einfach nur krank, was der gemacht hat und also irgendwie,
• 14:55
  Linus Neumann: Identitätsdiebstahl, der hat gefälschte Profile auf LinkedIn unter ihrem Namen
• 14:58
  Linus Neumann: unterhalten und dann irgendwelche Leute angeschrieben und irgendwie um die 30
• 15:05
  Linus Neumann: Online-Affären unter ihrem Namen gehabt und also wirklich,
• 15:12
  Linus Neumann: also fürchterlich,
• 15:14
  Linus Neumann: erstens für sie, ich will gar nicht wissen, wie das jetzt also überhaupt,
• 15:19
  Linus Neumann: dass sowas passiert und dass du dann auch noch feststellst, dass dein Ehemann über Jahre.
• 15:24
  Linus Neumann: Gleichzeitig auch fürchterlich, was der Mann für eine völlige Krankheit hat,
• 15:28
  Linus Neumann: mit der der sich ja jetzt eigentlich alles ruiniert. Alles ruiniert, ne? Ähm.
• 15:36
  Linus Neumann: Absolut, also wirklich absolut krank, ja.
• 15:41
  Linus Neumann: Und auch wirklich nicht schön zu lesen, er war einfach nur krank.
• 15:48
  Linus Neumann: So, warum behandeln wir das?
• 15:52
  Linus Neumann: Weil natürlich das Thema jetzt wirklich dann durch den Spiegel,
• 15:55
  Linus Neumann: Spiegelrecherche ordentlich seziert, recherchiert, ein bisschen,
• 16:01
  Linus Neumann: also sag ich mal, auf dem Detailgrad, der unangenehm ist, dem aber auch notwendig.
• 16:06
  Linus Neumann: Und Bundesjustizministerin Hubig, natürlich, was passiert,
• 16:10
  Linus Neumann: hat dann jetzt fürs Frühjahr das digitale Gewaltschutzgesetz nochmal angekündigt,
• 16:17
  Linus Neumann: mit dem Ziel, die Strafbarkeitslücken bei Deepfake-Pornos zu schließen und die
• 16:24
  Linus Neumann: Accounts von den Tätern per Gericht sperrbar zu machen.
• 16:31
  Linus Neumann: Und im Zivilverfahren bessere Auskunftsrechte zu schaffen.
• 16:37
  Linus Neumann: Wenn man sowas High-Level formuliert, klingt das immer erstmal ganz sinnvoll,
• 16:43
  Linus Neumann: aber ich glaube Auskunftsrechte im Zivilverfahren, da lauert auf der anderen
• 16:49
  Linus Neumann: Seite natürlich auch wieder sofort,
• 16:52
  Linus Neumann: der Missbrauch von oder die missbrüchliche Anwendung in anderen Verfahren.
• 16:58
  Linus Neumann: Schauen wir mal, wie das ausformuliert wird.
• 17:02
  Linus Neumann: Gleichzeitig glaube ich, wahrscheinlich hat sie das auch auf Twitter bekannt
• 17:05
  Linus Neumann: gegeben, der primären Verteilplattform für Deepfake,
• 17:11
  Linus Neumann: Pornos und so. Weiß ich nicht, ob sie das gemacht hat. Ich wollte nur darauf
• 17:15
  Linus Neumann: hinweisen, dass eigentlich alle Politiker diese Plattform ja noch nutzen.
• 17:20
  Linus Neumann: Ja.
• 17:23
  Linus Neumann: Als Kontext muss man auch sagen, es werden irgendwie sehr viel weniger Deepfake-Pornos
• 17:27
  Linus Neumann: von Männern gemacht und wenn Männer dabei sind, dann sind sie nicht in der Hauptdarsteller.
• 17:33
  Linus Neumann: Das heißt, wir haben hier nicht nur sowieso ein ekelhaftes Phänomen,
• 17:38
  Linus Neumann: sondern auch noch eins, was ganz klar eine sexistische Komponente auch nochmal hat.
• 17:45
  Tim Pritlove: Ja, also vor allem auch antifeministische.
• 17:48
  Linus Neumann: Also völlig daneben. Ich denke, das ist auch sinnvoll,
• 17:53
  Linus Neumann: hier vernünftige gesetzliche Regelungen zu finden, die dafür angemessen hohe Strafen ermöglichen.
• 18:05
  Linus Neumann: Man muss halt schauen die Möglichkeit Accounts zu de-anonymisieren und Auskunftsrechte
• 18:14
  Linus Neumann: für Zivilverfahren es gibt eigentlich nur,
• 18:19
  Linus Neumann: es gibt ein sehr bekanntes in Anführungszeichen Zivilverfahren wo Auskunftsrechte
• 18:25
  Linus Neumann: massenhaft verwendet werden das sind Abmahnungen bei File-Sharing also ich will
• 18:29
  Linus Neumann: nur sagen das lässt sich halt potenziell industrialisieren,
• 18:34
  Linus Neumann: ich bin kein Jurist aber da muss man aufpassen, dass man hier vernünftige,
• 18:41
  Linus Neumann: und zielgerichtete Regelungen findet.
• 18:46
  Linus Neumann: Naheliegend wäre natürlich zu sagen, okay, man beschränkt das auf Deepfake-Verbreitung,
• 18:55
  Linus Neumann: aber wir wissen auch, dass dann bei dem nächsten Gesetz dann einfach in dem
• 19:00
  Linus Neumann: Paragrafen noch zwei, drei andere Straftatbestände hinzugefügt werden.
• 19:06
  Linus Neumann: Aber auf jeden Fall ist auch klar, dass wir den Status quo, wie er jetzt grassiert
• 19:13
  Linus Neumann: in den sozialen Medien, hier mit Grog, Zieh mal aus und sowas,
• 19:17
  Linus Neumann: dass man das so auf gar keinen Fall tolerieren kann und dass da was passieren muss.
• 19:23
  Tim Pritlove: Definitiv.
• 19:27
  Tim Pritlove: Also insbesondere jetzt nochmal durch diese Eskalation durch die KI-Generatoren,
• 19:32
  Tim Pritlove: die das auch wirklich echt auf elf drehen.
• 19:35
  Tim Pritlove: Also das war vorher schon problematisch, aber mittlerweile ist es halt einfach
• 19:39
  Tim Pritlove: durch diese niedrigen, quasi nicht vorhandenen Kosten zu einem super Problem geworden.
• 19:47
  Tim Pritlove: Wird sich sicherlich auch nicht vollständig einfangen lassen,
• 19:48
  Tim Pritlove: aber es ist zumindest angemessen, das dann auch entsprechend rechtlich zu verfolgen.
• 19:53
  Linus Neumann: Wir hatten hier vor einigen Folgen auch ein bisschen über die Rolle von GROC,
• 19:58
  Linus Neumann: dieser KI von Elon Musk, auch gesprochen,
• 20:03
  Linus Neumann: dass ein besonderes Problem natürlich ist, dass sie das überhaupt ermöglicht.
• 20:07
  Linus Neumann: Und dass dann die rechtliche Frage so war, dass die GROC-Leute gesagt haben, ja nee,
• 20:14
  Linus Neumann: also wenn die Leute was Illegales machen, waren es ja immer noch die Leute,
• 20:17
  Linus Neumann: Die haben ja ein illegales Prompt gegeben und da würde ich sagen,
• 20:20
  Linus Neumann: will ich auf jeden Fall mal das rechtlich schon ein bisschen umkehren und sagen, nee, nee,
• 20:26
  Linus Neumann: pass auf, also wenn du das nicht nur...
• 20:32
  Linus Neumann: Versehentlich mal jemand schafft, deine Sperren zu umgehen, sondern du das industrialisierst,
• 20:38
  Linus Neumann: memifizierst und dich daran erfreust, dass alle das machen,
• 20:41
  Linus Neumann: dann bist du Täter und eventuell, also sicherlich mit einer noch höheren Schuld
• 20:47
  Linus Neumann: beladen als die Menschen,
• 20:50
  Linus Neumann: die diese Prompts in einem schlechten Moment vielleicht auch einfach mal nur abgesetzt haben.
• 20:59
  Linus Neumann: Also ich spreche jetzt nicht von sowas, was Christian Ulm gemacht hat,
• 21:02
  Linus Neumann: aber du konntest ja auch irgendwie, was weiß ich, ist ein Bild und dann sagst
• 21:05
  Linus Neumann: du, ey, guck mal alle in Unterwäsche oder so.
• 21:08
  Linus Neumann: Und das ist, wenn da irgendwie Donald Trump und sonst was ist,
• 21:11
  Linus Neumann: dann ist das unter Umständen, kann das ja auch mal lustig sein.
• 21:14
  Linus Neumann: Ja, es wird aber in der Regel nicht mit Donald Trump gemacht,
• 21:16
  Linus Neumann: sondern mit, weiß ich nicht, linken AktivistInnen in der Regel dann oder so.
• 21:23
  Linus Neumann: Ja, schauen wir mal, was sie sich dagegen einfallen lassen. Ich bin mir sicher,
• 21:27
  Linus Neumann: es wird Handwerk nicht richtig gelungen sein, da müssen wir überhaupt nichts dran kritisieren.
• 21:31
  Tim Pritlove: Also bei der Exzellenz, die die Bundesregierung bisher auf den Tisch gelegt hat, denke ich auch.
• 21:37
  Linus Neumann: Könnte man den Kulturstaatsminister fragen, ob der nur eine gute Idee hat.
• 21:40
  Tim Pritlove: Das ist ja auch sehr kreativ. Ich denke, da können wir auch einfach mal vier
• 21:43
  Tim Pritlove: Wochen Pause machen. Da geht alles total supi ab.
• 21:47
  Linus Neumann: Aber diese Story, ey Mann, die arme Frau Fernandes, ja, also was für eine unglaubliche,
• 21:55
  Linus Neumann: was für ein Horror, absoluter Horror, also ganz, ganz,
• 22:00
  Linus Neumann: und wenn du findest, du siehst ja dann auch die Artikel, ne,
• 22:04
  Linus Neumann: wenn die Related, seit wie vielen Jahren die dieses Thema besetzt, ja.
• 22:09
  Tim Pritlove: Und die Lösung ist irgendwie next door.
• 22:12
  Linus Neumann: Next mattress. Ja.
• 22:17
  Tim Pritlove: Ja, ja. Gut. Was macht, unter der Abteilung, was kann man mit AI eigentlich alles so machen?
• 22:25
  Linus Neumann: Kann man auch was Vernünftiges mitmachen vielleicht?
• 22:27
  Tim Pritlove: Nämlich hacken. Hacken geht supi.
• 22:33
  Tim Pritlove: Da gibt es eine Bude, die heißt Codewell.
• 22:37
  Linus Neumann: Ich würde sagen Codewell.
• 22:38
  Tim Pritlove: Code Wall, Entschuldigung, Code Wall, sorry, nicht Code Wall.
• 22:41
  Tim Pritlove: Vielleicht kodieren sie auch gut, aber so haben sie sich nicht genannt, Code Wall, sorry.
• 22:47
  Tim Pritlove: Die haben sich so ein automatisiertes Hacker-Tool zusammengebaut,
• 22:52
  Tim Pritlove: so mit den gängigen Instrumenten, die einem jetzt ja ohne weiteres zur Verfügung stellen.
• 22:58
  Tim Pritlove: Und haben also diesen Agenten mal damit beauftragt, auch mal zu gucken,
• 23:03
  Tim Pritlove: ob nicht im Internet irgendwie was
• 23:05
  Tim Pritlove: zu holen ist und haben dann mal bei der Beraterfirma McKinsey angeklopft.
• 23:12
  Tim Pritlove: Großes Unternehmen, weltweit tätig, man kennt es.
• 23:16
  Linus Neumann: Extrem gut beleumdet, überall beliebt.
• 23:18
  Tim Pritlove: Ja, also auf jeden Fall schon mal von gehört.
• 23:24
  Tim Pritlove: Ja, und was hat dieses Tool dann gemacht? Dieses Tool war quasi ohne,
• 23:29
  Tim Pritlove: also sie haben es mit nichts gepreppt.
• 23:31
  Tim Pritlove: Sie haben es einfach mal nur so auf McKinsey angesetzt. Ich glaube,
• 23:34
  Tim Pritlove: es gab vorher sogar noch so einen Entscheidungsdialog, wo sie so gefragt haben,
• 23:38
  Tim Pritlove: wo könnte man denn mal anklopfen und da kam dann wohl McKinsey auch schon als
• 23:41
  Tim Pritlove: Vorschlag bei raus, warum auch immer.
• 23:43
  Tim Pritlove: Auf jeden Fall hat sich dann dieser AI-Agent mal genauer angeschaut,
• 23:48
  Tim Pritlove: wie es denn so mit dieser Online-Infrastruktur aussieht, die McKinsey so meint zu haben.
• 23:53
  Tim Pritlove: Und siehe da, die gesamte Dokumentation ihrer API, mit der sie so im Internet
• 23:58
  Tim Pritlove: hängen, mit ihren Systemen, die war auch verfügbar.
• 24:01
  Tim Pritlove: Hat sich die AI dann schön durchgelesen, mal durchanalysiert und festgestellt,
• 24:04
  Tim Pritlove: okay, von den gut 200 Endpoints, die da sind, sind so gut 10% nicht durch Zugangsregeln geschützt.
• 24:13
  Tim Pritlove: Und dann hat die AI auch gleich angefangen, sich das doch mal genauer anzuschauen
• 24:18
  Tim Pritlove: und ist da so iterativ vorgegangen und hat sich das also mal so angeklopft und
• 24:24
  Tim Pritlove: geschaut, was spuckt denn das System raus.
• 24:27
  Tim Pritlove: Naja, lange Rede, kurzer Sinn, relativ schnell, also dieser ganze Prozess hat
• 24:33
  Tim Pritlove: zwei Stunden gedauert und auf einmal war alles offen.
• 24:37
  Tim Pritlove: SQL-Injections wurden gefunden, mit pfiffigen Tricks wurde also dieses System
• 24:43
  Tim Pritlove: ausgehebelt und auf einmal lag alles da.
• 24:46
  Tim Pritlove: Und was man dann offengelegt hat, war so deren Intranet, was halt nicht nur
• 24:50
  Tim Pritlove: irgendwie eine Datenbank war, sondern selber auch ein AI-System.
• 24:54
  Tim Pritlove: Stellt sich raus, dass sie das also auf breiter Ebene intern zum Einsatz bringen
• 24:59
  Tim Pritlove: und dort lag dann irgendwie alles rum.
• 25:01
  Tim Pritlove: 46,5 Millionen Chatnachrichten, insgesamt 728.000 Dateien, also auch vertrauliches Zeug dabei,
• 25:10
  Tim Pritlove: 57.000 Nutzerkonten und mehr als noch das, also auch diese ganzen Dokumente, interne Studien,
• 25:17
  Tim Pritlove: also sozusagen einmal alles.
• 25:19
  Tim Pritlove: Das gesamte Wissen dieses Unternehmens, was sich in Daten abbildet,
• 25:23
  Tim Pritlove: über AI-Chatboards zugreifbar, die also offensichtlich von allen Mitarbeitern
• 25:29
  Tim Pritlove: auf diese Art und Weise auch mit genutzt wird.
• 25:32
  Tim Pritlove: Und, aber dabei blieb es gar nicht mal, auch die ganzen Prompts,
• 25:37
  Tim Pritlove: die ganzen System-Prompts, die Pre-Prompts, die in diesem System abgelegt sind,
• 25:41
  Tim Pritlove: um dann das Verhalten dieser ganzen Chatbots, mit denen man dann agiert,
• 25:45
  Tim Pritlove: die das bestimmen, waren halt auch offen und zwar nicht nur lesbar,
• 25:49
  Tim Pritlove: sondern auch schreibbar.
• 25:51
  Tim Pritlove: Mit anderen Worten, dieses System hätte nach zwei Stunden den gesamten Modus
• 25:55
  Tim Pritlove: Operandi von McKinsey quasi umstellen können.
• 25:58
  Tim Pritlove: Ich meine, da hätte man auch mal was Gutes tun können für die Welt.
• 26:00
  Tim Pritlove: Ja, also vielleicht, ja nee, guck mal nicht immer nur aufs Geld,
• 26:06
  Tim Pritlove: schau doch mal, dass da irgendwie auch sozial was da rauskommt.
• 26:08
  Linus Neumann: Spätestens wenn McKinsey empfiehlt, mehr Leute einzustellen,
• 26:11
  Linus Neumann: statt welche rauszuwerfen, wäre die Leute dann aber auch misstrauisch geworden.
• 26:16
  Tim Pritlove: Da muss ein Fehler sein.
• 26:21
  Tim Pritlove: Also das ist sozusagen also da waren halt viele klassische Fehler gemacht worden,
• 26:27
  Tim Pritlove: aber das Kernproblem jetzt an dieser Stelle ist während es früher,
• 26:31
  Tim Pritlove: sagen wir mal ausführliche Hacker-Skills brauchte, brauchst jetzt die zwar auch
• 26:35
  Tim Pritlove: noch in gewisser Hinsicht, aber auch vieles davon lässt sich jetzt auch schon,
• 26:40
  Tim Pritlove: automatisieren und wenn ich das richtig sehe,
• 26:42
  Tim Pritlove: beflügelt von dieser Meldung, habt ihr dann auch gleich zugeschlagen Ja.
• 26:47
  Linus Neumann: Ich will aber erst kurz noch ein bisschen, also so kurz diesen Fall einordnen.
• 26:53
  Linus Neumann: Also, was...
• 26:56
  Linus Neumann: Wie wird so ein Chatbot gebaut?
• 27:00
  Linus Neumann: Die Architektur. Also du hast...
• 27:02
  Tim Pritlove: Was ist jetzt der, der jetzt hier angegriffen hat? Oder das,
• 27:04
  Tim Pritlove: was da innerhalb von McKinsey läuft? Oder generell?
• 27:08
  Linus Neumann: Was, warum, du hast gesagt, da gab es eine API und dann gab es eine SQL-Injection.
• 27:14
  Linus Neumann: Das war, also was das Ding, was du da gesehen hast, ist im Prinzip eine Web-App.
• 27:20
  Linus Neumann: Also eine Web-Applikation, wie du sie schreibst, die die APIs bereitstellt,
• 27:28
  Linus Neumann: die ein Front-Interface hat im Frontend für die Userin, wo dann irgendwie drin
• 27:36
  Linus Neumann: steht, hier kannst was hintippen und wenn ich Enter drücke, dann wird das an die API geschickt. Und,
• 27:43
  Linus Neumann: Diese, also ein Mapping zwischen, die API hat 200 Endpunkte,
• 27:48
  Linus Neumann: das heißt in dem Fall 200 unterschiedliche Arten, wie man mit ihr interagieren kann.
• 27:52
  Linus Neumann: Das eine ist zum Beispiel, ich bin ein neuer Nutzer und ich möchte mich anmelden
• 27:57
  Linus Neumann: oder hier ist mein Passwort und ich bin jetzt angemeldet.
• 28:00
  Linus Neumann: All das ist immer ein API-Endpunkt, also eine Art, wie man da hinschreiben kann
• 28:04
  Linus Neumann: und dann ist natürlich auch so, ich habe eine authentifizierte Session und zwar
• 28:08
  Linus Neumann: in dem Chat 3 möchte ich jetzt folgende Nachricht schicken, das ist alles immer,
• 28:12
  Linus Neumann: ein Endpunkt, ich möchte ein Setting ändern, das ist auch ein Endpunkt,
• 28:15
  Linus Neumann: da kannst du wahrscheinlich dann mehrere Settings angeben oder so, so ist eine API.
• 28:21
  Linus Neumann: Konfiguriert oder strukturiert. Und jetzt gibt es natürlich an so einer API,
• 28:28
  Linus Neumann: das war das, was du gerade sagtest, 22 waren unauthenticated,
• 28:32
  Linus Neumann: obwohl sie es sein mussten.
• 28:34
  Linus Neumann: Das heißt, du konntest etwas tun, wozu du eigentlich in irgendeiner Weise eine
• 28:39
  Linus Neumann: Authentifizierung gebraucht hättest.
• 28:42
  Linus Neumann: Angemeldete Nutzerin sein oder vielleicht sogar angemeldete Administratorin sein.
• 28:47
  Linus Neumann: Habe ich jetzt eine Session als User? Habe ich eine Session am Backend als Admin?
• 28:52
  Tim Pritlove: Tür ohne Schluss.
• 28:54
  Linus Neumann: Das ist aber ein sehr, sehr häufiger Fehler bei komplexeren APIs,
• 28:59
  Linus Neumann: dass sie nicht sauber durchchecken, dass Mapping aus der Rolle,
• 29:06
  Linus Neumann: Authentisierung ist eine Sache, dann kommt ja auch noch Autorisierung.
• 29:10
  Linus Neumann: Das heißt, du bist angemeldet, wunderbar, du bist der Tim, du willst jetzt hier
• 29:15
  Linus Neumann: einen administrativen Befehl ausführen, deine Rolle erlaubt das aber nicht, weil du bist ja User.
• 29:22
  Tim Pritlove: Das erste ist, wer bist du, das zweite ist, was darfst du.
• 29:25
  Linus Neumann: Genau, und das passiert sehr häufig.
• 29:30
  Linus Neumann: Also es ist eine Schwachstelle, die man häufig findet und, das ist das Entscheidende,
• 29:33
  Linus Neumann: die hat überhaupt nichts zu tun mit der KI.
• 29:36
  Linus Neumann: Das ist also, diese Schwachstelle ist in dem Frontend, was die gebastelt haben,
• 29:41
  Linus Neumann: dass am Ende nämlich von der Architektur hast du dann die Web-App,
• 29:46
  Linus Neumann: da kann man sich anmelden, da kann man was hinschicken und irgendwo gibt es
• 29:48
  Linus Neumann: dann eben auch die so und so viel API-Endpunkte, die sagen, den Inhalt nehme
• 29:51
  Linus Neumann: ich jetzt, gib den an ein LLM,
• 29:54
  Linus Neumann: krieg die Antwort und gib die zurück.
• 29:59
  Linus Neumann: Da war jetzt offenbar einer dieser Endpunkte, hatte eine SQL-Injection.
• 30:03
  Linus Neumann: SQL-Injection, eine der wunderschönsten Schwachstellen, auch immer wieder sehr schön zu erklären.
• 30:08
  Linus Neumann: Wenn man mit einer Datenbank spricht, dann spricht man eine bestimmte Sprache.
• 30:13
  Linus Neumann: In diesem Fall die Structured Query Language, also eine Datenbanksprache.
• 30:19
  Linus Neumann: SQL ist besonders schön, weil es immer so ein bisschen schlechtes Englisch eigentlich
• 30:24
  Linus Neumann: ist Select so und so ja, so wie bei uns Select Sternchen from Bobby Drop Table.
• 30:35
  Linus Neumann: Und jetzt das Spannende daran ist und das ist wirklich warum SQL-Schwachstellen
• 30:42
  Linus Neumann: so schön sind um Security zu erläutern,
• 30:46
  Linus Neumann: wenn ich jetzt zum Beispiel sage, suche in der Tabelle Nutzer nach dem Nutzer Tim. Na?
• 30:54
  Linus Neumann: Das wäre jetzt etwas, was man im Zweifelsfall macht, wenn jemand sich als Tim anmeldet.
• 31:01
  Linus Neumann: Dann schickt da jemand hin. Als wäre möchtest du dich anmelden? Ja, als Tim. Okay.
• 31:07
  Linus Neumann: Suche in der Datenbank. Und dann sagt er wirklich, select User from table users where name equals Tim.
• 31:15
  Linus Neumann: So, das Tim, das war ja jetzt aber kontrolliert von...
• 31:20
  Linus Neumann: Von dem Angreifer oder von dem Nutzer. Was ist denn jetzt, wenn der Nutzer nicht
• 31:25
  Linus Neumann: Tim heißt, sondern Tim-Ausführungszeichen oben, Semikolon, lösche alles.
• 31:32
  Linus Neumann: Das wäre dann immer noch, wenn man das einfach aneinander packt,
• 31:37
  Linus Neumann: ein für die Datenbank valider Befehl, den sie auch ausführen würde.
• 31:42
  Linus Neumann: Und man muss also es ist offensichtlich nicht so einfach, kriegen ja die ganze
• 31:46
  Linus Neumann: Zeit Leute nicht hin man muss immer aufpassen, dass das was man an User Generated
• 31:51
  Linus Neumann: Input in einen anderen Kontext gibt, also an eine Datenbank,
• 31:56
  Linus Neumann: dass das dort in irgendeiner Weise sichergestellt wird, dass nicht der wahre
• 32:02
  Linus Neumann: Datenbankbefehl, den ich eigentlich beabsichtige,
• 32:05
  Linus Neumann: in seinem Kontext verändert wird und da gibt es eben diesen klassischen X-Case,
• 32:10
  Linus Neumann: die jetzt fällt mir die Nummer nicht ein, wo die Schule bei der Mutter anruft und sagt,
• 32:16
  Linus Neumann: ja, wir wollten mal fragen, ob der Sohn denn wirklich Anführungszeichen oben
• 32:21
  Linus Neumann: Semikolon Droptable Students heißt und oder ob er nicht vielleicht eine SQL-Injection gemacht hat.
• 32:29
  Linus Neumann: Also quasi diese Kontextänderungen.
• 32:34
  Linus Neumann: So funktioniert, darauf basieren relativ viele,
• 32:39
  Linus Neumann: Schwachstellen in der IT?
• 32:41
  Tim Pritlove: Exploits of a Mamm. 327.
• 32:44
  Linus Neumann: 327, musst du verlinken. Und die Gegenmaßnahme ist, dass man dann eben jeweils die Charaktere,
• 32:52
  Linus Neumann: also die, was weiß ich, Semikolon und so weiter, die eine besondere Bedeutung
• 32:56
  Linus Neumann: in der Sprache haben, in die du gerade reinpipest, dass du aufpasst,
• 32:59
  Linus Neumann: dass du die escapest oder sicherstellst,
• 33:02
  Linus Neumann: dass eben nicht jemand einfach die Datenbanksprache spricht in einem Feld,
• 33:09
  Linus Neumann: das die Datenbank auch interpretiert.
• 33:12
  Linus Neumann: Das war hier also die zweite klassische, wirklich ganz, ganz klassische Web-App-Schwachstelle,
• 33:20
  Linus Neumann: so aus den frühen 90ern oder so, als das erfunden wurde.
• 33:27
  Linus Neumann: Und.
• 33:30
  Linus Neumann: Der, insofern hat dieser Scanner von dieser Firma nur, nur in Anführungszeichen
• 33:39
  Linus Neumann: verhältnismäßig klassische Web-Schwachstellen gefunden.
• 33:45
  Linus Neumann: Damit ist er dann, auch das ist häufig der Fall, bei einer schlecht gehärteten
• 33:49
  Linus Neumann: Web-App, hat er dann die Möglichkeit gehabt, also erstmal Blinddaten zu extrahieren.
• 33:55
  Linus Neumann: Also er konnte Daten rauskriegen, aber musste halt ins Blinde stochern,
• 34:00
  Linus Neumann: bis er eine richtige Daten zurückbekommen hat. 15 Iterationen hat er gebraucht.
• 34:04
  Linus Neumann: Und dann konnte er eben, hat der Schreibzugriff auf Dateien in dem Web-Root
• 34:09
  Linus Neumann: und konnte dann die Web-App selber verändern und damit eben die AI-Write-Instructions, ne?
• 34:15
  Linus Neumann: Und damit hätte dann eben quasi äh der, die die KI auch anders antworten lassen, ne?
• 34:24
  Linus Neumann: So irgendwie so, keine Ahnung, und Antworten übrigens immer genau das Gegenteil
• 34:26
  Linus Neumann: von dem, was richtig ist oder so, ne? So kam.
• 34:32
  Linus Neumann: Man durch diesen Angriff auch auf die Chat-Messages, die nämlich diese Web-App
• 34:36
  Linus Neumann: zum Loggen irgendwo hingeschrieben hat.
• 34:41
  Linus Neumann: Und die Dateien und Dokumente waren im Zweifelsfall Sachen, die Leute da hochgeladen haben.
• 34:46
  Linus Neumann: Und die 57.000 User-Accounts würde ich jetzt mal aus der hohlen Hand schätzen,
• 34:55
  Linus Neumann: ist wahrscheinlich die aktuelle Anzahl Angestellter bei McKinsey,
• 34:58
  Linus Neumann: weil die das Ding wahrscheinlich an die Entra-ID angebunden hatten.
• 35:03
  Linus Neumann: Jedenfalls, natürlich war das bei uns in der Firma auch Thema,
• 35:06
  Linus Neumann: ja, und dann sagte unser CEO so, ja, der war früher bei McKinsey,
• 35:11
  Linus Neumann: sagte, ja, hier, sowas sollten wir auch mal machen, ja, und dann hat René,
• 35:15
  Linus Neumann: mein Kollege, gesagt, achso, ja, okay, wenn, dann mach ich das jetzt halt, ne, und hat, ähm,
• 35:25
  Linus Neumann: sich von einer anderen großen Firma.
• 35:30
  Linus Neumann: Den Chatbot angeschaut und da gibt's wieder eine sehr ähnliche Geschichte,
• 35:35
  Linus Neumann: ein öffentliches JavaScript-Asset, in dem die URL für das Backend drin stand.
• 35:41
  Linus Neumann: Also in dem JavaScript-Asset erkennst du, ah, alles klar, hier,
• 35:45
  Linus Neumann: da ist die Backend-API, du musst sie erstmal finden.
• 35:48
  Linus Neumann: Da konntest du dann dazu führen, dass du eine, wenn du einen nicht authentifizierten
• 35:55
  Linus Neumann: Get-Request gemacht hast, kam die Debug-Error-Page.
• 35:59
  Linus Neumann: Also die Web-App lief im Debug-Modus. Was man auch nicht tun soll,
• 36:04
  Linus Neumann: aber auch ein sehr klassischer Fehler,
• 36:06
  Linus Neumann: weil in dem Debug-Modus gibt die Web-App bei einem Fehler, in diesem Fall,
• 36:11
  Linus Neumann: du verstößt ja dagegen, sagst, hier ist ein unauthenticated Get-Request.
• 36:16
  Linus Neumann: Und dann kriegst du aber die Debug-Error-Page, die einfach den kompletten State
• 36:20
  Linus Neumann: und alles droppt, in dem die App sich gerade befindet, damit die Programmiererin
• 36:25
  Linus Neumann: herausfinden kann, wo er halt gelegen.
• 36:28
  Linus Neumann: Und das hat die Web-App, die Debug-Page hat alle Environment-Variablen mit ausgegeben,
• 36:36
  Linus Neumann: weil an jeder davon kann es ja liegen.
• 36:38
  Linus Neumann: Und zu den Environment-Variablen gehörte Username Admin und Passwort Admin at 123.
• 36:47
  Tim Pritlove: Oh Gott, nein.
• 36:49
  Linus Neumann: Du hättest jetzt noch nicht mal, du hättest jetzt noch nicht mal Hätten.
• 36:53
  Tim Pritlove: Sie nicht Bonobo.
• 36:53
  Linus Neumann: 2342 Ja, das hätte man natürlich erkannt, okay.
• 36:58
  Tim Pritlove: Das war wirklich Anfänger.
• 37:01
  Linus Neumann: Du hättest tatsächlich in der Wikipedia-Liste der am häufigsten verwendeten
• 37:06
  Linus Neumann: Passwörter, das ist 19, ja, du hättest dir den ganzen Ärger gar nicht machen
• 37:10
  Linus Neumann: müssen, René, also René Rehme.
• 37:14
  Linus Neumann: So, dann konnte er natürlich, jetzt gehst du einfach hin und sagst,
• 37:17
  Linus Neumann: alles klar, jetzt bin ich Admin, kannst dich an das Admin-Panel anmelden,
• 37:19
  Linus Neumann: eine ganz normale Standard-Jungo-App Admin Panel.
• 37:22
  Linus Neumann: Dann hat das Ding aber auch gelockt,
• 37:25
  Linus Neumann: die OAuth-Tokens von den Authentifizierungen.
• 37:29
  Linus Neumann: Also wenn jemand da hingeht und sagt, hallo, ich bin so und so at,
• 37:32
  Linus Neumann: nicht McKinsey, sondern andere Firma.
• 37:37
  Tim Pritlove: Die zwischenzeitlich ausgegebenen Passierscheine.
• 37:40
  Linus Neumann: Genau. Und mit denen konntest du dich wiederum dann, weil die von einem Entra-ID kamen,
• 37:45
  Linus Neumann: mit denen konntest du dich dann wiederum an dem Microsoft Graph anmelden und
• 37:50
  Linus Neumann: die anderen das Entra-ID querien, in dem Fall 3,2 Millionen User-Accounts. Ein bisschen mehr.
• 37:56
  Tim Pritlove: Okay.
• 37:58
  Linus Neumann: Ein bisschen mehr als bei McKinsey.
• 38:01
  Linus Neumann: Und also diese ganzen, also alle Chat-Logs und alle Dateien und auch die Pre-Promts,
• 38:09
  Linus Neumann: das liegt halt in dieser Web-App drin. Wo soll es auch sonst liegen?
• 38:12
  Linus Neumann: Also wirklich sehr parallel. Diesmal halt nur von einem Menschen gemacht.
• 38:18
  Linus Neumann: Ich weiß nicht genau, wie lange René gebraucht hat.
• 38:21
  Linus Neumann: Üblicherweise braucht der nicht lange. Er hat dann noch mit Nina,
• 38:27
  Linus Neumann: also im gleichen Team, dann diesen Kram gemacht, an dem Entra-ID rumgetrommelt,
• 38:34
  Linus Neumann: um da die User-Accounts rauszuholen.
• 38:37
  Linus Neumann: Und dann haben Matthias, also Kantorkel und ich noch einen kleinen Blogpost
• 38:44
  Linus Neumann: dazu geschrieben und vor allem die Responsible Disclosure gemacht.
• 38:49
  Tim Pritlove: Also Bescheid gesagt.
• 38:51
  Linus Neumann: Wir haben dann doch Bescheid gesagt, ja. Also ich kannte jemanden bei der Firma
• 38:56
  Linus Neumann: und hab dann gesagt so, hast du mal Zeit?
• 38:59
  Linus Neumann: Und dann, ja, morgen hab ich Zeit, da hab ich angerufen und dann wurde ich weggedrückt
• 39:03
  Linus Neumann: und dann hab ich so gesagt, ey, hast du mal Zeit?
• 39:06
  Linus Neumann: Wir müssen über diesen McKinsey-Chatbot reden. Im weitesten Sinne.
• 39:11
  Linus Neumann: Und dann war das dann relativ schnell gefixt.
• 39:16
  Linus Neumann: So, was das andere Thema hier ist, ähm,
• 39:21
  Linus Neumann: Also wir haben, genau, erstmal, warum passiert das? Na klar,
• 39:25
  Linus Neumann: da werden hastig irgendwelche Web-Apps gestrickt, damit man KI hat.
• 39:30
  Linus Neumann: Und die Aufmerksamkeit, was man dann absichert, die ist natürlich bei der KI.
• 39:34
  Linus Neumann: Und nicht, wir machen irgendwie eine scheiß Web-App, wir haben ja schon 100.000
• 39:38
  Linus Neumann: Web-Apps gemacht, die coden wir einfach schnell runter.
• 39:41
  Linus Neumann: Aber es ist eben wirklich nicht, also jetzt komme ich wieder auf den Fall von McKinsey,
• 39:47
  Linus Neumann: wenn die App erstmal oder wenn die API erstmal genug Verzweigungen hat,
• 39:52
  Linus Neumann: dann kommst du relativ schnell an den Punkt….
• 39:58
  Linus Neumann: Dass du nicht mehr die ganze Zeit kontrollierst, ob du an dem Request,
• 40:03
  Linus Neumann: der jetzt gerade kommt, ob alle Vorbedingungen auch wirklich erfüllt sind.
• 40:07
  Linus Neumann: Also, ist der Nutzer authentifiziert? Ist der Nutzer autorisiert?
• 40:12
  Linus Neumann: Ergibt sich das aus dem Kontext? Hat der mir alle Informationen gegeben,
• 40:15
  Linus Neumann: die ich erzwingen muss, damit er das jetzt überhaupt darf? und so.
• 40:19
  Linus Neumann: Diese Fehler passieren wirklich am laufenden Band und deswegen ist,
• 40:23
  Linus Neumann: sag ich mal, ein Browser mit einer Burp Suite auch so ein Gift that keeps on giving.
• 40:30
  Linus Neumann: Also im Prinzip ein Tool, was dafür gedacht ist, sehr gezielt in den Traffic
• 40:39
  Linus Neumann: zu schauen, in die APN-Punkte, in das, was da geschickt wird.
• 40:43
  Linus Neumann: Dann kannst du so, weiß nicht, wenn irgendwas Base64 ist, kannst du direkt sagen,
• 40:47
  Linus Neumann: in die, encode das mal und vor allem kannst du Requests wiederholt schicken
• 40:50
  Linus Neumann: oder da so ein bisschen durchproben.
• 40:53
  Linus Neumann: Ja, ein Tool, was genau solche, es gibt eine API, die ich nicht kenne,
• 40:57
  Linus Neumann: ich klimper da jetzt mal durch und ich versuch mal dieses und jenes,
• 41:00
  Linus Neumann: ich automatisiere das durch, iteriere das mal und ach, zack, SQL Injection.
• 41:05
  Linus Neumann: Also, dass eine KI das hinbekommt, ist erstmal nicht extrem überraschend,
• 41:14
  Linus Neumann: weil es sehr alte, klassische 90er-Jahre-Schwachstellen sind,
• 41:19
  Linus Neumann: aber in einem, eben in einer komplett neuen Web-App.
• 41:24
  Linus Neumann: Also will man jetzt auch nicht schlecht reden und zwei Stunden ist auf jeden
• 41:27
  Linus Neumann: Fall auch eine sehr stabile Zeit.
• 41:31
  Tim Pritlove: Im Sinne von gut. Schnell.
• 41:33
  Linus Neumann: Das ist schon relativ schnell, ja. Aber wenn man nach dieser Sache gezielt sucht,
• 41:39
  Linus Neumann: dann braucht man vielleicht auch nicht viel länger mit einer ganz guten Toolchain
• 41:44
  Linus Neumann: und ein bisschen Erfahrung.
• 41:45
  Linus Neumann: Aber trotzdem ist es natürlich spannend, dass das Ding das getan hat.
• 41:50
  Linus Neumann: Oder dass das Ding das geschafft hat.
• 41:55
  Linus Neumann: Der nächste Punkt war natürlich, die AI, also das Modell oder die Modellee dahinter
• 42:02
  Linus Neumann: hat Zugriff auf alle Daten.
• 42:06
  Linus Neumann: Auch das ist,
• 42:09
  Linus Neumann: jetzt eigentlich so ein Security-Architecture-Paradigmen-Wechsel,
• 42:14
  Linus Neumann: der da eigentlich gerade stattfindet.
• 42:18
  Linus Neumann: Früher würdest du sagen, hier gibt es die Web-App.
• 42:22
  Linus Neumann: Die Web-App prüft die Autorisierung der Nutzerin und führt dann die Aktion durch.
• 42:30
  Linus Neumann: Nehmen wir ein einfaches, ich nehme jetzt WordPress mal als Beispiel,
• 42:34
  Linus Neumann: weil ja Logbuch Netzpolitik auch auf WordPress gehostet ist.
• 42:37
  Linus Neumann: Das WordPress selber hat auch nur eine Datenbank User Credential.
• 42:44
  Linus Neumann: Das heißt, das WordPress selber kann jederzeit alles löschen.
• 42:49
  Linus Neumann: Das heißt, die Prüfung von Authentisierung und Autorisierung findet in der PHP-Logik
• 42:55
  Linus Neumann: von dem WordPress statt.
• 42:58
  Linus Neumann: Und wenn man da jetzt als, was weiß ich, als Visitor ist oder als User oder
• 43:05
  Linus Neumann: als Admin oder die unterschiedlichen Rollen, das macht alles das WordPress.
• 43:09
  Linus Neumann: Und wenn irgendetwas da falsch ist und du irgendwo in dem WordPress Frontend
• 43:13
  Linus Neumann: beispielsweise einen Fehler hast und eine SQL-Ejection ermöglichst,
• 43:18
  Linus Neumann: dann wird das sofort mit dem höchst privilegierten User üblicherweise in dem
• 43:25
  Linus Neumann: WordPress-Kontext mindestens.
• 43:27
  Linus Neumann: Also du hast Zugriff auf das komplette WordPress.
• 43:31
  Linus Neumann: Oder wenn du halt das schlechte, das falsche Tutorial auf Stack Overflow gelesen
• 43:35
  Linus Neumann: hast, eben mit Root gemacht.
• 43:38
  Linus Neumann: Und wenn der User in der Datenbank wiederum nicht ordentlich beschnitten ist,
• 43:42
  Linus Neumann: dann kann der potenziell auch Code exekuten.
• 43:45
  Linus Neumann: Also auch hier hast du im Prinzip das WordPress hat zu viele Rechte je nachdem
• 43:51
  Linus Neumann: in welchem Kontext du dich in dem WordPress befindest und wenn das seine Authentisierung
• 43:54
  Linus Neumann: und Autorisierung nicht ordentlich macht dann hat es eben zu viel Zugriff diesen,
• 44:00
  Linus Neumann: Setup oder dieser Grundgedanke wird jetzt auch bei den KIs wiederholt dass man
• 44:05
  Linus Neumann: der KI nämlich sagt naja okay natürlich kriegst du alle Daten.
• 44:09
  Linus Neumann: Wäre ja auch viel zu anstrengend, die nicht zu geben. Aber pass mal bitte auf,
• 44:14
  Linus Neumann: hier sind Daten, da schreiben wir dir jetzt eine Regel, das darfst du den Leuten nicht sagen.
• 44:20
  Linus Neumann: Und dann versucht man in der KI in irgendeiner Weise das Rollenkonzept umzusetzen
• 44:26
  Linus Neumann: und hofft, dass sie sich dran hält.
• 44:28
  Tim Pritlove: Wo man sich nicht so richtig drauf verlassen kann.
• 44:33
  Linus Neumann: Das geht natürlich regelmäßig schief, weil die Grundanforderung dafür eigentlich
• 44:39
  Linus Neumann: ist, dass du die Daten die die KI da so zugreift, vernünftig labelst.
• 44:45
  Linus Neumann: Und dann könnte, dann wäre es zumindest theoretisch möglich,
• 44:47
  Linus Neumann: dass die KI sagt, ja okay, das darf der, das ist eine Information,
• 44:52
  Linus Neumann: die ist für diesen Nutzer, der jetzt da gerade zugreift, nicht geeignet. Ja?
• 44:58
  Linus Neumann: Aber jetzt stell dir mal vor, du lässt so ein Ding, und das macht ja zum Beispiel
• 45:01
  Linus Neumann: Microsoft Copilot, wir hatten das hier über, vor, weiß nicht,
• 45:04
  Linus Neumann: wahrscheinlich ein paar Monaten mal besprochen.
• 45:07
  Linus Neumann: Wenn du jetzt so ein Microsoft Copilot anmachst, dann nehmen die ihr LLM und
• 45:11
  Linus Neumann: lassen das einmal den Sharepoint lesen.
• 45:13
  Linus Neumann: Und wenn du dann sagst, ich brauche mal Dateien, in denen dieses oder jenes
• 45:15
  Linus Neumann: drinsteht oder so, dann sagt er dir, hier sind die Dateien.
• 45:19
  Linus Neumann: Du kannst aber auch einfach sagen, hör mal, wie waren denn einfach die Zahlen im letzten Quartal?
• 45:24
  Linus Neumann: Und dann kriegst du potenziell eben auch eine Antwort, wenn sich nicht vorher
• 45:29
  Linus Neumann: die Mühe gemacht wurde, diese Daten zu labeln.
• 45:32
  Linus Neumann: Jetzt hast du aber natürlich insbesondere in Dateien hast du ja potenziell,
• 45:37
  Linus Neumann: wenn jetzt ein Word-Dokument ist, 20 Seiten, dann ist da potenziell,
• 45:41
  Linus Neumann: das ganze Dokument ist relativ irrelevant und ein kleines Faktum da drin ist ein Problem.
• 45:46
  Linus Neumann: Oder willst du geheim halten? Dein LLM weiß das aber.
• 45:49
  Linus Neumann: Und wenn du jetzt die Daten nicht so gegeben hast, dass das LLM das nicht,
• 45:53
  Linus Neumann: dass es weiß, dass es das gibt und aber außerdem immer auch präsent hat,
• 45:57
  Linus Neumann: das darf ich jemand anders nicht sagen.
• 45:59
  Linus Neumann: Und ich kann nicht sagen, Ich kann nicht sagen, dass ich da bisher schon eine
• 46:04
  Linus Neumann: architektonisch überzeugende Lösung gefunden habe, wo ich sage,
• 46:07
  Linus Neumann: das ist langfristig tragfähig.
• 46:12
  Linus Neumann: So.
• 46:16
  Linus Neumann: Und ich diskutiere über solche Architekturen öfter mal mit Leuten,
• 46:21
  Linus Neumann: wo auch jemand sagte, ich glaube das habe ich dir vielleicht sogar schon mal
• 46:25
  Linus Neumann: erzählt, der sagte ja auch so, wir machen jetzt hier KI und Pipapo und alle
• 46:29
  Linus Neumann: Daten Lake und alles Modelle davor und so.
• 46:31
  Linus Neumann: Und ich hab gesagt, ey, Junge, du hast deine Karriere da mitverbracht,
• 46:34
  Linus Neumann: dieses Unternehmen zu segregieren, Nutzerrechte und alles zu machen.
• 46:40
  Linus Neumann: Firewalls, hier, da und so. Und jetzt geht ihr hin und kippt alles auf einen
• 46:45
  Linus Neumann: Haufen und haut eine nicht-deterministische KI davor.
• 46:50
  Linus Neumann: Klingt erstmal.
• 46:54
  Linus Neumann: Ungewöhnlich. Ungewöhnliche Situation.
• 46:59
  Linus Neumann: Und die Antwort war, Ja, ist richtig, aber das alte Konzept,
• 47:04
  Linus Neumann: alles zu segregieren und authentifizieren und so rollenbasiert und so weiter,
• 47:08
  Linus Neumann: hat ja auch nicht funktioniert.
• 47:11
  Linus Neumann: Insofern, jetzt hat man wenigstens eine zentrale Stelle, an der man Authentisierung,
• 47:18
  Linus Neumann: Autorisierung prüfen und auch zentral nachschärfen kann und an der man an einer
• 47:24
  Linus Neumann: Stelle kontrollieren kann.
• 47:25
  Linus Neumann: Du hast einen architektonischen Vorteil, dass sich deine Kontrollen nicht dezentral
• 47:31
  Linus Neumann: über irgendwelche Requests in einem Netzwerk bewegen, aber die Komplexität von Zugriffsrechten,
• 47:41
  Linus Neumann: Zugriffen und Rollen.
• 47:47
  Linus Neumann: Wird unglaublich schnell so kompliziert, dass du da am laufenden Band Probleme hast.
• 47:52
  Linus Neumann: Und das Beispiel, was wir hier haben, ist ja nur eine Web-App.
• 47:56
  Linus Neumann: Da hast du ja wenigstens noch einen endlichen, also eine endliche Anzahl von
• 48:02
  Linus Neumann: Regeln, die du prüfst in einer gegebenen Situation.
• 48:04
  Linus Neumann: Und da kriegst du schon nicht hin, wo es ein formal endlicher,
• 48:11
  Linus Neumann: also zumindest theoretisch endliche Menge an Regeln ist, die in unterschiedlichen
• 48:16
  Linus Neumann: Kontexten zum Tragen kommen.
• 48:18
  Linus Neumann: Also die gesamte Web-App ist ja immer noch deterministisch.
• 48:22
  Linus Neumann: So, jetzt hast du aber eine KI und du weißt ja gar nicht, in was für Kontexte
• 48:27
  Linus Neumann: und Zustände Leute die bringen,
• 48:30
  Linus Neumann: wo du jetzt sagst, okay, ein Nutzer vom Stande der normalen Mitarbeiterinnen
• 48:39
  Linus Neumann: darf niemals die Quartalszahlen sehen.
• 48:45
  Linus Neumann: Und du hast aber relativ schnell eine, dass du sagst, wenn das Haus brennt,
• 48:51
  Linus Neumann: muss der Nutzer hier raus oder so.
• 48:53
  Linus Neumann: Dass du sehr schnell in Situationen kommst, wo du den Kontext nicht mehr vollständig überblicken kannst.
• 49:00
  Linus Neumann: Und es ist wirklich eine große Herausforderung, die ich glaube,
• 49:06
  Linus Neumann: die wirklich, weil ja erkennbar nun die Zeiten vorbei sind,
• 49:15
  Linus Neumann: dass wir Programme schreiben und das ist gerade alles vorbei,
• 49:20
  Linus Neumann: das sind hier die Beispiele.
• 49:21
  Linus Neumann: Dass die Leute bei McKinsey hingehen und sagen, was kostet das hier,
• 49:24
  Linus Neumann: zack, alles kippt drauf, zack, bumm, machst eine Django-App davor oder was und dann gib ihm.
• 49:30
  Linus Neumann: Das findet gerade überall auf der Welt statt. Und tatsächlich glaube ich,
• 49:36
  Linus Neumann: dass jetzt wirklich IT-Sicherheit und Security.
• 49:42
  Linus Neumann: Safety, Qualitätskontrolle, all das, das muss jetzt noch sich entwickeln,
• 49:49
  Linus Neumann: was die brauchbaren Controls, in diesen Situationen sind.
• 49:54
  Linus Neumann: Ich glaube, dass die Lösung sein wird,
• 49:59
  Linus Neumann: dass du wiederum zwischen das, was die KI macht und die Daten im Prinzip wieder
• 50:08
  Linus Neumann: irgendwelche Controls machst,
• 50:10
  Linus Neumann: APIs, auf denen du monitorst und guckst, okay, was haben wir am einen Ende,
• 50:17
  Linus Neumann: was macht die gerade, Darf die das überhaupt? Ergibt sich das gerade aus dem Kontext?
• 50:23
  Linus Neumann: Aber eine belastbare Implementierung, die universell funktionieren kann,
• 50:30
  Linus Neumann: wie man das immer noch gerade zumindest theoretisch hinkriegt mit deterministischen
• 50:34
  Linus Neumann: Systemen, wo es ja auch schon nicht klappt.
• 50:37
  Linus Neumann: Und das sehe ich jetzt für nicht-deterministische AIs umso weniger.
• 50:41
  Linus Neumann: Also ich glaube, die Lösung wird sein, A, B.
• 50:47
  Linus Neumann: Dem Ding APIs zu geben, auf denen man irgendwie kontrolliert Regeln auf den
• 50:54
  Linus Neumann: Informationsfluss wieder setzen kann.
• 50:58
  Linus Neumann: Und andererseits KIs zu nehmen, die nicht zu klug sind für ihre Aufgabe.
• 51:02
  Linus Neumann: Das war ja hier dieses Beispiel mit dem, was wir hier vor einiger Zeit auch
• 51:07
  Linus Neumann: besprochen hatten, dieses Anthropic-Experiment, wo die Automaten betrieben hat.
• 51:14
  Linus Neumann: Und wo der dann auf einmal einen Controller bekommen hat und dann haben die
• 51:16
  Linus Neumann: sich nachts über transzendentale Philosophie unterhalten. Super.
• 51:22
  Tim Pritlove: Was machst du am Watercooler?
• 51:26
  Tim Pritlove: Das ist wie im richtigen Leben, Linus.
• 51:30
  Linus Neumann: Aber das sind auch genau die gefährlichen Leute.
• 51:34
  Tim Pritlove: Ja. man muss auch sehen, was dieses McKinsey-Beispiel betrifft, was ich jetzt.
• 51:44
  Linus Neumann: Ich lege Wert auf die Festlegung, dass die beiden Beispiele sehr ähnlich sind.
• 51:50
  Tim Pritlove: Ja, ja, aber jetzt, also ja, okay, gut, wie auch immer, also unabhängig davon, wer es ist,
• 51:57
  Tim Pritlove: also auf der einen Seite kann man feststellen, es gibt jetzt einen großen Run
• 52:01
  Tim Pritlove: auf Adoption dieser Systeme, weil sie natürlich einen offensichtlichen Nutzen haben.
• 52:06
  Tim Pritlove: Und was Security betrifft, haben wir immer dieses Problem,
• 52:09
  Tim Pritlove: Security ist irgendwie anstrengend, weil es macht die Sachen dann unkomfortabel
• 52:13
  Tim Pritlove: im Zugriff und alle wollen immer komfortabel im Zugriff haben und das hat immer
• 52:16
  Tim Pritlove: dazu geführt, dass Passwörter einfach waren oder eben umgangen wurden oder man
• 52:22
  Tim Pritlove: dachte, das passt schon irgendwie.
• 52:23
  Tim Pritlove: Das ist immer dieses Race zwischen Convenience und Security.
• 52:31
  Tim Pritlove: Und jetzt haben wir halt diesen Run auf diese AI-Systeme, die so verheißungsvoll
• 52:35
  Tim Pritlove: sind und das ist ja so nützlich und in gewisser Hinsicht sind wir in dieser
• 52:39
  Tim Pritlove: ganzen Adoptionsphase, die jetzt unvermeidbar ist, im Mittelalter angekommen.
• 52:45
  Tim Pritlove: Und man haut jetzt erstmal alles zusammen und ach guck mal, läuft schon, super.
• 52:52
  Tim Pritlove: Und die offensichtlich erforderlichen Mitigationen dieser Security-Probleme,
• 53:00
  Tim Pritlove: die halt also ein sehr viel mehr so ein Schichtenmodell erfordert,
• 53:04
  Tim Pritlove: wo sich immer wieder KI mit so einem deterministischen System abwechseln muss,
• 53:09
  Tim Pritlove: das sind Architekturen, die müssen sich jetzt erst herausbilden.
• 53:11
  Tim Pritlove: Und da brauchst du auch noch Erfahrungen, da brauchst du auch noch neue Software,
• 53:14
  Tim Pritlove: neue Erkenntnisse und vor allem auch Einsichten bei diesem Unternehmen.
• 53:18
  Tim Pritlove: Die Unternehmen sollten aber auch vor allem bedenken, das gilt ja jetzt nicht
• 53:22
  Tim Pritlove: nur für so große Unternehmen, sondern auch für kleinere Unternehmen,
• 53:25
  Tim Pritlove: die das vielleicht jetzt genauso als Chance sehen, was es ja auch sein kann.
• 53:30
  Tim Pritlove: Dass umso mehr man eben auf diesen Haufen kippt und umso mehr man da reinwirft.
• 53:36
  Tim Pritlove: Bisher sind so Datenbanken verloren gegangen, die Kunden waren weg oder die
• 53:40
  Tim Pritlove: Auftragsliste oder sowas und das ist alles schon ganz schön schlimm.
• 53:44
  Tim Pritlove: Aber was ja McKinsey und all diese Unternehmen, die jetzt ihr ganzes Firmenwissen
• 53:49
  Tim Pritlove: da reinkippen, auch noch mit rausgeben, ist, dass sie auch noch ihren kompletten Modus operandi,
• 53:56
  Tim Pritlove: auch ihre Einstellung und ihre Ziele und ihre Methoden und sogar auch noch ihre
• 54:03
  Tim Pritlove: ganzen geheimen Arten und Weisen, wie sie vorgehen,
• 54:08
  Tim Pritlove: ihre ganzen Konspirationen auch noch gleich dem Netz überantworten und auslesbar machen.
• 54:14
  Tim Pritlove: Also Maschinenlesbarkeit bekommt auf einmal nochmal eine ganz andere Dimension,
• 54:18
  Tim Pritlove: weil die Maschinen es nicht nur lesen können, sondern dass diese Maschinen auch
• 54:21
  Tim Pritlove: noch sehr viel mehr aus diesen Informationen herauslesen können,
• 54:24
  Tim Pritlove: als es früher war und das macht die Sache natürlich noch dringender,
• 54:28
  Tim Pritlove: dass man hier fünfmal darüber nachdenkt, wie man seine Security-Architektur gestaltet.
• 54:34
  Linus Neumann: Man muss gerade kurz zwei Dinge noch eben trennen.
• 54:41
  Linus Neumann: Und diese Hacks, das ist ja das, also das ist das, sag ich mal,
• 54:45
  Linus Neumann: auf der Meta-Ebene Interessante daran, die haben überhaupt nichts mit der AI zu tun.
• 54:53
  Linus Neumann: Das ist das Erste. Das heißt, wir bauen was Neues und machen immer noch die
• 54:56
  Linus Neumann: Fehler aus den Neuen zu haben.
• 54:57
  Tim Pritlove: Also nicht mit deren AI, aber schon mit den Tools, die jetzt in der Lage sind,
• 55:00
  Tim Pritlove: schneller herauszufinden.
• 55:01
  Linus Neumann: Ja, also das finde ich, muss ich wirklich sagen, das finde ich noch nicht so,
• 55:07
  Linus Neumann: noch nicht ganz so beeindruckend.
• 55:08
  Linus Neumann: Das sind wirklich Dinge, die sind...
• 55:11
  Tim Pritlove: Du findest das nicht so beeindruckend, aber ich glaube, das ist schon ganz schön beeindruckend.
• 55:16
  Linus Neumann: Ja, das mag sein, dass es für jemanden, der es nicht selber kann,
• 55:20
  Linus Neumann: ist es immer beeindruckend.
• 55:23
  Linus Neumann: Aber diese... Würdest du... unter der Annahme, dass die KI irgendwann mal ein
• 55:29
  Linus Neumann: Buch über IT-Security gelesen hat, in ihrer mehrmonatigen Trainingsphase, wo irgendwie so ein,
• 55:36
  Linus Neumann: paar Boote in dieser Meerstraße von Honduras oder wo,
• 55:44
  Linus Neumann: verbrannt wurden.
• 55:45
  Tim Pritlove: Hommus.
• 55:46
  Linus Neumann: Ja. Ich wollte ja nur mal hier wieder meine geografische, mit meiner geografischen
• 55:53
  Linus Neumann: Unkenntnis kokettieren.
• 56:00
  Linus Neumann: Unter der Annahme, dass sie jemals gelesen hat, was häufige Fehler sind,
• 56:05
  Linus Neumann: finde ich es jetzt nicht überraschend, dass sie, wenn sie mit einer API,
• 56:11
  Linus Neumann: konfrontiert ist und vor allem die vollständige API-Dokumentation kriegt,
• 56:15
  Linus Neumann: dass sie die systematisch durchklimpert.
• 56:18
  Linus Neumann: Es ist auch nicht überraschend, dass sie SQL-Injections versucht,
• 56:25
  Linus Neumann: Schön, ich würde jetzt vermuten, beeindruckend ist sicherlich,
• 56:28
  Linus Neumann: dass sie das wahrscheinlich auch nur bei den Endpunkten gemacht hat,
• 56:30
  Linus Neumann: wo die Vermutung nahe liegt, dass das überhaupt etwas ist, was in Richtung einer Datenbank geht.
• 56:36
  Linus Neumann: Das wäre so die erste Sache und an der kurzen Zeit sieht man schon,
• 56:40
  Linus Neumann: dass sie es im Zweifelsfall auch gemacht hat.
• 56:44
  Linus Neumann: Ähm aber das Niveau also,
• 56:49
  Linus Neumann: weißt du, es ist noch nicht das Level von hier, das Ding hat als Großmeister.
• 56:54
  Linus Neumann: Im Go auf einmal Züge gemacht, die keiner kannte und die völlig irrsinnig erschienen,
• 57:01
  Linus Neumann: aber dann am Ende gewonnen weil, das Level ist es noch nicht.
• 57:05
  Tim Pritlove: Aber ich glaub, so weit sind wir da auch nicht von entfernt also das kommt,
• 57:11
  Tim Pritlove: glaub ich noch alles in dieser Dekade.
• 57:14
  Linus Neumann: Der andere Aspekt, das war das zweite, was du gerade sagtest,
• 57:19
  Linus Neumann: jetzt kippen die alle ihre Daten da rein,
• 57:22
  Linus Neumann: es würde mich wundern, wenn diese KI, die da am, wo diese Web-App am Ende hingepipt
• 57:29
  Linus Neumann: hat, jetzt irgendwie, was weiß ich, beim McKinsey-KI war.
• 57:33
  Linus Neumann: Das war wahrscheinlich, also war doch dann wahrscheinlich entweder irgendwas
• 57:37
  Linus Neumann: von Google Gemini, von OpenAI oder von Anthropic, würde ich jetzt mal...
• 57:42
  Tim Pritlove: Gehostet das System meinst du?
• 57:44
  Linus Neumann: Ja, also wäre jetzt meine Erwartung.
• 57:53
  Linus Neumann: Und dann wird ja dieser Aspekt, den du gerade nanntest mit dem,
• 58:02
  Linus Neumann: wir müssen jetzt noch die Architekturen dafür finden, alles richtig,
• 58:09
  Linus Neumann: Während wir an den gelösten Problemen von vor 20, 30 Jahren scheitern.
• 58:16
  Linus Neumann: Das würde ich da nur noch kurz hinzufügen.
• 58:24
  Tim Pritlove: Es bleibt unterhaltsam auf jeden Fall.
• 58:26
  Linus Neumann: Achso, hier muss ich noch sagen, wir haben ja unter unserem Blogpost noch geschrieben,
• 58:30
  Linus Neumann: wer Lust hat, in einem solchen Team zu arbeiten, kann ja gerne mal sich bei uns melden.
• 58:36
  Tim Pritlove: Ich dachte, man wird da jetzt auch von der KI dann abgelöst demnächst.
• 58:42
  Linus Neumann: Also kann ich mich jetzt nicht zu äußern, die hören ja vielleicht zu.
• 58:49
  Linus Neumann: Also,
• 58:51
  Linus Neumann: glaube ich, ist jetzt kein Geheimnis, dass dieser KI, diese KI-Entwicklung natürlich
• 58:58
  Linus Neumann: im Bereich der IT und auch der IT-Security.
• 59:04
  Linus Neumann: Klar, dieses Beispiel, das Ding macht da in zwei Stunden so eine Web-App auf.
• 59:09
  Linus Neumann: Als Vergleich würde ich schon denken, dass man an sowas am Ende dann doch eine
• 59:15
  Linus Neumann: Woche Pentester gehabt hätte.
• 59:18
  Linus Neumann: Und das ist natürlich schon die Dimensionen, die zeitlichen Dimensionen sind
• 59:23
  Linus Neumann: ja hier das entscheidende.
• 59:27
  Linus Neumann: Also in zwei Stunden macht ein Mensch das mit hoher Qualifikation und sehr viel Glück.
• 59:37
  Linus Neumann: Und ich denke, eine realistische Zeit für das wäre wahrscheinlich irgendwo zwischen
• 59:43
  Linus Neumann: mit hoher Qualifikation und Glück einen Tag dieses Ergebnis zu liefern.
• 59:50
  Linus Neumann: Nach einer Woche oder fünf Tagen würde ich sowas erwarten, dass solche Schwachstellen
• 59:55
  Linus Neumann: gefunden werden von einer qualifizierten Person.
• 59:59
  Linus Neumann: Aber dann kann man sich natürlich auch noch vorstellen, wie so eine KI halt
• 1:00:02
  Linus Neumann: auch noch den Bericht schreibt innerhalb dieser zwei Stunden in drei Sekunden
• 1:00:08
  Linus Neumann: oder so. Oder vielleicht 40.
• 1:00:10
  Linus Neumann: Das heißt, da ist natürlich im Security-Bereich gerade durchaus...
• 1:00:18
  Linus Neumann: Zeiten des Umbruchs.
• 1:00:22
  Linus Neumann: Gleichermaßen, wenn du am Ende
• 1:00:25
  Linus Neumann: noch nicht mal dazu kommst, dich mit den schönen neuen KI, Architektur,
• 1:00:30
  Linus Neumann: rechte Modellen, Schwachstellen auseinanderzusetzen, weil du schon am Anfang
• 1:00:34
  Linus Neumann: über Admin 1.123 stolperst und über SQL Injections und schlecht,
• 1:00:45
  Linus Neumann: durchdachte API-Authentifizierung,
• 1:00:50
  Linus Neumann: dann bleibt auf jeden Fall noch ein bisschen Zeit.
• 1:00:56
  Tim Pritlove: So, was kann man denn noch mit KI Schönes machen?
• 1:01:01
  Linus Neumann: Muss mal gucken, was man mit KI machen kann. Ich hatte hier schon die Shownotes zu, weil ich sonst...
• 1:01:05
  Tim Pritlove: Überwachen kann man damit, super.
• 1:01:07
  Linus Neumann: Ja, auf jeden Fall, können wir machen, kein Problem. Zum Beispiel in Berlin.
• 1:01:12
  Tim Pritlove: Ja, das ist doch naheliegend, im wahrsten Sinne des Wortes.
• 1:01:16
  Linus Neumann: Berlin ist ja in den Händen der,
• 1:01:21
  Linus Neumann: CDU.
• 1:01:22
  Tim Pritlove: Und SPD.
• 1:01:24
  Linus Neumann: Ach ja, die sind ja immer noch dabei.
• 1:01:29
  Linus Neumann: Ja, also wir kriegen jetzt die Novelle des Berliner Polizeigesetzes wurde verabschiedet.
• 1:01:35
  Linus Neumann: Wir haben jetzt Verhaltensscanner, Gesichtserkennung, Datenanalyse,
• 1:01:39
  Linus Neumann: so pallant hier alles auf einen Haufen, wie bei McKinsey.
• 1:01:42
  Linus Neumann: Staatsruhjahre machen sie auch.
• 1:01:45
  Linus Neumann: Und haben jetzt auch ausgeschrieben, sie wollen eine Software für KI-Videoschutz.
• 1:01:49
  Linus Neumann: Haben sie ausgeschrieben.
• 1:01:50
  Tim Pritlove: Wer soll da geschützt werden?
• 1:01:52
  Linus Neumann: Der öffentliche Raum.
• 1:01:54
  Tim Pritlove: Ah.
• 1:01:55
  Linus Neumann: Das ist dann so wie in Hamburg gibt es das ja schon länger und es gibt jetzt wenn ich das richtig,
• 1:02:03
  Linus Neumann: in Erinnerung habe, schon noch in diesem Jahr werden dann,
• 1:02:09
  Linus Neumann: erste KI unterstützte Videosysteme an den,
• 1:02:16
  Linus Neumann: ich glaube am Alex oder Cottbusser Tor oder sowas an den Hotspots der Kriminalität,
• 1:02:24
  Linus Neumann: Ja, Cottbusser Tor, ganz schlimm.
• 1:02:29
  Linus Neumann: Wobei da würde ich sagen, also bei den meisten Leuten am Kotti,
• 1:02:32
  Linus Neumann: wenn ich mich bedroht fühlen würde, würde ich einfach weggehen.
• 1:02:36
  Linus Neumann: Schaffen die nicht, mich anzuholen.
• 1:02:40
  Linus Neumann: Na, kommt drauf an.
• 1:02:41
  Tim Pritlove: Ja, also das ist auf jeden Fall hochproblematisch.
• 1:02:48
  Linus Neumann: Das sprießt jetzt überall aus dem Boden. Frankfurt hat bei mobiler Gesichtserkennung
• 1:02:54
  Linus Neumann: Razzia im Bahnhofsviertel mit 200 Beamten,
• 1:02:57
  Linus Neumann: haben sie eine Foto-App zur Personenidentifikation in Echtzeit verwendet.
• 1:03:02
  Linus Neumann: 414 Menschen mit einer Gesichts-App irgendwie untersucht.
• 1:03:09
  Linus Neumann: Und,
• 1:03:12
  Linus Neumann: dann Auf was? Also die haben glaube ich nach einer Person gesucht.
• 1:03:19
  Linus Neumann: Also die haben nach einem Menschen gesucht und die haben aber dann auch die
• 1:03:24
  Linus Neumann: Personen, die da waren, einfach gesagt, wer sie sind, quasi um sich nicht immer
• 1:03:28
  Linus Neumann: einen Ausweis zeigen zu lassen.
• 1:03:30
  Linus Neumann: Gesichtserkennung, zack, bumm. Hier, wie hieß die,
• 1:03:35
  Linus Neumann: Wie hieß die Raff-Terroristin?
• 1:03:38
  Tim Pritlove: Daniela Klette.
• 1:03:39
  Linus Neumann: Ja, genau. Quasi dieses, wer ist diese Person? Ah ja, okay, zack, bumm.
• 1:03:47
  Linus Neumann: Und, ähm, also das, so ich meine, Gesichtserkennung ist das eine Ding, ne?
• 1:03:54
  Linus Neumann: Und das ist ja heute schon, sag ich mal, offener ist nur noch eine Frage des,
• 1:03:58
  Linus Neumann: wie viel Ressourcen und Geld nimmst du in die Hand, wenn du beispielsweise jetzt
• 1:04:05
  Linus Neumann: einen öffentlichen Raum überwachst, einfach jedes Gesicht da drin automatisch zu erkennen, ne?
• 1:04:09
  Linus Neumann: Das ist jetzt keine Herausforderung.
• 1:04:15
  Linus Neumann: Und was sie auch haben, ist dann Verhaltensüberwachung. Da verhält sich aber jemand komisch.
• 1:04:23
  Linus Neumann: Der braucht ja ein bisschen länger, um sein Fahrrad aufzuschließen oder sonst was.
• 1:04:28
  Linus Neumann: Und in Kombinationen bist du dann eben bei den Sachen, die eigentlich immer
• 1:04:34
  Linus Neumann: so im öffentlich-rechtlichen Nachtprogramm sind. In China, schaut ihr das an,
• 1:04:38
  Linus Neumann: die komplette verdattete Überwachung.
• 1:04:41
  Linus Neumann: Und da wird jetzt gerade das solide polizeigesetzliche Fundament für gelegt.
• 1:04:51
  Tim Pritlove: Also ich meine, die ganzen Überwachungsfantasien waren ja schon immer da.
• 1:04:56
  Tim Pritlove: Schon in den 80er Jahren ging das ja los nach dieser Terrorzeit der 70er mit
• 1:05:02
  Tim Pritlove: Rasterfahndung und dieser Traum von alles jederzeit sehen,
• 1:05:08
  Tim Pritlove: um eine Sicherheit herzustellen, die ausschließlich auf dieser Idee einer Kontrolle basiert.
• 1:05:18
  Tim Pritlove: Das gab es immer und es ist eigentlich nur daran gescheitert,
• 1:05:23
  Tim Pritlove: dass das, was man machen wollte mit der Technik, am Ende zu teuer war.
• 1:05:28
  Tim Pritlove: Aber jetzt, wo die Technologie immer billiger wird und sich in gewisser Hinsicht
• 1:05:35
  Tim Pritlove: ja auch die Möglichkeiten immer weiter ergeben werden.
• 1:05:38
  Tim Pritlove: Also Kameras waren früher teuer, super teuer.
• 1:05:43
  Tim Pritlove: Also von digitalen Kameras mal ganz abgesehen.
• 1:05:47
  Tim Pritlove: Und heutzutage ist eine Kamera halt wirklich nur noch ein Pfennigbetrag in der
• 1:05:52
  Tim Pritlove: elektronischen Produktion.
• 1:05:55
  Tim Pritlove: Datenmengen speichern war teuer, heute kriegst du irgendwie Terabytes auf dem
• 1:06:00
  Tim Pritlove: Daumennagel unter und so weiter und mit diesen gesunkenen Kosten steigt natürlich
• 1:06:07
  Tim Pritlove: auch automatisch dieser Durst nach,
• 1:06:09
  Tim Pritlove: jetzt machen wir alles, was wir schon immer machen wollen.
• 1:06:12
  Linus Neumann: Du hast den einen Aspekt vergessen,
• 1:06:15
  Linus Neumann: noch zu nennen, du hast, klar, dann hast du massenhaft Video,
• 1:06:19
  Linus Neumann: dann musst du das speichern können.
• 1:06:22
  Linus Neumann: Das, was jetzt dir gelingt, ist, massenhaft Video auch analysieren zu können.
• 1:06:28
  Linus Neumann: Das war so die letzte, also Video aufzeichnen konntest du, du hattest nur dann halt mehr Heu.
• 1:06:34
  Tim Pritlove: Also in den 80ern noch nicht, aber dann später war das auch und jetzt ist eben
• 1:06:38
  Tim Pritlove: auch noch diese ganze Analyse und daraus auch noch einen Sinn machen.
• 1:06:41
  Tim Pritlove: Auch das wird jetzt machbar und ist halt in gewisser Hinsicht günstig.
• 1:06:45
  Linus Neumann: Wir hatten auch hier in der Sendung ja über die Ring-Geschichte da mit dem wir
• 1:06:50
  Linus Neumann: haben mit dieser Überwachungsfirma ein wunderschönes Feature,
• 1:06:55
  Linus Neumann: mit dem man deinen Hund wiederfinden kann.
• 1:06:56
  Linus Neumann: So, Alter, what the fuck, ey, also den Hund, dafür habt ihr das Geld ausgegeben.
• 1:07:01
  Linus Neumann: So, so, das ist immer voll lieb, dass ihr euch für meinen Hund interessiert.
• 1:07:04
  Linus Neumann: So, ist außerdem ein Leguan und der ist tot.
• 1:07:11
  Tim Pritlove: Echt, du hast einen toten Leguan als Haustier?
• 1:07:14
  Linus Neumann: Nein, ich habe keinen Leguan. Leguan gehört nicht nach Deutschland.
• 1:07:18
  Linus Neumann: Leguan ist kein Teil von Deutschland.
• 1:07:24
  Tim Pritlove: Die Insel heißt anders. Das verwechselst du.
• 1:07:29
  Linus Neumann: Leguan, wirklich. Leguan ist kein Teil von Deutschland.
• 1:07:36
  Tim Pritlove: Ja. Ist nicht gut. Videoüberwachung. Deswegen hat der CCC auch gesagt, ist doof.
• 1:07:43
  Linus Neumann: Ja, Kantorkel gerade schon erwähnt.
• 1:07:47
  Linus Neumann: Ein teures, aber gefährliches Sicherheitstheater. Und ja, also nochmal,
• 1:07:54
  Linus Neumann: also wie viel Kriminalität.
• 1:08:00
  Linus Neumann: Erwartest du.
• 1:08:03
  Linus Neumann: Also wirklich so die Ökonomie davon, ne? Wir können jedes Gesicht erkennen mit der Kamera.
• 1:08:09
  Linus Neumann: Wir erkennen verdächtiges Verhalten.
• 1:08:15
  Linus Neumann: Okay, haben wir eventuell ein bisschen überinvestiert, weil trotzdem findet
• 1:08:20
  Linus Neumann: ihr die ganze Zeit Kriminalität unter diesen Kameras oder vielleicht nicht unter diesen Kameras statt?
• 1:08:25
  Linus Neumann: Kann das sein, dass die Leute einfach irgendwo hingehen, wo die Kamera nicht
• 1:08:27
  Linus Neumann: ist? War das vielleicht so?
• 1:08:30
  Linus Neumann: Dann müssen wir da auch eine Kamera hinstellen oder was? Dann wird das irgendwie
• 1:08:33
  Linus Neumann: ein bisschen teurer. Und dann am Ende sind die Kriminellen da, wo keine Kamera ist.
• 1:08:37
  Linus Neumann: Wie viele Kameras müssen wir kaufen, dass die nirgendwo mehr hinkönnen?
• 1:08:40
  Linus Neumann: Und was bedeutet das dann für unseren öffentlichen Raum? Dann können wir uns
• 1:08:45
  Linus Neumann: nicht mehr unüberwacht von diesen Systemen, die in der Lage sind,
• 1:08:50
  Linus Neumann: anormales Verhalten festzustellen und unsere Gesichter zu erkennen. Ja, geil.
• 1:08:54
  Linus Neumann: Also, ich glaube, ich hatte das hier vor einiger Zeit auch schon mal in der Sendung gesagt.
• 1:08:58
  Linus Neumann: Dann wird der öffentliche Raum, durch den wir uns gerade noch frei bewegen können.
• 1:09:05
  Linus Neumann: Wir können da einfach lang gehen. Das kriegt keiner mit. Das erfasst auch keiner zentral. Im Moment.
• 1:09:11
  Linus Neumann: Aber das wird dann wie im Internet. Egal wo du lang gehst, egal wo du hast,
• 1:09:15
  Linus Neumann: Datenspuren hinterlassen, zack, bumm, ach, du bist da lang gehst.
• 1:09:17
  Linus Neumann: Ja, 85 Hikvision-KI-Kameras.
• 1:09:20
  Linus Neumann: Ja.
• 1:09:21
  Linus Neumann: Die haben auch dein Gesicht erkannt. Die haben auch gemerkt,
• 1:09:23
  Linus Neumann: dass du da an der einen Straßenecke, Tim, da weiß ich gar nicht,
• 1:09:26
  Linus Neumann: ob du da jetzt, also, so wie du da in dem Bus stand, hast du da hingepinkelt, das kostet doch 10 Euro.
• 1:09:31
  Linus Neumann: 20, glaube ich, eigentlich sogar jetzt, mit dem neuen Polizeigesetz.
• 1:09:35
  Tim Pritlove: Ja, man wird dann mit allem möglichen in Verbindung gebracht.
• 1:09:38
  Tim Pritlove: Also das schafft einfach eine, also hättest du, sagen wir mal,
• 1:09:42
  Tim Pritlove: muss ich jetzt gar nicht mal so groß aufziehen, reicht jetzt mal nur so ein Stadtteil.
• 1:09:46
  Tim Pritlove: Sagen wir mal, man hat so ein Problemstadtteil.
• 1:09:49
  Tim Pritlove: Kreuzberg ist ja immer gerne in Diskussionen.
• 1:09:52
  Linus Neumann: Nehmen wir Grunewald.
• 1:09:53
  Tim Pritlove: Ja, oder Grunewald, genau. Da fahren die aber nur mit dem Auto lang, das ist ja einfach.
• 1:09:57
  Linus Neumann: Stell mal einen Kennzeichenscanner hin, was dann los ist.
• 1:10:01
  Tim Pritlove: Ja, aber das ist ja einfach. Also die Konservativen sehen ja die Bösen immer
• 1:10:06
  Tim Pritlove: in Kreuzberg und in jede Straße muss jetzt so eine KI-Kamera rein und dann haben wir diese ganzen Daten.
• 1:10:13
  Tim Pritlove: Und ich will auch nicht mal ausschließen, dass man damit auch irgendwelches Kriminelles macht.
• 1:10:18
  Tim Pritlove: Geschehen, erfassen könnte. Ist durchaus wahrscheinlich.
• 1:10:23
  Tim Pritlove: Vor allem schafft man aber einen Datensatz, auf dem potenziell jede denkbare Analyse möglich ist.
• 1:10:31
  Tim Pritlove: Und das betrifft natürlich die Privatsphäre quasi aller Leute in diesem Bereich.
• 1:10:36
  Tim Pritlove: Es schafft vor allem auch Erpressungspotenzial.
• 1:10:40
  Tim Pritlove: Es sind Daten mit einem sehr hohen Wert und wir wissen, alles was einen sehr
• 1:10:44
  Tim Pritlove: hohen Wert hat, das wird dann auch irgendwann verkauft werden,
• 1:10:47
  Tim Pritlove: wird dann anderen Leuten zugespielt werden.
• 1:10:50
  Tim Pritlove: Das sind ja sozusagen Beobachtungssehens. Ich meine, kurzer Blick hier auf den
• 1:10:55
  Tim Pritlove: Iran-Krieg, der erste Schlag auf den Ayatollah, der von Israel durchgeführt wurde.
• 1:11:03
  Tim Pritlove: Es kam ja im Nachhinein raus, dass Israel seit...
• 1:11:09
  Tim Pritlove: Jahren alle Verkehrskameras in Teheran abgeschnorchelt hatten.
• 1:11:14
  Tim Pritlove: Die haben sozusagen einen Livestream gehabt von dieser Hauptstadt,
• 1:11:19
  Tim Pritlove: also nicht nur einen Livestream, sondern alle Livestreams und die haben darüber
• 1:11:22
  Tim Pritlove: die ganzen Wege der Mitarbeiter dieser Ministerien und Zuträger und Sicherheitspersonal
• 1:11:30
  Tim Pritlove: darüber analysiert und haben darüber sozusagen ein klares Bild gehabt, wer ist wann,
• 1:11:36
  Tim Pritlove: wo, welche Routinen herrschen, Was ist sozusagen hier das Sicherheitsregime?
• 1:11:42
  Tim Pritlove: Und unter anderem mit diesen Informationen, sicherlich nicht nur mit diesen
• 1:11:46
  Tim Pritlove: Informationen, unter anderem mit diesen Informationen, dann ein relativ klares
• 1:11:49
  Tim Pritlove: Bild gehabt, wer ist wann wo und wo können wir zu welchem Zeitpunkt zuschlagen.
• 1:11:54
  Tim Pritlove: Das ist so die Dimension, die allein die Verkehrskameras schon.
• 1:11:58
  Linus Neumann: Diese News sollten wir mehr verbreiten, wenn dann demnächst solche Kameras in
• 1:12:03
  Linus Neumann: Berlin aufgestellt werden.
• 1:12:04
  Linus Neumann: Wenn wir sagen, Israel, könnte ich mir vorstellen.
• 1:12:09
  Tim Pritlove: Dass es so ist. Ich wollte das jetzt nicht auf Israel bringen, sondern generell.
• 1:12:12
  Linus Neumann: Mir ist ja völlig egal, wer die Kamera absägt. Hauptsache die ist wieder weg.
• 1:12:19
  Linus Neumann: Ja aber es ist also diese Gesamtüberwachung es gab ja schon vor,
• 1:12:28
  Linus Neumann: wie lange ist das schon wieder her da war dann irgendwie ich glaube der Michael
• 1:12:32
  Linus Neumann: Kreil hatte das gemacht der hatte quasi gesagt okay wenn man die Menge an Daten
• 1:12:38
  Linus Neumann: die die Stasi gesammelt hat nimmt,
• 1:12:43
  Linus Neumann: und macht die in Aktenordner und dann macht man daraus Regalmeter und dann hat
• 1:12:47
  Linus Neumann: er quasi eine Fläche aus Regalmetern gemalt und dann hat er die Menge an Daten, die die NSA hatte,
• 1:12:54
  Linus Neumann: einfach mal visualisiert und das war natürlich ein Vielfaches und.
• 1:13:01
  Linus Neumann: Die Stasi ist an ihre Kapazitätsgrenzen geraten, daraus noch Erkenntnis zu ziehen.
• 1:13:11
  Linus Neumann: Die mussten dann ja quasi so Informationspyramiden bauen.
• 1:13:14
  Linus Neumann: Jeder überwacht da, der IM überwacht, irgendjemand schreibt einen Bericht und
• 1:13:18
  Linus Neumann: dann der schreibt wieder da einen Bericht und dann hast du irgendwann,
• 1:13:21
  Linus Neumann: versuchst du es irgendwie noch für einen Menschen oder ein, was auch immer,
• 1:13:26
  Linus Neumann: ein Blockwart oder was da die
• 1:13:28
  Linus Neumann: Struktur war, irgendwie hochzufiltern und zu aggregieren die Information.
• 1:13:34
  Linus Neumann: Aber am Ende war das Bottleneck noch so, am Ende muss das noch in das Gehirn
• 1:13:40
  Linus Neumann: von ein paar Menschen passen.
• 1:13:42
  Linus Neumann: Und auch das bist du dann los, wenn du massenhafte Datenanalysen in Echtzeit machen kannst.
• 1:13:51
  Linus Neumann: Und das ist es ist wirklich als Ausmaß,
• 1:13:57
  Linus Neumann: sowas von,
• 1:14:00
  Linus Neumann: nicht mehr vorstellbar, wie viel krass invasiver und überwachender das ist.
• 1:14:09
  Linus Neumann: Nimm mir den Schlaf. Kommen wir zum nächsten Thema.
• 1:14:12
  Tim Pritlove: Ja, also es ist so ein totales ist auch so ein Zauberlehrlingsding. Also man, ich kann...
• 1:14:17
  Linus Neumann: Der Friedrich Merz sieht jetzt nicht aus wie ein Zauberlehrling.
• 1:14:20
  Tim Pritlove: Naja, also...
• 1:14:22
  Tim Pritlove: Selbst wenn ich es jetzt mal ganz gutmütig, positiv annehmen würde, was ihre Ziele sind.
• 1:14:30
  Tim Pritlove: Ah ja, sie wollen die Kriminalität reduzieren, sie wollen irgendwie die gefühlte
• 1:14:34
  Tim Pritlove: oder auch die reale Sicherheit an öffentlichen Plätzen herstellen.
• 1:14:37
  Tim Pritlove: Und es gibt ja auch Problemorte und es gibt auch Problemsituationen.
• 1:14:41
  Tim Pritlove: Kann man alles irgendwie einsehen.
• 1:14:44
  Tim Pritlove: Ich würde ihnen sogar fast mal unterstellen, dass sie das selber so sehen.
• 1:14:49
  Tim Pritlove: Dass sie überhaupt gar nicht darüber nachdenken, was das Missbrauchspotenzial
• 1:14:52
  Tim Pritlove: davon ist, sondern dass das für sie einfach zweitrangig ist manche vielleicht
• 1:14:56
  Tim Pritlove: nicht, aber einige sehen es sicherlich,
• 1:15:00
  Tim Pritlove: in so einer gutartigen Sache, also was habt ihr denn so wie diese Diskussion
• 1:15:03
  Tim Pritlove: um Wahlcomputer ja was denn, wir wollen das doch nur einfach machen und so weiter,
• 1:15:07
  Tim Pritlove: das kann doch nicht sein, dass man das nicht mit Computern machen kann,
• 1:15:09
  Tim Pritlove: ja naja okay, das seht ihr vielleicht so,
• 1:15:11
  Tim Pritlove: aber habt ihr mal wirklich darüber nachgedacht, was das bedeutet was das für
• 1:15:15
  Tim Pritlove: Konsequenzen haben kann Und das ist das Problematische daran.
• 1:15:19
  Tim Pritlove: Also ich glaube, es ist auch nicht klug, diese ganze politische Debatte immer
• 1:15:24
  Tim Pritlove: so mit der Unterstellung zu führen, dass die ja uns doof sind.
• 1:15:28
  Tim Pritlove: Ja, das vielleicht schon, aber dass sie nicht schaden wollen,
• 1:15:31
  Tim Pritlove: aber dass sie sich einfach über die potenziellen Auswirkungen der Installation
• 1:15:37
  Tim Pritlove: einer solchen Infrastruktur klar werden müssen und ich finde bei den anderen
• 1:15:42
  Tim Pritlove: Sachen, wo wir früher immer schon gewarnt haben,
• 1:15:45
  Tim Pritlove: hat sich das alles auch sehr wohl gezeigt, diese ganzen Probleme und das muss man auch oft.
• 1:15:54
  Linus Neumann: Möchtest du sagen, told you so?
• 1:15:56
  Tim Pritlove: Naja, also,
• 1:15:59
  Tim Pritlove: es gibt genug Belege so was Privatschutz und Leakage von Daten und so weiter
• 1:16:06
  Tim Pritlove: betrifft und das wird jetzt hier auch nicht sehr viel anders sein aber die Auswirkungen
• 1:16:10
  Tim Pritlove: davon sind potenziell noch schlimmer.
• 1:16:16
  Linus Neumann: Gehen wir gleich noch an Kotti. Letzte Mal jetzt, bevor da bald Videoüberwachung ist.
• 1:16:22
  Linus Neumann: Schnell auch verdächtig am Kotti lang gehen.
• 1:16:26
  Tim Pritlove: Ein Döner, ganz verdächtig ein Döner essen.
• 1:16:29
  Linus Neumann: Vielleicht noch kurz für die Vollständigkeit. In Thüringen läuft es gerade mit
• 1:16:34
  Linus Neumann: einem KI-Polizeigesetz.
• 1:16:37
  Linus Neumann: Verhaltensscanner, Gesichtssuchmaschine, Datenanalyse, Palantir-Style,
• 1:16:42
  Linus Neumann: Kennzeichenscanner, Videodrohnen.
• 1:16:43
  Linus Neumann: Niedersachsen hat auch ein KI-Polizeigesetz, BND,
• 1:16:49
  Linus Neumann: du hast,
• 1:16:52
  Linus Neumann: also natürlich wollen alle diese Strafverfolger und die Geheimdienste und die
• 1:17:05
  Linus Neumann: Big Four Consultants, wie McKinsey,
• 1:17:12
  Linus Neumann: alle Daten zentralisiert,
• 1:17:16
  Linus Neumann: analysieren und diese Macht haben. Also das Bittere ist ja, die werden die sich
• 1:17:20
  Linus Neumann: ja auch holen. Das ist ja auch wirklich nur so ein,
• 1:17:25
  Linus Neumann: also,
• 1:17:27
  Linus Neumann: das günstigste Ergebnis ist, dass wir durch den Widerstand dagegen uns noch
• 1:17:31
  Linus Neumann: so viel Zeit verschaffen, dass wir vernünftigen Schutz dagegen noch entwickeln können.
• 1:17:38
  Linus Neumann: Aber auch nicht so einfach, weil Meta, das ist ja auch, weißt du,
• 1:17:48
  Linus Neumann: was machen wir bloß mit diesen ganzen Rechten?
• 1:17:51
  Linus Neumann: Die Leute gehen in die Hände dieser Bauernfänger, die gehen da irgendwie bei
• 1:17:57
  Linus Neumann: der AfD und den ganzen komischen rechtsgerichteten Irrsinnigen hin,
• 1:18:02
  Linus Neumann: weil die das Vertrauen in die Politik verloren haben. Was machen wir denn?
• 1:18:07
  Linus Neumann: Ja, lass uns am besten erstmal die oberste Datenschutzbeauftragte Irlands wird
• 1:18:13
  Linus Neumann: jetzt Lobbyistin für Facebook und dann lass uns am besten die Ex-Meta-Lobbyistin,
• 1:18:21
  Linus Neumann: die dann auf einmal ins EU-Parlament gekommen ist,
• 1:18:25
  Linus Neumann: die nehmen wir am besten als Chefverhandlerin für den KI-Omnibus.
• 1:18:30
  Linus Neumann: Also eine Ex-Meta-Lobbyistin sitzt jetzt im EU-Parlament und ist ausgerechnet für den KI-Omnibus.
• 1:18:37
  Linus Neumann: Also für den KI-Teil des Omnibus.
• 1:18:42
  Linus Neumann: Da. Also für KI und Datenschutz.
• 1:18:48
  Linus Neumann: Das kann doch auch nicht sein. Also hatten wir wirklich niemand anders?
• 1:18:57
  Linus Neumann: Ja, hatten wir wahrscheinlich nicht. Fällt dir noch jemand ein,
• 1:19:01
  Linus Neumann: wenn man da hätte hinschicken können?
• 1:19:05
  Tim Pritlove: Thomas.
• 1:19:06
  Linus Neumann: Ja, der war aber nicht bei Facebook.
• 1:19:12
  Tim Pritlove: Schlechtes Zivil.
• 1:19:13
  Linus Neumann: Keine Ahnung, wovon er redet.
• 1:19:20
  Linus Neumann: Es gibt,
• 1:19:24
  Linus Neumann: In diesem ganzen Kontext, wir haben ja gerade über KI, Überwachung,
• 1:19:30
  Linus Neumann: Auswertung und sowas gesprochen,
• 1:19:33
  Linus Neumann: noch eine etwas unschöne Meta-Entwicklung.
• 1:19:39
  Linus Neumann: Also natürlich, wir haben gesagt, Geheimdienste wollen das,
• 1:19:46
  Linus Neumann: Überwachung will das und wir haben glaube ich in einer der letzten Sendungen
• 1:19:49
  Linus Neumann: auch schon darüber gesprochen,
• 1:19:51
  Linus Neumann: Militär will das, das Kriegsministerium der USA hat ja, auch darüber haben wir
• 1:19:59
  Linus Neumann: gesprochen, sich mit Anthropic angelegt und jetzt irgendwie gesagt,
• 1:20:03
  Linus Neumann: wir nehmen euch das Geld,
• 1:20:04
  Linus Neumann: geben euch das Geld nicht mehr, dann einen Deal mit OpenAI gemacht.
• 1:20:07
  Linus Neumann: Dann hat Trump gesagt, die Nutzung von Anthropic in Bundesbehörden wird jetzt untersagt.
• 1:20:12
  Linus Neumann: Das heißt, sie versuchen Anthropic den Geldhahn zuzudrehen, um diese Entwicklungen
• 1:20:18
  Linus Neumann: für sich gefügig zu machen.
• 1:20:23
  Linus Neumann: Sowieso werden Kriege inzwischen mit Drohnen und automatisierten Tötungsmaschinen
• 1:20:30
  Linus Neumann: geführt. Das heißt, die ganze Militärgeschichte.
• 1:20:33
  Linus Neumann: Und wir haben gerade darüber gesprochen, dass wir im Prinzip beobachten,
• 1:20:39
  Linus Neumann: dass die Sicherheitsarchitekturen für derartige Systeme zumindest,
• 1:20:46
  Linus Neumann: also sie werden gerade exploriert das muss man jetzt mal noch finden,
• 1:20:51
  Linus Neumann: und dann hat weitestgehend unbeachtet Donald Trump vor einigen Wochen eine neue
• 1:20:59
  Linus Neumann: Cyber-Strategie veröffentlicht.
• 1:21:04
  Linus Neumann: Und diese Strategie, die Donald Trump jetzt für, also für, wie bewegt man sich
• 1:21:10
  Linus Neumann: im Bereich des Cyber, also Cyber ist ja Hacking, ne?
• 1:21:16
  Linus Neumann: Sie haben gesagt, okay, wir gehen weg von Regulierung, wir gehen hin zu Dominanz und Deregulierung.
• 1:21:23
  Linus Neumann: Also wir deregulieren die Anforderungen.
• 1:21:26
  Linus Neumann: Das ist erstmal etwas, was ich gar nicht, also der Idee wäre ich gar nicht so abgeneigt,
• 1:21:33
  Linus Neumann: weil in vielen Bereichen IT-Sicherheit tatsächlich so stark totreguliert ist,
• 1:21:41
  Linus Neumann: dass es in die Sinnlosigkeit treibt.
• 1:21:44
  Linus Neumann: Es wird viel zu viel Zeit verschwendet mit sinnlosen Anforderungen.
• 1:21:54
  Linus Neumann: Aber das kombinieren sie mit, wir wollen den Bereich dominieren und wir priorisieren
• 1:22:00
  Linus Neumann: den Angriff gegenüber der Verteidigung.
• 1:22:02
  Linus Neumann: Also proaktive Angriffe, Abschreckung
• 1:22:06
  Linus Neumann: und so weiter, statt in Resilienz zu investieren und zu setzen.
• 1:22:10
  Linus Neumann: Also Abschreckung statt stabilen Scheiß bauen.
• 1:22:15
  Linus Neumann: Genau, die Deregulierung, okay, also kann man drüber reden, das muss natürlich
• 1:22:20
  Linus Neumann: nur die Zeit und Energie und Verpflichtung, die da frei wird,
• 1:22:23
  Linus Neumann: die Ressourcen, die müssen ja auch irgendwo hin.
• 1:22:24
  Linus Neumann: Dann natürlich ja mit KI, das machen wir jetzt hier Agentic AI wird dann für
• 1:22:29
  Linus Neumann: uns die aktiven Cyber-Angriffe machen ähm und ja das ist äh,
• 1:22:42
  Linus Neumann: Ich meine jetzt auch keine so gute Entwicklung, wenn jetzt die USA sagen,
• 1:22:50
  Linus Neumann: wir haben uns überlegt, das mit dem Defense, das habt ihr jetzt ein paar Jahre
• 1:22:53
  Linus Neumann: versucht, das funktioniert doch alles nicht. Wir kloppen einfach feste drauf.
• 1:23:00
  Linus Neumann: Und dann denkt man sich, wie blöd sind eigentlich die USA, aber natürlich kriegen
• 1:23:03
  Linus Neumann: BKA und Bundespolizei gerade auch neue Hackerbefugnisse oder so,
• 1:23:07
  Linus Neumann: und die kriegen, das plant zumindest die Bundesregierung und sagt,
• 1:23:10
  Linus Neumann: ja wir wollen natürlich aktive Abwehr von Hackerangriffen.
• 1:23:14
  Linus Neumann: Wer das für eine gute Idee hält,
• 1:23:17
  Linus Neumann: kann sich die schöne Sendung mit dem Hackback-Rakete nochmal anhören.
• 1:23:20
  Linus Neumann: Also gegen Attacken, Systeme von Angreifern stören oder lahmlegen,
• 1:23:24
  Linus Neumann: soll dann Bundespolizei und BKA erlaubt werden.
• 1:23:30
  Linus Neumann: Und das wird auch nicht lange dauern, bis die sagen, das machen wir hier mit
• 1:23:32
  Linus Neumann: dieser Codewall-KI oder was auch immer, die so schön das McKinsey-Problem fast gelöst hatte.
• 1:23:41
  Linus Neumann: Und jetzt schwanken quasi nicht nur alle hin zu der Massenüberwachung und der
• 1:23:49
  Linus Neumann: Automatisierung von Dingen mit wackelnden,
• 1:23:54
  Linus Neumann: Sicherheitskonzepten und Zauberlehrlings Vibes, sondern sagen außerdem ja pass
• 1:24:00
  Linus Neumann: auf, wir haben uns auch überlegt der Schwerpunkt ist jetzt eher wir greifen
• 1:24:03
  Linus Neumann: die anderen an, als dass wir uns verteidigen ja,
• 1:24:08
  Linus Neumann: Da würde ich auch sagen, wollen wir mal gucken, wie lange das dauert,
• 1:24:10
  Linus Neumann: bis einer weint und ob nicht am Ende beide weinen.
• 1:24:14
  Tim Pritlove: Also diese amerikanische Regierung ist wirklich
• 1:24:17
  Tim Pritlove: völlig ohne irgendwelche
• 1:24:22
  Tim Pritlove: Guardrails unterwegs und diesen psychisch kranken Menschen da einfach freien
• 1:24:29
  Tim Pritlove: Lauf zu lassen und ihnen auch beliebige Loonies da in Führungspositionen in
• 1:24:36
  Tim Pritlove: den Ministerien bringen zu lassen,
• 1:24:38
  Tim Pritlove: das ist wahrscheinlich der größte Fehler in den USA je gemacht haben.
• 1:24:41
  Tim Pritlove: Aber das wird natürlich extreme Auswirkungen haben darauf,
• 1:24:49
  Tim Pritlove: wie auch andere Länder sich positionieren und das geht nicht gut.
• 1:24:58
  Linus Neumann: Ja, genau. Es geht nicht gut.
• 1:25:03
  Linus Neumann: Ich rede da ja nun wirklich mit dem Mund fusselig.
• 1:25:10
  Linus Neumann: Ja, es gibt Angriffe. Ja, es gibt Angreifer.
• 1:25:13
  Linus Neumann: Und ja, es gibt keine vollständige Sicherheit.
• 1:25:17
  Linus Neumann: Genau deswegen muss man Resilienz aufbauen und nicht sagen, naja,
• 1:25:23
  Linus Neumann: wenn wir eh verloren sind dann kloppen wir halt auf die anderen drauf also das
• 1:25:27
  Linus Neumann: funktioniert halt nicht insbesondere,
• 1:25:32
  Linus Neumann: wenn du dir dann sowas anhörst, wie du gerade erzählt hast dass dir eine dir
• 1:25:37
  Linus Neumann: nicht wohlgesonnene Nation deine dir selbst dahingestellten Überwachungskameras hackt.
• 1:25:48
  Linus Neumann: Ja, aber der neue 3er BMW ist super. Wird noch was in Deutschland.
• 1:25:55
  Linus Neumann: So, dann haben wir noch einen Space, den gemeinnützigen Makerspace Toolbox Bodensee.
• 1:26:05
  Linus Neumann: Die suchen relativ kurzfristig ein neues Zuhause.
• 1:26:08
  Linus Neumann: Die müssen am 31.05.26 ausziehen und suchen mindestens 220 Quadratmeter im Bereich
• 1:26:17
  Linus Neumann: Bodensee. Also der Bodensee-Kreis, Markdorf, Friedrichshafen, Tettnang.
• 1:26:22
  Linus Neumann: Wir haben den Blogpost für euch verlinkt.
• 1:26:28
  Linus Neumann: E-Mail an vorstand.toolbox-bodensee.de. Und warum würde man so einem Space ein Zuhause bieten?
• 1:26:36
  Linus Neumann: Nun ja, das sind halt Orte, wo was passiert, wo Kreatives entsteht,
• 1:26:44
  Linus Neumann: wo sich Communities treffen, Chaos treffen, Marktdorf, Funkamateure.
• 1:26:48
  Linus Neumann: Freifunk-Bodensee, die Freifunk-WLAN-Infrastrukturen
• 1:26:53
  Linus Neumann: bauen, Spieleentwicklung-Bodensee, IoT-Meetup.
• 1:26:56
  Linus Neumann: Und die haben jetzt gerade 420 Quadratmeter, bauen Elektrotechnik,
• 1:27:01
  Linus Neumann: Holz, Metallwerkstatt,
• 1:27:03
  Linus Neumann: 3D-Druck, Siebdruck, Fotolabor, also all diese Orte oder all diese Werkstätten und Tools,
• 1:27:12
  Linus Neumann: die es ermöglichen, Dinge zu
• 1:27:17
  Linus Neumann: tun, sich zu entfalten, als Communities zusammenzukommen, was zu machen.
• 1:27:20
  Linus Neumann: Also damit man nicht immer nur hier mit Chat-GPT am Sexten ist,
• 1:27:25
  Linus Neumann: sondern sich auch weiterentwickelt als Teenager.
• 1:27:29
  Linus Neumann: Und ich denke, das sind wichtige, herausragende Orte von Kultur und Kreativität
• 1:27:36
  Linus Neumann: und deswegen will man das haben.
• 1:27:38
  Linus Neumann: Ja, und deswegen brauchen wir jetzt relativ kurzfristig dafür eine Fläche und
• 1:27:44
  Linus Neumann: das ist eine Gelegenheit.
• 1:27:46
  Linus Neumann: Das ist eine Chance, die sich so schnell nicht mehr bieten wird,
• 1:27:49
  Linus Neumann: dass man jetzt die neue Heimat der Toolbox Bodensee werden kann,
• 1:27:53
  Linus Neumann: am Bodensee, wo man eigentlich denkt, man hätte schon alles erreicht.
• 1:27:57
  Tim Pritlove: Ich glaube, wenn man da was zu vermieten hat, kann man nur sagen, das sind meistens...
• 1:28:01
  Linus Neumann: Vom Vermieten war nicht die... Miete. Verschenken.
• 1:28:05
  Tim Pritlove: Verschenken?
• 1:28:05
  Linus Neumann: Nein. Über eine angemessene Miete kann man...
• 1:28:09
  Linus Neumann: Nicht angemessen, angemessene Miete ist so ein... Über eine vernünftige Miete kann man reden.
• 1:28:14
  Tim Pritlove: Ja, vor allem, wenn man was zu vermieten hat und man sucht so Mieter.
• 1:28:18
  Linus Neumann: Ja, die das ordentlich halten. Die den Schrott dann erstmal reparieren,
• 1:28:22
  Linus Neumann: indem man den da vermietet.
• 1:28:23
  Tim Pritlove: Ja, also, sag mal so, es gibt Mieter, die zahlen Miete, aber es gibt Mieter,
• 1:28:27
  Tim Pritlove: die zahlen Miete und bringen eine Kultur mit rein, die auch anderweitig ganz nützlich sein kann.
• 1:28:33
  Tim Pritlove: Das ist eine Aufwertung. Und da ist, also haben glaube ich die wenigsten bisher
• 1:28:38
  Tim Pritlove: bereut, die Leute an so einen Megaspace vermietet haben.
• 1:28:43
  Linus Neumann: Nee, wüsste ich jetzt auch keinen.
• 1:28:45
  Tim Pritlove: Auf gar keinen Fall.
• 1:28:47
  Linus Neumann: Ein Verschwörhaus in Ulm. Die haben ja dann irgendwann den Namen geklaut und
• 1:28:54
  Linus Neumann: sich das, aber nee, also selbst das war...
• 1:28:57
  Linus Neumann: Die haben den Namen geklaut, weil es so geil war, dass sie sagten,
• 1:28:59
  Linus Neumann: das können wir nicht dulden, dass das euers ist, wir registrieren die Marke, das war unsers.
• 1:29:05
  Tim Pritlove: Naja, also wer was hat im Bereich Bodensee, soll sich mal melden bei den Leuten.
• 1:29:10
  Tim Pritlove: So, kommen wir zu den Terminen. Du hast schon einen erwähnt.
• 1:29:14
  Linus Neumann: Ja, 29.04. Ich hab noch einen Monat und neun Tage.
• 1:29:19
  Tim Pritlove: Was ist da jetzt überhaupt passiert? Also du wolltest eigentlich ein Sidekick
• 1:29:22
  Tim Pritlove: sein und jetzt bist du irgendwie die Hauptattraktion.
• 1:29:26
  Linus Neumann: Also okay, ich glaube Folgendes ist passiert.
• 1:29:29
  Tim Pritlove: Ich will jetzt ein bisschen Erwartungshaltung hier aufbauen.
• 1:29:32
  Tim Pritlove: Du hast einfach nicht genug Druck in deinem Leben, verstehst du?
• 1:29:35
  Tim Pritlove: Du musst jetzt einfach mal ein bisschen einen drauflegen.
• 1:29:37
  Linus Neumann: Also es gibt ja Funfacts, hatte ich glaube ich erzählt.
• 1:29:42
  Linus Neumann: Tägliche,
• 1:29:45
  Linus Neumann: Täglicher satirischer, komödiantischer Blick auf Nachrichten.
• 1:29:50
  Linus Neumann: Aus dem Kreise von vielen Comedians, unter anderem Marc-Uwe Kling und Sarah
• 1:29:57
  Linus Neumann: Brosetti, der es glaube ich so ein bisschen losgetreten haben und aber sehr,
• 1:30:01
  Linus Neumann: sehr viele auch wirklich bekannte Leute, die auch richtig begnadete Leute hier
• 1:30:04
  Linus Neumann: mitmachen. Heinz Strunk.
• 1:30:05
  Linus Neumann: Heinz Strunkmann. Da freue ich mich schon so unglaublich drauf.
• 1:30:10
  Linus Neumann: In, was war das? Hamburg, München, Berlin und Köln und Wahrscheinlich gibt es noch eine Stadt.
• 1:30:18
  Linus Neumann: Und,
• 1:30:20
  Linus Neumann: dann gibt es die Montag, Dienstag, Mittwoch, Donnerstag Sendung,
• 1:30:23
  Linus Neumann: die sind immer alle live und Freitag wird aber nicht aufgezeichnet,
• 1:30:26
  Linus Neumann: sondern am Freitag gibt es immer so einen long,
• 1:30:30
  Linus Neumann: so einen deep dive, nicht mehr tagesaktuell, wo dann quasi die Amateure,
• 1:30:36
  Linus Neumann: die nicht professionelle Comedians sind, sondern die halt davor geschult werden
• 1:30:42
  Linus Neumann: müssen und so weiter, die ja auch eigentlich gar nicht witzig sind. So wie ich.
• 1:30:46
  Linus Neumann: Die kommen dann da mit rein, weil man davon ausgeht, deren Aufzeichnung machen
• 1:30:49
  Linus Neumann: wir am Donnerstag mit jemand anders, für den die Leute kommen.
• 1:30:53
  Linus Neumann: Und dann sagt man, du bist jetzt Vorprogramm und dann haben wir die Aufzeichnung für Freitag.
• 1:30:57
  Linus Neumann: Und das war eigentlich geplant.
• 1:30:59
  Linus Neumann: Dass ich eben am Donnerstags Vorprogramm von irgendjemandem bin, der da Leute hat.
• 1:31:03
  Tim Pritlove: Aber du wusstest nicht von wem.
• 1:31:06
  Linus Neumann: Ich glaube, mir wurde das gesagt und dann habe ich aber, als der letzte Sendung
• 1:31:11
  Linus Neumann: habe ich es ja irgendwie auch schon gesucht und nicht gefunden.
• 1:31:14
  Linus Neumann: Da deutete sich das schon an, dass da irgendwas nicht stimmt und dann kriegte ich halt den,
• 1:31:23
  Linus Neumann: so einen Anruf ja Mensch hier Tickets mit Linus Neumann hab ich gesehen ich
• 1:31:27
  Linus Neumann: hol mal eins, ich sag was hast du gesehen? nein, ich bin da,
• 1:31:32
  Linus Neumann: also es war so nicht vereinbart.
• 1:31:34
  Tim Pritlove: Läuft ja super und jetzt, was machen wir da jetzt?
• 1:31:38
  Linus Neumann: Ja weiß ich nicht es.
• 1:31:40
  Tim Pritlove: Musste noch witzig werden bis dahin.
• 1:31:41
  Linus Neumann: Bis dahin muss ich witzig werden Ja.
• 1:31:43
  Tim Pritlove: Also ich meine...
• 1:31:46
  Tim Pritlove: Ich habe jetzt nicht alle Videos gesehen. Es waren jetzt auch nicht alle unbedingt
• 1:31:49
  Tim Pritlove: so witzig. Also du musst jetzt auch nicht so witzig sein.
• 1:31:52
  Tim Pritlove: Du kannst auch todernstig da hinstellen in LNP-Manier und dann einfach erzählen.
• 1:31:57
  Linus Neumann: Ja, aber das ist ja Funfact, nicht Faktab.
• 1:32:00
  Tim Pritlove: Ja. Da bist du jetzt in der Falle. Ich kann dich natürlich noch ein bisschen
• 1:32:04
  Tim Pritlove: coachen, wenn du willst.
• 1:32:06
  Linus Neumann: Ja? Du könntest mal ein Witzeschreiber werden. Ich brauche einen Witzeschreiber.
• 1:32:12
  Linus Neumann: Nee, ich brauche wirklich einen Witzeschreiber.
• 1:32:14
  Tim Pritlove: Naja, ist die Frage. was du machen willst, willst du, ich meine,
• 1:32:17
  Tim Pritlove: du könntest natürlich auch einfach das vertrauen, das würde ich dir ja primär
• 1:32:21
  Tim Pritlove: jetzt mal raten, ich würde ja immer auf das vertrauen, was du am besten kannst
• 1:32:25
  Tim Pritlove: und das ist ja so spontan lustig sein.
• 1:32:27
  Linus Neumann: Ja, hab ich ja auch gesagt, aber das ist ja so eine Nachrichtensendung.
• 1:32:32
  Tim Pritlove: Ja, so ziehst du den Abend halt auf. Du gehst halt hin und erzählst erstmal,
• 1:32:35
  Tim Pritlove: du bist überhaupt nicht lustig und du musst das jetzt mit allen zusammen.
• 1:32:37
  Linus Neumann: Ja, aber das macht Nico Semsrott schon.
• 1:32:40
  Tim Pritlove: Ja, aber der ist ja nicht lustig. Also der ist ja bewusst nicht lustig.
• 1:32:49
  Tim Pritlove: Ja, also da muss man irgendwie das Publikum beteiligen.
• 1:32:54
  Tim Pritlove: Da müssen die halt irgendwas reinwerfen und dann musst du dich in die Situation
• 1:32:59
  Tim Pritlove: bringen, dass du reagieren musst. Und dann läuft das.
• 1:33:04
  Linus Neumann: Ja, also funktioniert das halt nicht. Also es ist so, die haben es auch geschafft
• 1:33:08
  Linus Neumann: mit Luisa Neubauer, ist jetzt auch kein Comedian.
• 1:33:11
  Linus Neumann: Das war schon auch in Ordnung. Aber ich will auch nicht wissen,
• 1:33:14
  Linus Neumann: wie die geschwitzt haben muss davor.
• 1:33:16
  Linus Neumann: Also ich weiß ja, ich kenne sie zumindest nicht als Entertainerin.
• 1:33:21
  Linus Neumann: Als Entertainerin in einem Nachrichten-Style-Format.
• 1:33:29
  Tim Pritlove: Da musst du den Fun in den Facts finden.
• 1:33:31
  Linus Neumann: Ja. Der war auf jeden Fall gemein.
• 1:33:35
  Tim Pritlove: Aber hast du denn schon ein Thema?
• 1:33:37
  Linus Neumann: Nee. Auf die E-Mail muss ich nur antworten. Nichts hab ich. Ich hab einfach
• 1:33:41
  Linus Neumann: nur eine E-Mail, du bist dann dran. Hier werden Tickets verkauft,
• 1:33:44
  Linus Neumann: ich dir deinen Namen drauf frag.
• 1:33:46
  Linus Neumann: Und ich hab auch nicht Bescheid gesagt.
• 1:33:51
  Tim Pritlove: Ja, okay. Also ich meine, das ist ja eine Ansage.
• 1:33:57
  Tim Pritlove: Also ich ich sag ja immer, wenn man nix zu erzählen hat, weil ich besser halt.
• 1:34:04
  Linus Neumann: Aber also was mir, was zum Glück nicht, also deswegen hab ich mir das auch so
• 1:34:09
  Linus Neumann: zusammengereimt, ja, weil es also ich muss zumindest nicht den ganzen Abend gestalten.
• 1:34:16
  Linus Neumann: Also Funfacts, es ist ja so, das sollte ich vielleicht noch dazu sagen.
• 1:34:20
  Linus Neumann: Wenn da jetzt steht Funfacts mit was weiß ich, Luisa Neubauer und Marc-Uwe Kling
• 1:34:25
  Linus Neumann: oder was, Da muss die Luisa nur die Viertelstunde hinter sich bringen,
• 1:34:30
  Linus Neumann: die die Funfacts-Sendung ist und den Rest des Abends gibt es dann eben ein Hauptprogramm.
• 1:34:35
  Linus Neumann: Oder wenn da jetzt zum Beispiel Funfacts mit Heinz Strunk ist,
• 1:34:40
  Linus Neumann: dann würde ich davon ausgehen, dass der Heinz Strunk eine Viertelstunde Funfacts
• 1:34:43
  Linus Neumann: macht und wenn er dann noch Bock hat, dann gestaltet er den Abend noch ein bisschen weiter.
• 1:34:51
  Tim Pritlove: Und du musst den ganzen Abend gestalten.
• 1:34:54
  Linus Neumann: Dann muss ich wirklich nochmal mit denen reden. Hier steht, den ganzen großen
• 1:34:57
  Linus Neumann: Rest des Abends gibt es eine Mixshow der Extraklasse zu sehen.
• 1:35:01
  Linus Neumann: Mit anderen Worten, die haben noch keine Ahnung.
• 1:35:03
  Tim Pritlove: Oder sagen es zumindest nicht.
• 1:35:05
  Linus Neumann: Oder sagen es mir nicht.
• 1:35:07
  Tim Pritlove: Also wenn du wie Harald Schmidt so einen Sidekick brauchst, der von der Seite,
• 1:35:10
  Tim Pritlove: so ein paar Sprüche reinklopft.
• 1:35:13
  Linus Neumann: Du bist doch immer ein Manuel Andrak.
• 1:35:14
  Tim Pritlove: Dann kann ich das machen. Wenn dir das weiterhilft, dann musst du halt was einfallen lassen.
• 1:35:20
  Linus Neumann: Ja, ich hab nur ganz Zeit mir was einfallen zu lassen.
• 1:35:24
  Tim Pritlove: Tja. Ja Leute, ne? Schreibt's in die Kommentare.
• 1:35:27
  Linus Neumann: Was wollt ihr wählen? Welchen Funfact soll ich erzählen? Wusstet ihr,
• 1:35:31
  Linus Neumann: dass ein Regenwurm drei Därme hat?
• 1:35:33
  Tim Pritlove: Oder wir machen das mit KI, ja? Verstehst du? Wir schmeißen da einfach alle
• 1:35:36
  Tim Pritlove: Dokumente rein, alle Transkripte von Logbuch und Netzpolitik. Hier ist der Humor.
• 1:35:41
  Tim Pritlove: Das ist das Themenspektrum.
• 1:35:43
  Linus Neumann: Finde in 548 Sendungen bitte die Funfacts. Kommen wir auf eine Viertelstunde? Nein?
• 1:35:48
  Tim Pritlove: Also das wäre natürlich auch kreativ, wenn du das so aufziehst,
• 1:35:52
  Tim Pritlove: dass sozusagen die ganze Sendung vollständig AI orchestriert wurde von dir.
• 1:35:58
  Linus Neumann: Also nicht so im Sinne von... Das ist wirklich eine Drohung, ja?
• 1:36:03
  Linus Neumann: Guck mal, dann steht da irgendwie hier, das Bild einfach genommen aus der Wikipedia,
• 1:36:07
  Linus Neumann: CC, also Amsau ist alles richtig, aber CC bei alles.
• 1:36:12
  Linus Neumann: Und dann steht so, den ganzen Rest des Abends gilt eine Mixshow der Extraklasse
• 1:36:16
  Linus Neumann: und dann in Fett. Funfacts wird aufgezeichnet.
• 1:36:19
  Linus Neumann: So, Linus, wird aufgezeichnet, ne?
• 1:36:23
  Linus Neumann: No pressure.
• 1:36:24
  Tim Pritlove: You've got one shot.
• 1:36:27
  Linus Neumann: Ja, bin ich mal gespannt. In dem Theater war ich auch noch nicht.
• 1:36:29
  Linus Neumann: Und eine Woche vorher sind dann zum Beispiel hier Raoul Krauthausen,
• 1:36:33
  Linus Neumann: Anne Broer, Hilka, die ganzen großen Namen, ja?
• 1:36:42
  Tim Pritlove: Das ist sehr unterhaltsam. Aber das ist auch eine Herausforderung.
• 1:36:45
  Linus Neumann: Ja, das ist eine Herausforderung.
• 1:36:46
  Tim Pritlove: Ich würde es modern machen. Ich meine, das müsste ja sowieso das Thema sein.
• 1:36:53
  Tim Pritlove: Wenn ich mir das sonstige Themenspektrum hier anschaue, dann ist ja so KI noch
• 1:36:58
  Tim Pritlove: überhaupt gar nicht dabei. Es ist alles so politisch und so.
• 1:37:01
  Tim Pritlove: Atomkraft, hier Freiheit, Arbeitslose.
• 1:37:05
  Tim Pritlove: Jetzt kommt irgendwie der Linus, der ist ja mehr so der Techniker.
• 1:37:08
  Tim Pritlove: Da musst du natürlich dann diese Problematik machen.
• 1:37:11
  Tim Pritlove: Das heißt, so, KI Dystopie 3000,
• 1:37:15
  Tim Pritlove: Das ist ja auf jeden Fall schon mal Ja, ich meine, da ist ja auch viel Humor
• 1:37:19
  Tim Pritlove: drin, ne, in diesem ganzen KI-Thema, also, weil alle wissen ja um Halluzinationen
• 1:37:25
  Tim Pritlove: und Auswüchse Könnte auch.
• 1:37:27
  Linus Neumann: Einfach ein bisschen halluzinieren.
• 1:37:29
  Tim Pritlove: Ja.
• 1:37:29
  Linus Neumann: Du könntest.
• 1:37:31
  Tim Pritlove: Halluzinieren mit Linus Neumann.
• 1:37:34
  Linus Neumann: Guck doch mal eben in die Flasche, wie spät das ist Naja.
• 1:37:37
  Tim Pritlove: Also ich finde, das ist auf jeden Fall schon mal ein Ansatz,
• 1:37:39
  Tim Pritlove: über den man nachdenken kann und das kann auf jeden Fall ein sehr unterhaltsamer Abend werden.
• 1:37:43
  Tim Pritlove: Also dann auch gezielt mit der KI zu spielen. Du kannst natürlich dann auch
• 1:37:47
  Tim Pritlove: mit einer KI dich unterhalten, so wie das jetzt hier Bernie Sanders gerade gemacht
• 1:37:51
  Tim Pritlove: hat. Das war natürlich die andere Variante.
• 1:37:54
  Linus Neumann: Eigentlich.
• 1:37:55
  Tim Pritlove: Gibt es gerade so ein Video, kannst du mal anschauen.
• 1:37:57
  Linus Neumann: Ich kenne nur das Interview von The Onion mit Sam Altman. Das ist gelungen, ja.
• 1:38:04
  Tim Pritlove: Aber das war wahrscheinlich nicht echt. Bernie Sanders hat sich ja wirklich mit der AI unterhalten.
• 1:38:10
  Linus Neumann: Und wer hat gewonnen? Chuck Norris.
• 1:38:12
  Tim Pritlove: Naja, es war nicht wirklich ein Wettbewerb. Also ich glaube,
• 1:38:14
  Tim Pritlove: Bernie Sanders hat gewonnen.
• 1:38:18
  Tim Pritlove: Naja, wir mussten es halt Linus Way machen.
• 1:38:20
  Linus Neumann: Ja, ich bin mal gespannt. Also ich versuch's. Und wenn wir beim Scheitern...
• 1:38:24
  Tim Pritlove: Dann machen wir da einfach LNP. Mehr gibt's nicht.
• 1:38:28
  Linus Neumann: Also das hat Mastodon schon nahegelegt.
• 1:38:32
  Tim Pritlove: Was? Echt? Mastodon hat das nahegelegt. Naja, also das muss halt ein Spezial sein.
• 1:38:40
  Tim Pritlove: Und ich würde sagen, AI ist genau das Thema.
• 1:38:44
  Tim Pritlove: Da hast du eine Menge beizutragen und da kann man sich auf jeden Fall ein paar
• 1:38:48
  Tim Pritlove: lustige Sachen einfallen lassen und das ist auch unterhaltsam.
• 1:38:50
  Tim Pritlove: Das mögen die Leute, das ist ein Thema, da regt man sich gerne drüber auf.
• 1:38:54
  Linus Neumann: Aber hier dieses Sam-Oltman-Interview, ne? Was ist denn das Problem,
• 1:39:01
  Linus Neumann: was sagst du zu den Menschen, die Angst haben, dass AI ihnen den Job wegnimmt?
• 1:39:05
  Linus Neumann: Antwort, ob von einem Computer oder von einem Chinesen, dein Job war immer dafür
• 1:39:11
  Linus Neumann: da weggenommen zu werden.
• 1:39:15
  Linus Neumann: Welchen Sinn werden Menschen stiften, wenn KI jeden Aspekt unseres Lebens dominiert?
• 1:39:23
  Linus Neumann: Dann sagt er, Menschen waren immer und werden immer wichtig sein, um Werbung zu gucken.
• 1:39:32
  Linus Neumann: Das ist wirklich...
• 1:39:37
  Tim Pritlove: Da ist auf jeden Fall was zu holen. Ansonsten hast du ja noch die Möglichkeit...
• 1:39:43
  Linus Neumann: Warte, das ist auch nur das Schöne. Why did you decide to devote your life to AI?
• 1:39:48
  Linus Neumann: I just saw so much suffering in the world that needed to be automated.
• 1:39:54
  Linus Neumann: Das ist wirklich ein Wunderschöner.
• 1:39:57
  Linus Neumann: Achso, es gibt noch einen anderen Termin.
• 1:39:59
  Tim Pritlove: Ja, da kannst du üben. Da kannst du vielleicht da hinfahren.
• 1:40:02
  Linus Neumann: Nee, der ist danach.
• 1:40:03
  Tim Pritlove: Ach, das ist danach.
• 1:40:04
  Linus Neumann: Die Tage der digitalen Freiheit in Tübingen vom 15.
• 1:40:10
  Linus Neumann: Bis 17. Mai 2026. Bis zum nächsten Mal.
• 1:40:14
  Linus Neumann: Ist das da, wo der,
• 1:40:17
  Linus Neumann: Boris Palmer ist?
• 1:40:19
  Tim Pritlove: Ja, genau das ist das.
• 1:40:20
  Linus Neumann: Könnt ihr euch den mal angucken.
• 1:40:22
  Tim Pritlove: Ist auch sehr gehaltsam.
• 1:40:24
  Linus Neumann: Ich weiß nicht, ob der da eingeladen ist. Aber also die Tage der digitalen Freiheit
• 1:40:32
  Linus Neumann: in Tübingen an der Westspitze.
• 1:40:33
  Linus Neumann: Es ist das fünfte Mal, dass das stattfindet unter dem Hashtag Raute TDF5 und
• 1:40:40
  Linus Neumann: das Motto ist Freiräume verschlüsseln.
• 1:40:42
  Linus Neumann: Es geht um digitale Freiheit, Datenschutz, Netzpolitik und Technik,
• 1:40:46
  Linus Neumann: Workshops, Diskussionen und natürlich ist die Idee zu vernetzen,
• 1:40:52
  Linus Neumann: sich auszutauschen und einen Raum für Kreativität zu bieten.
• 1:40:58
  Linus Neumann: Spezifisch richtet sich das nicht nur an das Chaos, also Mitglieder,
• 1:41:03
  Linus Neumann: Freundinnen und Freunde des Chaos Computer Clubs, sondern an alle,
• 1:41:06
  Linus Neumann: die einem Leben in Freiheit und Selbstbestimmung in der digitalen Gesellschaft
• 1:41:09
  Linus Neumann: immer noch Interesse schenken.
• 1:41:12
  Linus Neumann: Kostenloser Eintritt, kann man da natürlich auch gerne was spenden.
• 1:41:16
  Linus Neumann: Man kann, glaube ich, auch noch Programm einreichen.
• 1:41:20
  Linus Neumann: Ja, es gibt noch den CFP, der ist auch bei uns in den in den Shownotes verlinkt.
• 1:41:27
  Linus Neumann: Dann könnt ihr da eine Einreichung machen.
• 1:41:31
  Linus Neumann: Man könnte da hingehen.
• 1:41:34
  Linus Neumann: Was gibt es noch? Vorbereitung, Veranstaltung, genau. Fünfter,
• 1:41:38
  Linus Neumann: ach das ist das Himmelfahrtwochenende.
• 1:41:40
  Linus Neumann: Guck dir das an. Der 15. ist Christi Himmelfahrt. Da könnt ihr richtig schön
• 1:41:44
  Linus Neumann: mit dem Bollerwagen, Bollerwagen, Musik, Kiste Bier.
• 1:41:52
  Linus Neumann: Oh, guck mal hier. Performances und Installationen könnt ihr auch einreichen.
• 1:42:00
  Linus Neumann: Also Kunst, Kreativität und Schönheit. Raum, Gebühnen, Projektraum, Hackcenter.
• 1:42:08
  Linus Neumann: Und ja, Kunstprojekte. Das ist schon alles sehr spannend.
• 1:42:14
  Linus Neumann: Und die Helferinnen heißen da nicht Engel, sondern Elfen.
• 1:42:22
  Tim Pritlove: Oh.
• 1:42:22
  Linus Neumann: Ja. Neben den Inhalten lebt das Event auch wir kennen den Begriff aus dem An.
• 1:42:33
  Tim Pritlove: Okay. Hauptsache man kriegt den danach auch wieder weg.
• 1:42:39
  Linus Neumann: Elfen ist ein Begriff, den man nicht mehr verwenden darf. Aber er wurde in manchen
• 1:42:44
  Linus Neumann: Kontexten, bevor jetzt der...
• 1:42:46
  Tim Pritlove: Den darf man nicht mehr verwenden, ich fand den super.
• 1:42:48
  Linus Neumann: Ist auch ein sehr guter Begriff. Also eine Elfe...
• 1:42:51
  Tim Pritlove: Nein, das erklären wir jetzt nicht.
• 1:42:53
  Linus Neumann: Das müssen wir erklären.
• 1:42:54
  Tim Pritlove: Was? Ist das nicht Geheimwissen?
• 1:43:00
  Linus Neumann: Im Elfenheim gibt es Mineralwasser und Snacks.
• 1:43:09
  Linus Neumann: Das Elfen-System ist wunderbar. Dort kannst du dich als Elfe registrieren.
• 1:43:17
  Tim Pritlove: Super.
• 1:43:22
  Linus Neumann: Das ist auch ein Elfen-System.
• 1:43:27
  Tim Pritlove: Das erklären wir jetzt nicht.
• 1:43:29
  Linus Neumann: Das müssen wir erklären.
• 1:43:32
  Tim Pritlove: Okay, das musst du aber ohne.
• 1:43:35
  Linus Neumann: Erklär mir die nächsten Sendung.
• 1:43:38
  Tim Pritlove: Ihr ratet jetzt erstmal.
• 1:43:40
  Linus Neumann: Ihr könnt in den Kommentaren erraten, was denn so eine Elfe ist.
• 1:43:43
  Tim Pritlove: Ja, genau. Warum wir das jetzt lustig finden.
• 1:43:48
  Linus Neumann: Ja, müssen wir auch wirklich dran denken.
• 1:43:50
  Tim Pritlove: Okay. Okay, gut, dann machen wir.
• 1:43:53
  Linus Neumann: Ich registriere mich schon mal.
• 1:43:57
  Tim Pritlove: Ich mach Mittwoch bis Freitag den Tagplatz.
• 1:44:02
  Tim Pritlove: Das kann aber lange dauern. Oh Mann.
• 1:44:10
  Tim Pritlove: Ich glaub, die Sendung ist jetzt zum Ende gekommen.
• 1:44:13
  Linus Neumann: Ich hätte vielleicht auch noch ein paar Elfen, die kann ich da mal entschicken.
• 1:44:23
  Tim Pritlove: Ja, Leute, das war's. Erstmal wieder von uns. Hat ja nur drei Wochen gedauert.
• 1:44:30
  Tim Pritlove: Wir bemühen uns, dass es nicht wieder so lange dauert.
• 1:44:33
  Linus Neumann: Noch ein bisschen in den Timber 11.
• 1:44:38
  Tim Pritlove: Komm, wir winken jetzt mal. Tschüss.
• 1:44:41
  Linus Neumann: Ciao, ciao.
• 1:44:41
  Tim Pritlove: Bis bald.
• 1:44:42
  Linus Neumann: Tschüss.