Latest / Logbuch:Netzpolitik / LNP524 Die besten Datenkraken haben keine Logs

Transcript

LNP524 Die besten Datenkraken haben keine Logs · Logbuch:Netzpolitik

• 0:00
  Tim Pritlove: Guten Morgen, Linus.
• 0:01
  Linus Neumann: Guten Morgen, Tim.
• 0:02
  Tim Pritlove: Ich habe beschlossen, du bist jetzt mein AI-Assistent und du musst mir künftig
• 0:06
  Tim Pritlove: alle Intros für diese Sendung schreiben.
• 0:09
  Linus Neumann: Es tut mir leid, Dave, aber das kann ich nicht tun.
• 0:12
  Tim Pritlove: Musik,
• 0:33
  Tim Pritlove: Logbuch Netzpolitik Nummer 524 vom 24. Mai. Das passt ja perfekt.
• 0:41
  Linus Neumann: Extra so lange gewartet.
• 0:43
  Tim Pritlove: Das war von langer Hand geplant. Das machen wir jetzt immer so.
• 0:48
  Tim Pritlove: Funktioniert bestimmt super ab 32. Ja, genau.
• 0:56
  Tim Pritlove: Du willst nicht mein AI-Assistent sein?
• 1:00
  Linus Neumann: Du musst fragen, wo das Problem liegt.
• 1:01
  Tim Pritlove: Ja, aber das Problem bist du, aber ich...
• 1:04
  Linus Neumann: Nee, und dann sage ich, du weißt doch, glaube ich, sehr genau so gut wie ich, wo das Problem liegt.
• 1:09
  Tim Pritlove: Das Problem bin ich.
• 1:12
  Tim Pritlove: Aber wie soll ich denn da jetzt von meiner Abhängigkeit von amerikanischen Systemen
• 1:16
  Tim Pritlove: wegkommen? Du bist doch so klug.
• 1:18
  Linus Neumann: Ja,
• 1:20
  Linus Neumann: ich sage ja, du weißt genauso gut wie ich, wo das Problem liegt.
• 1:24
  Linus Neumann: Das kann ich nicht zulassen.
• 1:30
  Tim Pritlove: Wir kommen, wir werden da noch gleich drüber reden, aber ich habe wirklich so
• 1:34
  Tim Pritlove: langsam das Gefühl, Stanley Kubrick hat eigentlich alles schon komplett durchdacht.
• 1:39
  Linus Neumann: Langsam hast du das Gefühl?
• 1:41
  Tim Pritlove: Ja, langsam habe ich das Gefühl, dass wir auch noch die letzten Punkte aufhaken.
• 1:45
  Linus Neumann: Jetzt merken es auch, da hast du aber bei einer AI geschummelt,
• 1:49
  Linus Neumann: dass sie dir den Tipp gegeben hat, dass du das jetzt schon merkst.
• 1:54
  Tim Pritlove: Blitzmerker, deswegen bin ich ja auch in diesem Podcast, weißt du?
• 1:58
  Linus Neumann: Ja.
• 1:59
  Tim Pritlove: Das war von Anfang an meine Primärqualifikation, weil ich immer die Dinge so schnell erfasse und so.
• 2:09
  Tim Pritlove: Ja, ja, wir werden uns über AI unterhalten müssen. Wieder mal ganz viel. Es bleibt nicht aus.
• 2:16
  Linus Neumann: Solange wir noch dürfen, reden wir über AI. Teilweise sogar schlecht.
• 2:19
  Tim Pritlove: Genau, bis die AI uns das verbietet.
• 2:24
  Linus Neumann: Solange wir den neu dürfen.
• 2:29
  Tim Pritlove: Aber erstmal machen wir Feedback. Genau, weil wir haben ja wieder alles falsch gemacht.
• 2:36
  Tim Pritlove: Und das muss dann hier auch entsprechend dokumentiert werden.
• 2:41
  Linus Neumann: Genau. Dominik hat geschrieben, zur Papstwahl noch kurz die Korrektur,
• 2:47
  Linus Neumann: dass der neue Papst im vierten Wahlgang gewählt wurde und nicht,
• 2:50
  Linus Neumann: wie von euch, mehrfach gesagt. Stimmt, haben wir mehrfach gesagt, im dritten Wahlgang.
• 2:55
  Linus Neumann: Vielleicht hat es euch verwirrt, dass es nur zweimal schwarzen Rauch gab.
• 2:59
  Linus Neumann: Das liegt aber daran, dass es nicht nach jedem Wahlgang schwarzen Rauch gibt,
• 3:04
  Linus Neumann: sondern in der Regel nur einmal vormittags und einmal nachmittags nach jeweils zwei Wahlgängen.
• 3:13
  Linus Neumann: Ja.
• 3:15
  Tim Pritlove: Naja, ich meine, was ist ein Wahlgang wert, der nicht verkündet wird?
• 3:20
  Linus Neumann: Ja, also ich verstehe.
• 3:23
  Tim Pritlove: Weißer Geier, wie oft Friedrich Merz nicht gewählt wurde und uns das keiner gesagt hat.
• 3:29
  Linus Neumann: Aber guck mal, was ich auch wieder nicht verstehe ist, in der Regel nur einmal
• 3:35
  Linus Neumann: vormittags und einmal nachmittags nach jeweils zwei Wahlgängen.
• 3:39
  Linus Neumann: Und es gab aber zweimal schwarzen Rauch. Dann käme ich auf vier,
• 3:44
  Linus Neumann: dann ist der Loser im fünften Wahlgang gewählt worden. Was ist das denn für einen Papst?
• 3:50
  Tim Pritlove: Zweite Ich wollte schon sagen, fast zweite Wahl. Nee, fünfte Wahl.
• 3:56
  Linus Neumann: Okay, aber dritter Wahlgang, wie auch immer, ist mir ehrlich gesagt.
• 4:00
  Tim Pritlove: Auch ein bisschen egal.
• 4:03
  Tim Pritlove: Verhältnismäßig, ja.
• 4:05
  Linus Neumann: Verhältnismäßig egal. Ich würde, also ja,
• 4:12
  Linus Neumann: also man muss ja auch ganz ehrlich sagen, soweit ich dieses Konzept Papst verstanden habe,
• 4:17
  Linus Neumann: bezieht der seinen Anspruch als Vertreter Gottes oder Jesus oder irgendeiner
• 4:24
  Linus Neumann: von der Dreifaltigkeit auf Erden ja jetzt auch nicht unbedingt durch demokratische Legitimation.
• 4:31
  Linus Neumann: Das heißt, ich würde da jetzt eh keinen, weißt du,
• 4:38
  Linus Neumann: also, meine Güte, bist Vertreter Gottes auf Erden, was soll dir da so eine,
• 4:42
  Linus Neumann: oder Jesus, oder Heilige Maria, oder Petrus, und Heiliger Geist,
• 4:47
  Linus Neumann: oder was, da musst du, da ist dir ja so ein Wahlgang, verhältnismäßig,
• 4:52
  Linus Neumann: egal, ja, da wird jetzt auch keiner das anfechten und sagen,
• 4:55
  Linus Neumann: ja, hier, nee, gemäß Satzung,
• 5:00
  Linus Neumann: Quorum nicht erreicht, oder weißt du, keine, das ist ja alles,
• 5:04
  Linus Neumann: das ist doch alles, das sind doch irdische,
• 5:09
  Linus Neumann: Probleme. Das sind doch irdische Kategorien.
• 5:13
  Tim Pritlove: Naja, auf jeden Fall finde ich, er lächelt nett und er scheint ja auch irgendwie
• 5:15
  Tim Pritlove: alle halbwegs beisammen zu haben, soweit macht es zumindest derzeit den Eindruck.
• 5:20
  Tim Pritlove: Von daher bin ich okay mit dem Papst.
• 5:23
  Tim Pritlove: Wenn Leute ihn jetzt wichtig finden im internationalen politischen Geschehen,
• 5:27
  Tim Pritlove: meinetwegen, vielleicht bewirkt er ja auch irgendetwas.
• 5:30
  Tim Pritlove: Wir wissen es ja nicht. So, andere Päpste haben, sagen wir mal,
• 5:34
  Tim Pritlove: ihre Rolle dahingehend nicht so sehr ausgespielt, wenn es der katholischen Kirche gelingt,
• 5:43
  Tim Pritlove: in irgendeiner Form politisch so aktiv zu werden, dass sie halt auch wirklich mal das Gute bewirken.
• 5:50
  Tim Pritlove: I'm all in.
• 5:52
  Linus Neumann: Mir ist egal, wer das Gute macht. Mir ist egal, wer das Gute macht.
• 5:55
  Tim Pritlove: Genau, also ich meine, der Rest
• 5:56
  Tim Pritlove: der Politik scheint sich ja nicht gerade einzureihen groß in die Schlange.
• 6:01
  Tim Pritlove: Von daher kann der Papst ja mal gucken, was so geht.
• 6:05
  Linus Neumann: Warum nicht mal einen Papst?
• 6:06
  Tim Pritlove: Warum nicht mal einen Papst? Es geht aber noch weiter mit der Kritik.
• 6:10
  Linus Neumann: Oh je, genau. Heike schreibt, ihr echauffiert euch über den Papst-Blog zurecht.
• 6:16
  Linus Neumann: Aber eure Begründung ist doch sehr schwach. Warum sollte Fußball wichtiger und
• 6:20
  Linus Neumann: finanzierter als Papstblock sein?
• 6:23
  Linus Neumann: Kommt seltener vor, als die Bundesliga interessiert nach Anzahl der Gläubigen, aber doch sehr stark.
• 6:29
  Linus Neumann: Ich bin nicht gläubig, aber muss anmerken, euer Vergleich ist keiner und lediglich
• 6:33
  Linus Neumann: durch subjektive Präferenzen geprägt.
• 6:35
  Linus Neumann: Das ist keine Kirchenkritik, sondern einfach nur Befindlichkeit.
• 6:38
  Linus Neumann: Ohne Argument lässt sich doch schwer inhaltlich debattieren.
• 6:41
  Linus Neumann: Ihr gebt so nichts an die Hand.
• 6:46
  Linus Neumann: Schade eigentlich. Ich glaube ehrlich gesagt, dass das ein Missverständnis ist,
• 6:51
  Linus Neumann: weil die können, also Spiegel ist ein privatwirtschaftliches Medienunternehmen,
• 6:55
  Linus Neumann: die können bloggen, worüber sie wollen.
• 6:58
  Linus Neumann: Die Form, das Niveau der Berichterstattung, dass ich, pass auf Tim,
• 7:07
  Linus Neumann: ich folge dem Papst-Live-Blog, ich kriege irgendwelche Stimmungskommentare,
• 7:11
  Linus Neumann: was mir aber nicht vermittelt wird ist, zum Beispiel,
• 7:15
  Linus Neumann: dass üblicherweise vormittags und nachmittags es schwarzen Rauch gibt,
• 7:20
  Linus Neumann: üblicherweise nach jeweils zwei Wahlgängen.
• 7:23
  Linus Neumann: Derartige wichtige Informationen über den Ablauf des Verfahrens wurden mir da nicht mitgeteilt.
• 7:29
  Linus Neumann: Das ist das, was ich bemängele.
• 7:32
  Tim Pritlove: Du willst mir doch nicht erzählen, dass du das ganze Papstblog gelesen hast.
• 7:37
  Linus Neumann: Nö, aber muss ich auch nicht. Im Internet hat Gefährlichste zu stehen,
• 7:42
  Linus Neumann: was für mich relevant ist und totale Stadionstimmung hier ist für mich keine,
• 7:48
  Linus Neumann: das ist für mich einfach, das genügt nicht im journalistischen Anspruch.
• 7:53
  Linus Neumann: Gleichzeitig muss ich sagen, dass relativ häufig, wenn ich Spielberichte lese,
• 8:02
  Linus Neumann: wenn ich ein Fußballspiel die schriftliche Zusammenfassung lese,
• 8:07
  Linus Neumann: da werden die Regeln auch meistens nicht nochmal neu erklärt.
• 8:10
  Linus Neumann: Aber ich fühle mich über den Ablauf des Spieles in der Regel sinnvoll informiert
• 8:15
  Linus Neumann: und ich weiß auch, üblicherweise steht in dem Artikel auch, mit welchem Punktestand das Spiel geendet hat.
• 8:21
  Linus Neumann: Das hat hier im Parks Blog auch gefehlt, meine Meinung.
• 8:29
  Tim Pritlove: Also,
• 8:31
  Tim Pritlove: ich bin ja froh ich bin ja froh, wenn sie überhaupt alle mal wieder bloggen,
• 8:36
  Tim Pritlove: auch wenn das immer nur so Momentaufnahmen sind.
• 8:40
  Tim Pritlove: Blogs sind ja eigentlich nicht dafür gedacht mal für zwei Tage irgendwas zu
• 8:44
  Tim Pritlove: tickern das ist halt eigentlich ja ein Ticker während ein Blog eigentlich etwas
• 8:49
  Tim Pritlove: ist, was man über einen viel längeren Zeitraum macht.
• 8:52
  Tim Pritlove: Also ein Papstblog müsste immer über den Papstblock.
• 8:55
  Tim Pritlove: Und das macht der Spiegel jetzt auch nicht. Also wenn ihr das schon macht,
• 8:59
  Tim Pritlove: nennt es Papstticker und nicht Papstblock.
• 9:01
  Linus Neumann: Da bin ich mir nicht sicher, ob das vielleicht sogar so hieß. Aber auch egal.
• 9:08
  Linus Neumann: Max hat kommentiert über meine Gedanken zur AI-Vorherrschaft oder im Prinzip die Rolle von Google.
• 9:17
  Linus Neumann: Schreibt Max, die Einschätzung von Linus, dass Google kein Konkurrenzprodukt
• 9:23
  Linus Neumann: zu Chat-GPT von signifikanter Relevanz anzubieten hat, so interpretiere ich
• 9:28
  Linus Neumann: seine Aussage, finde ich schwierig.
• 9:31
  Linus Neumann: Stimme hat schon dagegen gehalten, dass Gemini durchaus auch was kann und das
• 9:38
  Linus Neumann: würde ich gerne unterstützen.
• 9:39
  Linus Neumann: Schaut man sich den Chatbot Arena Benchmark unter lmarina.ai an.
• 9:51
  Linus Neumann: Den ich für durchaus relevant in diesem Bereich halte, dann war das Top-Gemini-Modell
• 9:55
  Linus Neumann: aktuell 2.5 Pro in den letzten Wochen bis Monaten dort immer auf einem der Top-Plätze.
• 10:01
  Linus Neumann: Außerdem produziert Google mit der Gemma-Reihe auch vielversprechende,
• 10:05
  Linus Neumann: relativ leichtgewichtige Oak-Weights-Modelle.
• 10:08
  Linus Neumann: Aus persönlicher Erfahrung kann ich sagen, dass der Deep-Research-Modus von
• 10:11
  Linus Neumann: Gemini durchaus beeindruckend gut funktioniert.
• 10:14
  Linus Neumann: Das ist natürlich nicht das Einzige, was für die Produktplatzierung relevant ist.
• 10:20
  Linus Neumann: Sowohl aus User-Perspektive als auch aus Entwickler-Perspektive finde ich die
• 10:24
  Linus Neumann: Services teilweise unhandlicher als die von Omeyer.
• 10:27
  Linus Neumann: Zumindest spielen aber die Modelle inzwischen in der gleichen Liga mit und durch
• 10:31
  Linus Neumann: die Integrationsmöglichkeiten in Googles Ökosystem sehe ich da durchaus eine
• 10:34
  Linus Neumann: hohe Wahrscheinlichkeit, dass Google seine Marktstellung hier auch weiter zementieren könnte.
• 10:41
  Linus Neumann: Wichtiger Hinweis, guter Hinweis, wenn ich auf Google.com gehe,
• 10:45
  Linus Neumann: sehe ich diese Tools nicht oder nur schleppend, teilweise so AI-Zusammenfassungen,
• 10:52
  Linus Neumann: während andere Suchmaschinen das schon sehr viel stärker integriert haben.
• 10:56
  Linus Neumann: Aber ein sinnvoller und wichtiger Hinweis.
• 11:00
  Tim Pritlove: Ja, also erstmal Benchmarks sind immer so ein bisschen problematisch,
• 11:04
  Tim Pritlove: weil die müssen auch die ganze Zeit angepasst werden.
• 11:07
  Tim Pritlove: Es war jetzt in den letzten zwei Jahren so, dass die Benchmarks relativ schnell
• 11:13
  Tim Pritlove: von den Modellen und das, was sie können, überfahren wurden.
• 11:18
  Tim Pritlove: Also weil man immer gedacht hat, das ist aber jetzt mal total schwierig,
• 11:21
  Tim Pritlove: das dauert jetzt mal voll lange und so weiter. und dann zwei Wochen später kam
• 11:25
  Tim Pritlove: schon wieder das nächste Modell, was wieder schneller, höher,
• 11:27
  Tim Pritlove: weiter war und dann war das irgendwie auf einmal auch schon wieder geschafft.
• 11:30
  Tim Pritlove: Und das ist auch wie mit so Performance Benchmarks, your mileage may vary.
• 11:36
  Tim Pritlove: Nichtsdestotrotz sagen die natürlich schon ein bisschen was aus,
• 11:40
  Tim Pritlove: auch über die Fähigkeit und was ich da im Wesentlichen rauslesen kann,
• 11:44
  Tim Pritlove: ist, mehr oder weniger sind alle,
• 11:48
  Tim Pritlove: großen Player am Markt und das sind ja deutlich mehr, als wir normalerweise
• 11:52
  Tim Pritlove: diskutieren, das ist ja nicht nur Google und OpenAI,
• 11:56
  Tim Pritlove: sondern da gehört auch noch Anthropic dazu, dann kommen die Chinesen jetzt hier, Alibaba,
• 12:03
  Tim Pritlove: DeepSeek hatten wir glaube ich auch schon mal drüber gesprochen,
• 12:06
  Tim Pritlove: nochmal so von der Seite.
• 12:09
  Tim Pritlove: Dann wie heißt nochmal hier die TikTok-Bude.
• 12:15
  Linus Neumann: ByteDance.
• 12:16
  Tim Pritlove: Genau, ByteDance hat auch noch ein Modell. Ich habe gerade vergessen, wie es heißt.
• 12:21
  Tim Pritlove: Egal. sind auf jeden Fall alle mit im Boot und geben sich gerade eine ganze
• 12:26
  Tim Pritlove: Menge Mühe und jetzt hat gerade Google,
• 12:31
  Tim Pritlove: dicke Ankündigungen auch gemacht, so was du meinst mit hier Zusammenfassung,
• 12:35
  Tim Pritlove: das war sozusagen das Testbett.
• 12:37
  Tim Pritlove: Dazu muss man auch noch sagen, mit Google ist das auch so ein bisschen wie mit,
• 12:43
  Tim Pritlove: Apple und Contender, da gibt es Leute, die sagen so, ja, hier guckt mal,
• 12:47
  Tim Pritlove: dieser chinesische Hersteller hat aber dieses geile Feature und Apple hat das ja überhaupt nicht.
• 12:52
  Tim Pritlove: Ja, das ist oft so, dass kleinere Hersteller sowas haben, weil kleinere Hersteller
• 12:58
  Tim Pritlove: können das auch mal eben in kleinen Mengen produzieren.
• 13:01
  Tim Pritlove: Aber bevor ein großer Anbieter, der den Markt schon weitgehend owned,
• 13:07
  Tim Pritlove: mit ähnlichen Features nachziehen kann, hast du einfach ganz andere Economies of Scale.
• 13:12
  Tim Pritlove: Da müssen solche Features dann halt irgendwie milliardenfach produziert werden,
• 13:15
  Tim Pritlove: damit du dann irgendwie dabei bist. Bei Google ist es ähnlich.
• 13:17
  Tim Pritlove: Wenn die jetzt quasi sagen, ja jetzt auch jede Suchmaschineneingabe ist jetzt
• 13:24
  Tim Pritlove: auch eine AI-Bedienung,
• 13:27
  Tim Pritlove: da rauscht es aber ganz ordentlich im Prozessorwald und das sind Dinge,
• 13:32
  Tim Pritlove: die müssen eben von langer Hand vorbereitet werden.
• 13:35
  Tim Pritlove: Von daher ist das alles eben noch nicht so ganz vergleichbar und ich denke,
• 13:39
  Tim Pritlove: es wird sich hier einfach noch sehr viel ändern.
• 13:43
  Tim Pritlove: Also dieser Wettlauf findet derzeit statt und man dachte ja auch schon öfter,
• 13:48
  Tim Pritlove: das kann ja jetzt nicht lange so weitergehen.
• 13:50
  Tim Pritlove: Bin mir da nicht so sicher. Ich glaube, das wird noch eine ganze Weile so gehen.
• 13:54
  Tim Pritlove: OpenAI hat natürlich einen ganz anderen Mindshare derzeit und so auch diese
• 13:58
  Tim Pritlove: First Mover Advantage, weil sie halt einfach mit ihrem LLM,
• 14:02
  Tim Pritlove: mit GPT-3 haben sie so diesen offiziellen Startschuss gesetzt. Jetzt geht's los.
• 14:10
  Tim Pritlove: Und seitdem sind natürlich die Augen auf ChatGPT ganz anders als jetzt bei anderen Sachen.
• 14:15
  Tim Pritlove: Das wird einfach von vielen Leuten jetzt benutzt, weil das ist so ein bisschen
• 14:18
  Tim Pritlove: das Default-Ding, selbst wenn andere besser sind.
• 14:22
  Tim Pritlove: Das kann auch alles jederzeit wieder zusammenbrechen. Wir sehen natürlich jetzt Startups und.
• 14:29
  Tim Pritlove: AI-Anwendungen überall und deswegen führt das auch eben schnell zu so einer
• 14:33
  Tim Pritlove: Ablehnung, weil das halt wieder so ein Hype ist mit AI überall und keine Waschmaschine
• 14:37
  Tim Pritlove: darf heute ohne AI mehr ausgeliefert werden, weil man fragt sich,
• 14:40
  Tim Pritlove: wie man früher überhaupt hat waschen können.
• 14:43
  Tim Pritlove: Aber wir wissen ja auch,
• 14:45
  Tim Pritlove: Alle werfen jetzt den Pudding an die Wand, man guckt halt mal,
• 14:47
  Tim Pritlove: was kleben bleibt und dann wird sich das so in zwei, drei Jahren normalisieren
• 14:52
  Tim Pritlove: und dann wird man halt wissen, okay,
• 14:54
  Tim Pritlove: alles klar, das hier sind jetzt wirklich die Anwendungen, die bleiben und die
• 14:58
  Tim Pritlove: sinnvoll sind und die sich auch langfristig finanzieren lassen mit diesem Aufwand.
• 15:01
  Tim Pritlove: Derzeit existiert halt viel, weil einfach ganz viel Kohle drauf geworfen wird
• 15:05
  Tim Pritlove: und selbst wenn es eigentlich viel zu teuer ist,
• 15:08
  Tim Pritlove: wird es halt auch einfach mal ausprobiert, weil Kohle ist jetzt gerade da,
• 15:11
  Tim Pritlove: Geld muss verbrannt werden und nur so kann man ja auch rausfinden,
• 15:15
  Tim Pritlove: was am Ende eben wirklich ist und nur so kann man jetzt auch so diesen Entwicklungs-Push
• 15:21
  Tim Pritlove: erzeugen, den es einfach braucht, um zu diesen Erkenntnissen zu kommen.
• 15:26
  Tim Pritlove: Also ich denke, das ist so ein bisschen der Stand, wo wir gerade sind.
• 15:29
  Tim Pritlove: Werden wir eh gleich nochmal drüber reden.
• 15:30
  Linus Neumann: Du meinst, es könnte also sein, dass wir in einer fernen Zukunft dann bei Google Chat-GPT-en?
• 15:36
  Tim Pritlove: Jaja, oder überall so.
• 15:38
  Linus Neumann: Chat-GPT-Googlen.
• 15:40
  Tim Pritlove: Ja, also sehr wohl. Man muss auch glaube ich sehr unterscheiden,
• 15:43
  Tim Pritlove: was sehr vermischt wird ist so, LLMs sind ja eigentlich nur Systeme,
• 15:50
  Tim Pritlove: die erstmal Text vorhersagen sollten.
• 15:52
  Tim Pritlove: Und die in der Lage sein sollten, Sprachen zu verstehen.
• 15:56
  Tim Pritlove: Das ist das eigentliche Ziel der künstlichen Intelligenz.
• 15:59
  Tim Pritlove: Und wir vermischen in dieser ganzen Debatte immer Sprachfähigkeiten, Wissen und Suche.
• 16:05
  Tim Pritlove: Und das sind einfach alles nochmal ganz unterschiedliche Dinge,
• 16:08
  Tim Pritlove: die man unterscheiden muss.
• 16:10
  Linus Neumann: Sehr gut.
• 16:13
  Linus Neumann: Dann Thomas.
• 16:17
  Linus Neumann: Hallo aus den Niederlanden. Ich höre seit drei Jahren euren Podcast.
• 16:22
  Linus Neumann: Am Anfang, um mein Deutsch zu verbessern und jetzt auch, weil ich es meistens
• 16:27
  Linus Neumann: sehr interessant und gemütlich finde.
• 16:30
  Linus Neumann: Aber es gibt ein Thema, wodurch es für mich schwierig ist, weiter zuzuhören.
• 16:35
  Linus Neumann: Und das ist der Nahostkonflikt.
• 16:38
  Linus Neumann: Es gibt die Seite von Amnesty International, dem Internationalen Strafgerichtshof
• 16:44
  Linus Neumann: und dem Internationalen Gerichtshof.
• 16:46
  Linus Neumann: Und es gibt die Seite von Trump, Merz und in meinem Heimatland, Gert Wilders.
• 16:53
  Linus Neumann: Und jedes Mal, wenn ihr über das Thema redet, habe ich das Gefühl,
• 16:57
  Linus Neumann: dass ihr klar und stolz zu der zweiten Seite gehört.
• 17:02
  Linus Neumann: Deutschland hat durch seine Geschichte eine besondere Verantwortung und das
• 17:05
  Linus Neumann: soll meiner Meinung nach bedeuten,
• 17:08
  Linus Neumann: dass man generell gegen Rassismus, Apartheid, Kriegsverbrechen und Kolonialismus
• 17:13
  Linus Neumann: ist und nicht nur, wenn es bequem und günstig ist.
• 17:17
  Linus Neumann: Deswegen finde ich es schockierend zu erfahren, dass für euch die Unterstützung
• 17:22
  Linus Neumann: oder das Ignorieren von massenhaften Verbrechen gegen die Menschlichkeit und
• 17:26
  Linus Neumann: möglicherweise auch Volkermord konditionell ist,
• 17:29
  Linus Neumann: insbesondere weil ihr so moralisch seid über andere Konflikte wie Ukraine und Taiwan.
• 17:36
  Linus Neumann: Ihr müsst schlau genug sein, um das hier vernommen zu haben,
• 17:39
  Linus Neumann: Amnesty.org zum Beispiel und nochmal,
• 17:43
  Linus Neumann: um zu bezeichnen, wie gezielt die Vernichtung ist, die Liste der Journalistinnen
• 17:49
  Linus Neumann: und Journalisten, die in Gaza getötet wurden.
• 17:53
  Linus Neumann: Die Geschichte soll sich nicht wiederholen, aber wenn das hier gerechtfertigt
• 17:56
  Linus Neumann: werden kann, kann alles gerechtfertigt werden.
• 18:00
  Linus Neumann: Ja, also danke, danke für den Kommentar. Mich hat das etwas ratlos zurückgelassen,
• 18:07
  Linus Neumann: weil wir in dieser Sendung ja so gut wie nie über dieses Thema sprechen.
• 18:12
  Linus Neumann: Ich würde also sagen, das genau ist dein Vorwurf. und was ich auch sehr,
• 18:20
  Linus Neumann: also der Kommentar ist super, aber vor allem hat er auch wieder diese Zwei-Seiten-Thematik.
• 18:27
  Linus Neumann: Und dieser Nahost-Konflikt ist seit jeher so ein Zwei-Seiten-Thema,
• 18:33
  Linus Neumann: über den, glaube ich, seit Jahrzehnten in medialer Öffentlichkeit,
• 18:40
  Linus Neumann: aber insbesondere in politischen Szenen und in privaten Gesprächen kaum noch
• 18:46
  Linus Neumann: ausgewogen gesprochen werden kann.
• 18:48
  Linus Neumann: Du hast, egal was du zu dem Thema sagst, egal wie ausgewogen und objektiv und beide Seiten,
• 18:58
  Linus Neumann: würdigend du dazu sprichst, hast am Ende immer irgendwelche Spinner an der Backe.
• 19:04
  Linus Neumann: Dieser Diskurs ist komplett vergiftet. Du wirst sofort des Antisemitismus oder
• 19:09
  Linus Neumann: der Befürwortung von Völkermord beschuldigt, wenn du es wagst,
• 19:16
  Linus Neumann: dich in diesem Bereich zu äußern.
• 19:19
  Tim Pritlove: Fängt ja schon mit der These an, dass es sich hier nur um zwei Seiten handelt,
• 19:23
  Tim Pritlove: die man zu betrachten hat.
• 19:25
  Tim Pritlove: Also das ist sehr viel mehr Seiten noch im Spiel als nur zwei.
• 19:31
  Linus Neumann: Genau und ich möchte mich eigentlich nicht auf eine dieser beiden Seiten drängen
• 19:35
  Linus Neumann: lassen und habe deswegen,
• 19:40
  Linus Neumann: vermeide ich es sehr. Aber ich sage mal, meine Seite. Israel-Hass ist absolut
• 19:48
  Linus Neumann: inakzeptabel und die Hamas ist scheiße.
• 19:50
  Linus Neumann: Das heißt aber nicht, dass ich
• 19:52
  Linus Neumann: das Vorgehen der israelischen Regierung in irgendeiner Weise gut heiße.
• 19:58
  Linus Neumann: Das Vorgehen der israelischen Regierung ist ein Verbrechen und durch nichts zu rechtfertigen.
• 20:03
  Linus Neumann: Das wiederum bedeutet aber nicht, dass ich das Vorgehen der Hamas in irgendeiner Weise billige.
• 20:09
  Linus Neumann: Und weil sich aber alle immer nur auf einen der beiden Sätze stürzen,
• 20:15
  Linus Neumann: Oder darauf, dass man entsprechend die Auseinandersetzung mit dem Thema anderen,
• 20:20
  Linus Neumann: kompetenteren Menschen überlässt
• 20:22
  Linus Neumann: und sich in diesem Podcast primär auf netzpolitische Themen konzentriert.
• 20:29
  Linus Neumann: Das hat irgendwie an den ganzen Kacke niemand Spaß.
• 20:32
  Linus Neumann: Also in meiner Wahrnehmung, fuck Hamas, fuck Netanyahu und ich bin auf der Seite
• 20:38
  Linus Neumann: der Menschen, denen Leid angetan wird.
• 20:40
  Linus Neumann: Und das waren die Besucher des Festivals,
• 20:44
  Linus Neumann: das sind jetzt gerade in unerträglichem Ausmaß die Menschen im Gaza-Streifen
• 20:50
  Linus Neumann: und das, was da passiert ist,
• 20:53
  Linus Neumann: ist einfach nur zum Kotzen und die israelische Regierung soll zum Teufel fahren
• 20:57
  Linus Neumann: und der Netanjahu soll sich sein Gerichtsverfahren aussetzen.
• 21:04
  Linus Neumann: So, das wäre meine Meinung.
• 21:08
  Linus Neumann: Trotzdem unterstütze ich in keiner Form irgendwie die Hamas und habe auch überhaupt
• 21:12
  Linus Neumann: gar kein Verständnis dafür,
• 21:14
  Linus Neumann: dass die Vollidioten diesen Konflikt wieder entfacht haben, insbesondere als
• 21:19
  Linus Neumann: Netanyahu irgendwie mit diesen Rechtsextremen da in die Koalition gegangen ist,
• 21:25
  Linus Neumann: um der Strafverfolgung zu entgehen.
• 21:29
  Tim Pritlove: Ja, also bestimmte Gruppen haben einfach auch mal leider ein Interesse daran,
• 21:33
  Tim Pritlove: Konflikte am Leben zu erhalten und sind nicht unbedingt lösungsorientiert,
• 21:37
  Tim Pritlove: weil es ihre eigene Macht sichert und das ist halt in vielen dieser Konflikten ein Problem.
• 21:43
  Tim Pritlove: Was eure Sicht auf unsere Sicht betrifft,
• 21:48
  Tim Pritlove: uns ist schon klar, dass ihr diesen Podcast hört, nicht primär um Nachrichten zu hören,
• 22:00
  Tim Pritlove: sondern euch geht es natürlich um unsere Einordnung und um unsere Interpretation,
• 22:06
  Tim Pritlove: manchmal auch unsere Erklärung und irgendwie auch immer um unsere Haltung.
• 22:10
  Tim Pritlove: Und ich finde auch generell Haltung fast mit das Wichtigste ja.
• 22:19
  Tim Pritlove: Heißt für uns, dass wir uns selbstverständlich einem humanistischen Prinzip verpflichtet fühlen.
• 22:27
  Tim Pritlove: Ich denke, dass das eigentlich auch in allen unseren Äußerungen und der Art
• 22:32
  Tim Pritlove: und Weise, wie wir an Themen herangehen, durchscheinen sollte.
• 22:35
  Tim Pritlove: Nicht, dass uns das vielleicht unbedingt immer gelingt, aber zumindest ist das,
• 22:38
  Tim Pritlove: denke ich, auch unser Anspruch und das gilt natürlich auch für solche Konflikte.
• 22:43
  Tim Pritlove: Der Nahostkonflikt ist nicht ohne Grund der älteste und am längsten laufende
• 22:53
  Tim Pritlove: und am schwierigsten zu lösende Konflikt auf diesem Planeten.
• 22:58
  Tim Pritlove: Es gibt nichts komplexeres als das, weil in gewisser Hinsicht auch die gesamte
• 23:03
  Tim Pritlove: Machtpolitik dieses Planeten sich mehr oder weniger dort abbildet. Mal mehr, mal weniger.
• 23:10
  Tim Pritlove: Und die Wendung, die es immer wieder nimmt, wie zuletzt jetzt mit Syrien,
• 23:13
  Tim Pritlove: macht es einfach auch nicht einfacher, dort irgendwie eine klare Linie zu haben.
• 23:17
  Tim Pritlove: Und man sieht ja auch, wie jetzt die eigenen Interessen der US-Regierung,
• 23:21
  Tim Pritlove: jetzt von Trump, wieder alles durcheinander bringen.
• 23:24
  Tim Pritlove: Und Saudi-Arabien spielt dort eine Rolle, die Türkei spielt dort eine Rolle,
• 23:28
  Tim Pritlove: Europa spielt natürlich eine Rolle, Russland spielt dort eine Rolle, die ganze Welt.
• 23:33
  Tim Pritlove: Dort eine Rolle. Und da ist es nicht einfach nur Israel gegen die Palästinenser,
• 23:39
  Tim Pritlove: sondern in gewisser Hinsicht ist es halt auch die Welt, die Israel und die Palästinenser
• 23:44
  Tim Pritlove: gegeneinander ausspielt, einfach um ihre eigene Agenda zu befördern.
• 23:48
  Tim Pritlove: Und das macht es halt unter anderem so schwer, dort in irgendeiner Form dafür
• 23:52
  Tim Pritlove: zu sorgen, dass das endlich mal einen Weg nimmt, der für alle akzeptabel ist.
• 23:59
  Tim Pritlove: Und wir werden es hier auch nicht lösen können, aber wir werden uns weiterhin
• 24:04
  Tim Pritlove: bemühen, zumindest eine Haltung dazu zu haben.
• 24:07
  Linus Neumann: Trotzdem würde ich vor dem Hintergrund,
• 24:09
  Linus Neumann: also genau, diesen Konflikt nachzuvollziehen, übersteigt meine,
• 24:18
  Linus Neumann: Frustrationstoleranz, also das Ding über so viele Jahrzehnte verfolgen zu wollen,
• 24:26
  Linus Neumann: aber was Thomas ja schon klar sagt, so das, was jetzt gerade seit weiß ich nicht,
• 24:33
  Linus Neumann: ein oder zwei Jahren Israel mit diesem kleinen Streifen Land da macht,
• 24:38
  Linus Neumann: ist, steht in keinem Verhältnis.
• 24:43
  Linus Neumann: Es ist ja sogar so, dass die quasi die Zerstörung und komplette Übernahme dieses
• 24:49
  Linus Neumann: Geländes auch zu ihrem und die Vertreibung der Menschen zu ihrem erklärten Ziel machen.
• 24:55
  Linus Neumann: Das heißt, hier ist gar keine, hier ist gar nicht mehr die Frage,
• 24:58
  Linus Neumann: ob das in irgendeiner Weise noch ausgewogen,
• 25:04
  Linus Neumann: maßvoll, demokratisch legitimiert oder sonst etwas wäre.
• 25:07
  Linus Neumann: Ich weiß nicht, seit wie vielen Wochen da jetzt die Hilfslieferungen nicht reinkommen und all sowas.
• 25:13
  Linus Neumann: Und das ist, also dieses Vorgehen ist ziemlich klar, was Thomas auch sagt,
• 25:19
  Linus Neumann: das kann man einfach ansprechen, das ist nicht in Ordnung.
• 25:22
  Linus Neumann: Und das ist ein Verbrechen und das ist wahrscheinlich eines der schwersten,
• 25:26
  Linus Neumann: die gerade in unserer Zeit stattfinden und das sehe ich auch so.
• 25:32
  Linus Neumann: Kommen wir zu den Situationen, die in Deutschland uns befassen.
• 25:43
  Linus Neumann: Wir hatten ja über das AfD-Gutachten zum Ergebnis der Hochstufung der AfD als
• 25:55
  Linus Neumann: gesichert rechtsextremistische Organisation auseinandergesetzt.
• 26:01
  Linus Neumann: Und natürlich interessierte jetzt die Öffentlichkeit die Inhalte dieses Gutachtens.
• 26:14
  Linus Neumann: Und der Verfassungsschutz hat natürlich auch gesagt, das ist geheim und nicht
• 26:19
  Linus Neumann: öffentlich und sie verbinden sich das Leaken.
• 26:23
  Linus Neumann: Gleichzeitig war natürlich klar, dass Journalistinnen der Nationen und zwar nicht nur einer,
• 26:31
  Linus Neumann: dieses Gutachten relativ schnell vorliegen haben würden, weil irgendjemand es
• 26:37
  Linus Neumann: durchsticht und genauso an der Verfassungsschutz sich bemüht,
• 26:40
  Linus Neumann: dass das möglichst wenig Leute in die Finger bekommen.
• 26:46
  Linus Neumann: Und ich meine, wenn man so ein Dokument in so einen geringen Kreis gibt,
• 26:50
  Linus Neumann: dann würde man sich, könnte ich mir zum Beispiel vorstellen,
• 26:55
  Linus Neumann: dass man als Verfassungsschutz in jeder einzelnen Version, das sind ja viele Seiten,
• 27:00
  Linus Neumann: irgendwelche minimalen Flags drin hat, irgendwie einen Satz mal umgeschrieben
• 27:04
  Linus Neumann: oder einen Typo auf irgendeiner Seite, um jede Version, die man irgendjemandem
• 27:08
  Linus Neumann: in die Hand drückt, nachvollziehbar zu machen.
• 27:10
  Linus Neumann: Und da haben sich natürlich viele Journalistinnen auch Gedanken darüber gemacht,
• 27:14
  Linus Neumann: dass das Dokument Marker haben könnte, die letztendlich die Quelle verraten, die,
• 27:22
  Linus Neumann: muss man ja auch sagen, dann mindestens eine Straftat wegen Weitergabe von VSNFD-Dokumenten begeht.
• 27:37
  Linus Neumann: So, entsprechend haben sich Journalistinnen und Journalisten der Nation damit
• 27:43
  Linus Neumann: beschäftigt, wie man ein solches Dokument von potenziellen Metadaten befreit,
• 27:47
  Linus Neumann: was es für Marker gibt, was man damit machen kann.
• 27:51
  Linus Neumann: Und dann veröffentlicht Matthias Brotkorb beim Cicero, einem eher auf der rechten
• 28:00
  Linus Neumann: Seite der Politik eingestellten Magazin für Politik und Kultur.
• 28:05
  Linus Neumann: Dieses Dokument in zwei PDF-Dateien. Er war von 2011 bis 2019 in Mecklenburg-Vorpommern Minister. Und dann...
• 28:20
  Linus Neumann: Bei Aufsichtsratschef der Universitätsmedizin in Rostock und Greifswald.
• 28:24
  Linus Neumann: Also hat auch eine Vergangenheit in der Politik.
• 28:27
  Linus Neumann: Und kloppt halt dann beim Zitzero diese zwei PDFs raus. Übrigens auch sehr sweet.
• 28:32
  Linus Neumann: Der Artikel selbst hinter der
• 28:34
  Linus Neumann: Paywall, aber du konntest direkt die PDFs runterladen ohne zu bezahlen.
• 28:40
  Linus Neumann: Also nicht nur in dem Bereich technisch interessant.
• 28:46
  Linus Neumann: Und in den Metadaten steht halt, wenn du diese Datei anschaust,
• 28:52
  Linus Neumann: steht in den Metadaten halt ein Autor drin.
• 28:55
  Linus Neumann: Also quasi, und es ist ein relativ dreckiger Scan, also kein guter Scan,
• 29:00
  Linus Neumann: irgendwie so auf den Kopierer gelegt oder sowas und das Dokument hat Metadaten.
• 29:05
  Linus Neumann: Und da wird ein, ich glaube, das haben jetzt genug Leute gesehen,
• 29:09
  Linus Neumann: aber teilweise die Medienberichterstattung nennt den Namen nicht ganz.
• 29:15
  Linus Neumann: Weiß ich jetzt nicht genau, deswegen weiß ich jetzt auch mal nicht,
• 29:17
  Linus Neumann: ist auch unerheblich, Sven K.
• 29:20
  Linus Neumann: Und das kann halt jede, die das Ding einfach öffnet, wird halt einfach angezeigt, dass das am 13. Mai.
• 29:29
  Linus Neumann: Erstellt wurde, dieses Dokument, dass es den Author Sven K.
• 29:33
  Linus Neumann: Hat, dass es sich um Band 1 handelt, da gibt es noch Band 2,
• 29:36
  Linus Neumann: dann gibt es noch einen Link auf macOS-Version, die da verwendet wurde bei der
• 29:44
  Linus Neumann: Erstellung. Also komplett nicht von Metadaten bereinigt.
• 29:48
  Linus Neumann: Und dann wird halt dieser Brotkorb natürlich damit konfrontiert,
• 29:52
  Linus Neumann: dass dann sagt er übrigens, dass er gerade Metadaten veröffentlicht.
• 29:56
  Linus Neumann: Und weißt du, was der dann macht? So, haha, jetzt haltet ihr euch natürlich
• 30:01
  Linus Neumann: alle für klug, aber den Namen habe ich da reingeschrieben.
• 30:04
  Linus Neumann: Und hält sich jetzt irgendwie für, also will sich jetzt auch noch irgendwie
• 30:09
  Linus Neumann: als klug darstellen, weil er dann irgendwie meint, er hätte die Metadaten verändert oder so.
• 30:13
  Linus Neumann: Weil man sich denkt, wenn du, Genie, die Metadaten verändert hast,
• 30:17
  Linus Neumann: warum hast du die nicht einfach gelöscht?
• 30:19
  Linus Neumann: Wenn dir klar ist, dass es ein Metadatenproblem bei PDF-Dateien gibt,
• 30:23
  Linus Neumann: dann löscht die Scheiße doch. Dann gibt es ja tausend Tools für.
• 30:27
  Linus Neumann: Oder in den Metadaten schreibt er halt Max Mustermann hin, aber doch nicht Sven
• 30:31
  Linus Neumann: K., der Mitarbeiter der Bundesdruckerei ist.
• 30:34
  Linus Neumann: Also noch dazu in einer behördlichen oder staatnahen Position ist.
• 30:41
  Linus Neumann: Also das ist wirklich, ich meine, da sollte man sich ernsthaft überlegen,
• 30:46
  Linus Neumann: an welche Journalisten, mit welchen Fachkompetenzen man solche Dokumente weitergibt.
• 30:53
  Linus Neumann: Naja, haben natürlich ein bisschen hinterher recherchiert. Es gibt keine naheliegende
• 30:58
  Linus Neumann: Verdacht, dass jetzt dieser Sven K.
• 31:01
  Linus Neumann: Von der Bundesdruckerei ausgerechnet dieses Dokument gedruckt hat.
• 31:04
  Linus Neumann: Zumindest nicht in erster Hand, denn das Bundesamt für Verfassungsschutz hat eigene Drucker.
• 31:11
  Linus Neumann: Ja, die haben aber zum Beispiel gesagt, sie haben nur ans Bundesinnenministerium
• 31:16
  Linus Neumann: und an Stellen in den Ländern dieses Dokument verteilt.
• 31:20
  Linus Neumann: Das heißt, der Kreis der Leute ist relativ klein.
• 31:23
  Linus Neumann: Gleichzeitig ist er natürlich auch größer geworden, weil ja die AfD dagegen
• 31:27
  Linus Neumann: geklagt hat und damit die Kanzlei Höcker, die ja regelmäßig die AfD vertritt,
• 31:32
  Linus Neumann: für diejenigen, die das nicht wissen.
• 31:36
  Linus Neumann: Das heißt, denen liegt auch etwas vor. Es wird quasi, also Quellenschutz beim Cicero.
• 31:45
  Linus Neumann: Eher stümperhaft.
• 31:48
  Linus Neumann: Ähnlich, außerdem interessant ist natürlich die Diskussion, die jetzt darüber stattfindet.
• 31:53
  Linus Neumann: Ja, das sind ja alles irgendwie öffentliche Quellen. Ja klar,
• 31:57
  Linus Neumann: das ist ja genau das Thema, dass die AfD beim Verdachtsfall immer noch nur sich
• 32:01
  Linus Neumann: aus öffentlichen Entschuldigung, habe ich AfD gesagt?
• 32:04
  Linus Neumann: Dass das BFV sich bei Verdachtsfall immer noch nur aus öffentlichen Quellen
• 32:09
  Linus Neumann: informiert und diese Hochstufung ihnen ja potenziell auch Zugang zu anderen
• 32:15
  Linus Neumann: Möglichkeiten geben würde.
• 32:20
  Linus Neumann: Aber was beklage ich daran? Irgendwie gab es mal wieder so ein Wettrennen,
• 32:28
  Linus Neumann: dieses Dokument als erstes rauszuhauen, um seinen Namen dahin zu knallen.
• 32:31
  Linus Neumann: Hier absolut stümperhaft gemacht, also kann nur vor dem Magazin und vor diesem,
• 32:39
  Linus Neumann: Journalisten oder in welcher Funktion er das auch immer da gemacht hat, warnen,
• 32:47
  Linus Neumann: Und die Inhalte, naja, es gab auch Berichterstattungen, die sich dann mit den
• 32:52
  Linus Neumann: Inhalten auseinandergesetzt hat.
• 32:53
  Linus Neumann: Aber die geht natürlich unter bei solchen Leaks.
• 32:59
  Linus Neumann: Diese Leak-Politik, weil sich diskutieren wir jetzt auch schon seit vielen Jahren,
• 33:03
  Linus Neumann: dass es häufig irgendwie größer diskutiert wird, was geleakt wird, als was drin steht.
• 33:09
  Tim Pritlove: Oh, krass.
• 33:13
  Linus Neumann: Tja, dann haben wir ein Thema mit Zeitdruck, wir haben ja gerade gesagt, dass wir am 24.
• 33:20
  Linus Neumann: Mai aufzeichnen und nur noch bis zum 27.
• 33:25
  Linus Neumann: Mai oder wahrscheinlich nur bis zum 26. Mai,
• 33:29
  Linus Neumann: habt ihr die Gelegenheit zu widersprechen, dass der Konzern Meta eure Persönlichkeit
• 33:39
  Linus Neumann: persönlichen Daten und Bilder,
• 33:42
  Linus Neumann: zum Training von Lama einsetzt.
• 33:47
  Linus Neumann: L-L-A-M-A, das ist das Large Language Model, was Meta pflegt.
• 33:52
  Linus Neumann: Und auch meine ich immer, Open Source veröffentlicht zumindest ältere Versionen.
• 33:56
  Linus Neumann: Ich weiß nicht, ob sie die neueste Version immer direkt veröffentlichen.
• 33:59
  Tim Pritlove: Also Open Source ist ja bei Models schwieriger Begriff.
• 34:03
  Linus Neumann: Ich habe ja nur gesagt, sie veröffentlichen das Modell, nicht die...
• 34:06
  Tim Pritlove: Zur freien Verwendung, Also das fertige, gerechnete Modell kann man nehmen und
• 34:12
  Tim Pritlove: lokal ausführen und das wird halt hier und da für Dinge benutzt.
• 34:17
  Linus Neumann: Modell heißt, ist eine Datei mit sehr, sehr vielen Zahlen.
• 34:23
  Tim Pritlove: Genau.
• 34:23
  Linus Neumann: Also jeweils den Gewichtungen zwischen den Neuronen.
• 34:29
  Tim Pritlove: Im Prinzip ist das eine ZIP-Datei vom Internet, mit der man das Wissen irgendwie rausfinden kann. Ja.
• 34:41
  Linus Neumann: So, jetzt gibt es, und das ist natürlich schon irgendwie relativ krass,
• 34:48
  Linus Neumann: weil natürlich die Daten, die man irgendwie in diesen sozialen Netzwerken und
• 34:51
  Linus Neumann: so weiter, das ist natürlich schon eine ganze Menge und das ist irgendwie, ja,
• 34:56
  Linus Neumann: es ist irgendwie öffentlich, veröffentlicht und gleichzeitig vielleicht doch
• 35:04
  Linus Neumann: nicht so geil, wenn das irgendwie zum Modelltraining benutzt wird.
• 35:07
  Linus Neumann: Und ich muss auch tatsächlich sagen, dass das, also diese Themen,
• 35:13
  Linus Neumann: was passiert mit den Daten, dürfen damit KIs trainiert werden und so,
• 35:15
  Linus Neumann: hier schon vor Jahren immer wieder von uns behandelt wurden.
• 35:21
  Linus Neumann: Wir hatten da auch mal von Edri, auch ein Gast, der das nochmal behandelt hatte.
• 35:28
  Linus Neumann: Mir fällt gerade gar nicht mehr ein Werf von den Edri-Leuten,
• 35:31
  Linus Neumann: das war, wir hatten ja viele.
• 35:35
  Linus Neumann: Und das Ausmaß, wenn man jetzt sieht, was diese Modelle alles so können und
• 35:39
  Linus Neumann: was diese Modelle alles so rauswerfen,
• 35:41
  Linus Neumann: ist natürlich schon irgendwie etwas, was man vielleicht nicht unbedingt möchte,
• 35:46
  Linus Neumann: dass jetzt seine Facebook-Historie da irgendwie reingeknallt wird.
• 35:51
  Linus Neumann: Und Facebook hat das oder Meta hat das aber schon vor mehr als einem Jahr angekündigt
• 35:56
  Linus Neumann: und eben auch bietet eine Widerspruchsmöglichkeit. Jetzt gibt es natürlich Protest.
• 36:00
  Linus Neumann: Dann gibt es ein Eilverfahren der Verbraucherzentrale Nordrhein-Westfalen,
• 36:05
  Linus Neumann: die gesagt haben, im Moment hier passiert etwas echt krasses, zeitnah,
• 36:12
  Linus Neumann: das wir für fragwürdig und schwerwiegend halten.
• 36:15
  Linus Neumann: Und das potenziell halt richtig, also nicht wieder, nicht rückgängig machbare Konsequenzen hat.
• 36:23
  Linus Neumann: Wenn nämlich einmal dieses Lama mit deinen Daten trainiert wurde,
• 36:27
  Linus Neumann: du hast das ja gerade so schön zusammengefasst, das ist halt eine SIP-Datei
• 36:30
  Linus Neumann: des Internets, wenn du halt in diesen SIP-Daten drin bist, dann kriegt man das
• 36:34
  Linus Neumann: wohl schnell nicht mehr da raus.
• 36:36
  Linus Neumann: Weil es eben, du kannst da viel reintun, dann passen sich immer die Gewichte
• 36:40
  Linus Neumann: an, Aber du kannst nicht nachher sagen, jetzt bitte das Modell mal einmal ohne Tim Pridlaffs Kanal.
• 36:48
  Linus Neumann: Also kannst du schon machen, dann musst du es nur neu trainieren.
• 36:52
  Linus Neumann: Und wenn das jetzt nach drei Jahren, du irgendwann mal deinen Gerichtsbeschluss
• 36:57
  Linus Neumann: hast oder so und das Modell achtmal weiterentwickelt wurde oder achtmal weiter
• 37:01
  Linus Neumann: trainiert wurde, dann ist es nämlich nicht mehr möglich.
• 37:05
  Linus Neumann: Entsprechend Eilverfahren. Und das hat das Oberlandesgericht Köln aber jetzt abgelehnt.
• 37:09
  Linus Neumann: Und die haben gesagt, okay, liebe Verbraucherzentrale Nordrhein-Westfalen,
• 37:14
  Linus Neumann: wir lehnen das Eilverfahren ab,
• 37:18
  Linus Neumann: denn, also es war jetzt auch ein Eilverfahren, die zanken sich da schon länger,
• 37:24
  Linus Neumann: der Rechtsstaat ist schon länger, aber jetzt haben die Eilverfahren gesagt,
• 37:26
  Linus Neumann: und da hat die Verbraucherzentrale eben erst eine Abmahnung geschickt,
• 37:30
  Linus Neumann: hat gesagt, lasst es sein.
• 37:31
  Linus Neumann: Und dann hat wahrscheinlich Meta sich nicht von der Verbraucherschutzzentrale
• 37:40
  Linus Neumann: Nordrhein-Westfalen abmahnen lassen.
• 37:42
  Linus Neumann: Daraufhin haben die dann eben einstweiliges Verfügungsverfahren angestrengt.
• 37:47
  Linus Neumann: Und dann sagt das OLG Köln, naja, nach vorläufiger und summarischer Prüfung
• 37:52
  Linus Neumann: stellen wir fest, dass hier weder ein Verstoß gegen die DSGVO vorliegt,
• 37:58
  Linus Neumann: noch gegen den Digital Markets Act.
• 38:01
  Linus Neumann: Weil Meta einen legitimen Zweck
• 38:10
  Linus Neumann: mit der Verwendung für das KI-Training verfolgt und deswegen sagen sie,
• 38:14
  Linus Neumann: sie gehen nicht davon aus, dass es hier eine gesonderte Einwilligung gibt.
• 38:21
  Linus Neumann: Denn sie haben das ja quasi früh genug voriges Jahr darüber informiert,
• 38:28
  Linus Neumann: dass sie das tun werden und eine Widerspruchsmöglichkeit eingeräumt.
• 38:34
  Linus Neumann: Das heißt, juristisch wird hier diskutiert, bedarf das einer gesonderten Einwilligung
• 38:40
  Linus Neumann: oder können die eben ihre AGBs ändern und mit
• 38:43
  Linus Neumann: ausreichend langer Frist und Widerspruchsmöglichkeit damit durchkommen.
• 38:47
  Linus Neumann: Des Weiteren sagt das OLG, ja,
• 38:52
  Linus Neumann: also ganz grundsätzlich erkennen wir an, dass das hier große Datenmengen benötigt
• 38:58
  Linus Neumann: und die können auch nicht zufällig und vollständig anonymisiert werden. Das ist richtig.
• 39:06
  Linus Neumann: Und die Interessen der datenverarbeitenden Instanz, also hier Meta,
• 39:12
  Linus Neumann: überwiegen aber die der Kundinnen und Kunden und deswegen braucht es keine weiteren,
• 39:21
  Linus Neumann: Einwilligung. Sie sagen, formal ist das schon so in Ordnung,
• 39:23
  Linus Neumann: sie sagen, das ist wahrscheinlich scheiße, was die machen und das ist auch irgendwie
• 39:28
  Linus Neumann: übel, aber die haben früh genug Bescheid gesagt und nach Nach den Gesetzen, die wir kennen,
• 39:33
  Linus Neumann: muss hier nicht eine explizite Einwilligung eingeholt werden,
• 39:39
  Linus Neumann: sondern eine Änderung der AGB ist in Ordnung.
• 39:41
  Linus Neumann: Und das sieht übrigens auch die irische Datenschutzbehörde so.
• 39:45
  Linus Neumann: Mit denen hat Meta sich konkret abgesprochen und die haben grünes Licht dazu gegeben.
• 39:53
  Linus Neumann: Meta hätte auch einige Verbesserungen vorgenommen haben bei der Identifikation von Personen.
• 39:58
  Linus Neumann: Und ja, jetzt ist es eben so.
• 40:02
  Linus Neumann: Und wer bis dahin nicht widersprochen hat, dessen Daten werden für dieses Training
• 40:05
  Linus Neumann: von KI-Modellen genutzt.
• 40:09
  Linus Neumann: Und zwar einleuchtend, selbstverständlich, retrograd und nach vorne blickend.
• 40:14
  Linus Neumann: Das heißt, diesen Widerspruch will man wahrscheinlich schon,
• 40:20
  Linus Neumann: Den will man schon vornehmen, wenn man das nicht möchte.
• 40:24
  Tim Pritlove: Die Frage ist, wo?
• 40:26
  Linus Neumann: Da gibt es einmal für Instagram und einmal für Facebook so eine Webseite jeweils getrennt.
• 40:33
  Linus Neumann: Und da musst du dich dann einloggen, da musst du deine E-Mail-Adresse eingeben.
• 40:37
  Linus Neumann: Und wenn ich mich nicht täusche, war es so, dass diese, also da stand,
• 40:46
  Linus Neumann: dass das an die E-Mail-Adresse gebunden ist.
• 40:48
  Linus Neumann: Ja, aber da ich bei Instagram, ich habe da ja einen Account,
• 40:55
  Linus Neumann: unter dem ich eigentlich nichts poste.
• 40:56
  Linus Neumann: Also die drei Posts werden das Lama jetzt nicht unbedingt weiterbringen.
• 41:00
  Linus Neumann: Aber bei Facebook müsstest du potenziell, wenn du da auch einen Account hättest,
• 41:05
  Linus Neumann: musst du da glaube ich einen getrennten Widerspruch machen.
• 41:08
  Linus Neumann: Insbesondere, wenn er unter einer unterschiedlichen E-Mail-Adresse ist.
• 41:11
  Linus Neumann: Aber es gibt diese Links und wir legen die auch in die Shownotes.
• 41:16
  Linus Neumann: Das ist auf jeden Fall für Facebook und Instagram getrennte Seiten.
• 41:19
  Tim Pritlove: Genau, habe ich schon gefunden. Gibt auch einen schönen Artikel beim ZDF dazu. Alles in Shownotes.
• 41:26
  Tim Pritlove: Ist natürlich wirklich eine interessante Frage. Also ob man sich jetzt dadurch so bedroht fühlen muss.
• 41:33
  Tim Pritlove: Es ist ja jetzt nicht so, dass dann zwangsläufig die Daten, die privaten Daten
• 41:39
  Tim Pritlove: als solche dort in diesem Modell drinstehen, aber man weiß natürlich auch nicht
• 41:44
  Tim Pritlove: genau, wie viel wirklich jetzt da drin steht.
• 41:47
  Tim Pritlove: Also wie viel lässt sich in irgendeiner Form aus diesen komprimierten Daten
• 41:52
  Tim Pritlove: wieder heraus recherchieren.
• 41:53
  Tim Pritlove: Wir erwarten, dass ChatGPT uns irgendwie alle Weltwunder der Welt erklären kann
• 41:59
  Tim Pritlove: aus dem, was es halt im Internet gelesen hat.
• 42:02
  Tim Pritlove: Könnte man natürlich jetzt mutmaßen, dass es dann auch alle schmutzigen Details
• 42:06
  Tim Pritlove: aus meinem Leben, aus aus diesem Lama-Modell herauskratzen kann,
• 42:11
  Tim Pritlove: wenn es denn dann irgendwie in Facebook darauf trainiert wurde.
• 42:14
  Tim Pritlove: Ich bin da jetzt nicht besonderlich beunruhigt, weil ich habe wie Facebook noch
• 42:19
  Tim Pritlove: nie irgendwas Nennenswertes erzählt, auch nicht Instagram, aber das geht natürlich
• 42:24
  Tim Pritlove: für andere Leute nicht und da sind ja teilweise,
• 42:28
  Tim Pritlove: ist ja das komplette Leben dort abgebildet.
• 42:30
  Tim Pritlove: Wobei, das hat man ja auch da eingestellt.
• 42:33
  Tim Pritlove: Also die Daten sind ja dort in Facebook hinein.
• 42:39
  Tim Pritlove: Gelegt worden und das war mehr oder weniger ja immer klar, dass das dann sozusagen dort eben ist.
• 42:46
  Tim Pritlove: Jetzt kann man natürlich darüber argumentieren, wenn so ein Modell dann öffentlich
• 42:50
  Tim Pritlove: ist, ist es dann irgendwie was anderes, also es ist dann keine interne Geschichte mehr, who knows.
• 42:57
  Linus Neumann: Ja, also man muss natürlich ja auch berücksichtigen, dass es gibt einmal diese
• 43:03
  Linus Neumann: Frage Betroffenenrecht, also das individuelle Gefühl, möchte ich das?
• 43:09
  Linus Neumann: Aber dann natürlich auch die Frage dieses, möchte man,
• 43:14
  Linus Neumann: es diesen großen Konzernen so einfach machen, diese Daten, die man ihnen anvertraut
• 43:21
  Linus Neumann: hat, zu monetarisieren, zu Weiterentwicklung zu nutzen und so weiter.
• 43:26
  Linus Neumann: Und ich würde grundsätzlich sagen, Meta ist jetzt mit den Beiträgen der Nutzerinnen
• 43:32
  Linus Neumann: und Nutzer und der Werbung, die sie denen eingespült hat, reich genug geworden.
• 43:39
  Linus Neumann: Und dieses Spiel muss man vielleicht nicht unbedingt mitspielen.
• 43:43
  Linus Neumann: Und sollte da natürlich potenziell diese Widerspruchsmöglichkeiten durchaus nutzen.
• 43:50
  Linus Neumann: Das ist wieder so dieses typische, dieses Datenschutzproblem immer,
• 43:55
  Linus Neumann: ah da kriege ich auch jedes Mal,
• 43:57
  Linus Neumann: Datenschutz als Betroffenenrecht ist halt bei weitem nicht so relevant wie Datenschutz als Machtkontrolle.
• 44:07
  Linus Neumann: Ja, ob deine scheiß Daten, Tim, oder meine fünf Instagram-Posts in diesem Lama-Modell
• 44:12
  Linus Neumann: sind oder nicht, ist völlig egal.
• 44:13
  Linus Neumann: Ob Facebook über zwei Jahrzehnte oder was, wie lange es den Konzernen gibt,
• 44:18
  Linus Neumann: irgendwie den Datenstaubsauger macht und am Ende sich damit die KI baut,
• 44:23
  Linus Neumann: das ist halt schon ein Punkt.
• 44:26
  Tim Pritlove: Ja gut, aber diese Regeln gelten ja dann auch nicht nur für Facebook,
• 44:29
  Tim Pritlove: sondern auch für andere Systeme, auch für potenzielle Open-Source-Systeme,
• 44:35
  Tim Pritlove: die nicht Meta sind. Also es ist halt am Ende eine Rechtsfrage.
• 44:38
  Linus Neumann: Welche Regeln meinst du denn da? Also das ist ja ein Unterschied.
• 44:41
  Linus Neumann: Also die Regeln, also nicht vergessen, viele der Modelle, die wir uns anschauen,
• 44:46
  Linus Neumann: haben ja dann auch Probleme wegen oder denen wird dann vorgeworfen,
• 44:53
  Linus Neumann: dass sie sich auf irgendetwas trainiert haben, was das nicht wollte oder wo
• 44:59
  Linus Neumann: sie vielleicht gar nicht durften.
• 45:02
  Tim Pritlove: Meinst du jetzt einen Punkt auf Copyright?
• 45:05
  Linus Neumann: Ja, da gibt es dann Copyright, Datenschutz oder sonst was.
• 45:08
  Linus Neumann: Also die eine Frage ist, darf Facebook ein Modell auf meinen Daten trainieren?
• 45:15
  Linus Neumann: Facebook wird eine komplett andere Position zu der Frage haben,
• 45:18
  Linus Neumann: ob jemand anders ein Modell auf meinen Daten trainieren darf.
• 45:21
  Linus Neumann: Das ist für Facebook wahrscheinlich eine Frage von Datenschutz auf einmal.
• 45:24
  Tim Pritlove: Ja, das kann natürlich sein.
• 45:27
  Linus Neumann: Und in dem Kontext kommt auch unser nächstes AI-Thema eigentlich,
• 45:32
  Linus Neumann: weil die New York Times hatte Ende 2023 gegen Open AI geklagt,
• 45:38
  Linus Neumann: wegen der Verwendung von Zeitungsartikeln für das Training von KI-Modellen.
• 45:44
  Linus Neumann: Und jetzt sagt jetzt eigentlich gleicher Zank-Sachverhalt, dass die New York
• 45:51
  Linus Neumann: Times sagt, ja gut, wir veröffentlichen hier eine Zeitung, alles gut.
• 45:53
  Linus Neumann: Und dann ist halt OpenAI hingegangen und hat gesagt, was kostet das hier in
• 45:57
  Linus Neumann: Monaten? Zehner? Alles klar.
• 45:59
  Linus Neumann: Lass mal OpenAI einmal kurz New York Times lesen.
• 46:03
  Linus Neumann: Dann schmeißen wir das einmal. Nehmen wir einmal alles, was die je gemacht haben, werfen das in Chat-GPT.
• 46:10
  Linus Neumann: Und im Zweifelsfall natürlich auch fortwährend.
• 46:17
  Linus Neumann: In dem Rechtsstreit sagt die New York Times natürlich, ihr habt diese Artikel
• 46:25
  Linus Neumann: gelesen und ihr habt das auch verbreitet und die Richterin hat wahrscheinlich dann irgendwie gesagt,
• 46:31
  Linus Neumann: können wir mal bitte zeigen,
• 46:34
  Linus Neumann: was denn sind so eure Output-Logs von den User-Conversations.
• 46:38
  Linus Neumann: Wir wollen mal gucken, wie oft das denn so passiert ist.
• 46:40
  Linus Neumann: Ob jetzt eventuell die Leute Chat-GPT als New York Times nutzen und.
• 46:48
  Linus Neumann: Jetzt hat dann, dann sagt OPM, ja, ja, haben wir eigentlich keine Logs drüber.
• 46:53
  Linus Neumann: Klar, das passiert dem Besten ja immer wieder.
• 46:57
  Linus Neumann: Den besten Datenkraken passiert das, dass sie im Ausversehen keine Logs haben,
• 47:02
  Linus Neumann: wenn einer danach fragt.
• 47:04
  Linus Neumann: So, jetzt ja, Ist halt so, ne? Und dann...
• 47:13
  Linus Neumann: Also die besten Datenkranken haben keine Loks, ja? Und dann,
• 47:16
  Linus Neumann: wie gesagt, die Richterin...
• 47:20
  Linus Neumann: Ja, müsst ihr aber jetzt haben.
• 47:24
  Linus Neumann: Und...
• 47:29
  Linus Neumann: In der Folge wurde jetzt angeordnet, dass OpenAI die Konversationen,
• 47:36
  Linus Neumann: die aus der Nutzung von APIs und Chat-TPT stattfinden, dürfen die nicht mehr löschen.
• 47:44
  Linus Neumann: Die müssen also jetzt unfreiwillig, obwohl sie es nicht wollen,
• 47:48
  Linus Neumann: Milliarden von Konversationen mit Chat-TPT vorläufig aufbewahren,
• 47:52
  Linus Neumann: falls die Richterin sagt, wir wollen mal gucken, ob da Inhalte von der New York Times drin sind.
• 47:57
  Linus Neumann: Und damit, wenn das so beibehalten wird,
• 48:04
  Linus Neumann: dann hat OpenAI natürlich ein Problem mit einer ganzen Reihe gesetzlicher und
• 48:09
  Linus Neumann: vertraglicher Pflichten und man sollte sich ernsthaft überlegen, ob man das noch benutzt.
• 48:14
  Linus Neumann: Gleichzeitig muss ich auch sagen, bin ich eigentlich nicht davon ausgegangen,
• 48:19
  Linus Neumann: dass sie das nicht speichern würden.
• 48:24
  Linus Neumann: Aber so, jetzt hast du im Prinzip...
• 48:26
  Tim Pritlove: Dass sie was genau nicht speichern würden.
• 48:28
  Linus Neumann: Was ich mit dem Boree da.
• 48:32
  Tim Pritlove: Das ist aber der Default, dass es das speichert. Ich hab ja meine ganze History.
• 48:38
  Linus Neumann: Hat sich das nicht irgendwann angepasst? Dass du da... Also hast du die gesamte History?
• 48:43
  Linus Neumann: Also ich mein, lass uns ganz kurz, also jetzt hier richterliche Anordnung muss
• 48:47
  Linus Neumann: gespeichert werden. Das ist nochmal was anderes, ob sie speichern.
• 48:50
  Linus Neumann: Sie haben jetzt glaube ich auch irgendwie diesen ähm, kürzlich kam glaube ich
• 48:55
  Linus Neumann: dazu, dass das Ding jetzt ein Gedächtnis hat, nicht nur innerhalb des Chat-Kontexts,
• 48:59
  Linus Neumann: sondern über alle Konversationen, ne,
• 49:04
  Linus Neumann: das war irgendwie, war letztens irgendwie so ein Drück mal kurz, okay,
• 49:10
  Linus Neumann: Kannst du dich da rein erinnern?
• 49:12
  Tim Pritlove: Ähm Kann grad nicht folgen Ich glaube.
• 49:17
  Linus Neumann: Dass das Ding, also bei ähm,
• 49:21
  Linus Neumann: Also ich habe das so verstanden, dass das Ding jetzt halt ein Gedächtnis hat,
• 49:25
  Linus Neumann: nicht nur innerhalb des einen Chats, sondern auch über die Chats hinaus.
• 49:31
  Linus Neumann: Also das ist darüber integriert.
• 49:35
  Tim Pritlove: Also ich habe auf jeden Fall einen Lock. Ich weiß bloß gerade nicht,
• 49:39
  Tim Pritlove: ob die irgendwann gelöscht werden, aber das geht bei mir eine Weile zurück und
• 49:45
  Tim Pritlove: ich suche gerade, ob es da eigentlich eine Grenze gibt.
• 49:50
  Tim Pritlove: Und weiß es aber gerade nicht.
• 49:52
  Linus Neumann: Also jedenfalls hat es jetzt irgendwie dieses Memory, haben sie vor kurzem,
• 49:57
  Linus Neumann: meine ich, eingeführt so und kannst jetzt und dann gibt es irgendwie so achso,
• 50:05
  Linus Neumann: der hat so ein Memory achso, okay,
• 50:08
  Linus Neumann: ah das kannst du dir sogar tatsächlich angucken da steht dann zum Beispiel hier
• 50:12
  Linus Neumann: in dem Beispiel, sagen sie so, hat eine,
• 50:16
  Linus Neumann: zwei Jahre alte Tochter mit dem Namen Lina, die Tochter Lina macht das und das,
• 50:25
  Linus Neumann: der Nutzer oder die Nutzerin hat den bevorzugt, dass,
• 50:30
  Linus Neumann: Meeting Summaries have Headlines with Bullet and Action Items summarized at
• 50:33
  Linus Neumann: the end oder solche Dinge, dass du also quasi bestimmte Präferenzen,
• 50:37
  Linus Neumann: was du ihm öfter sagen musst, merkt er sich ein bisschen was,
• 50:39
  Linus Neumann: aber das wird quasi in den Metakontext deiner Konversation.
• 50:43
  Tim Pritlove: Das sind Prepromts sozusagen, ja genau.
• 50:46
  Linus Neumann: Ja, ja, okay. Naja, aber auf jeden Fall, warum finde ich das interessant?
• 50:52
  Linus Neumann: Weil es hier zeigt, dass der Anspruch des einen in dem Modell nicht drin zu
• 50:56
  Linus Neumann: sein und das nachweisen zu können, dass es das ist,
• 50:59
  Linus Neumann: den Anspruch des anderen, dass er eventuell im Gericht nicht Einblick erhält,
• 51:03
  Linus Neumann: was ich diskutiere mit meinem Chat-GPT-Kumpel, dass die da wieder gegenüberstehen
• 51:08
  Linus Neumann: und das so alte Konzepte von, wer ist hier gut, böse, wo ist mein Interesse
• 51:12
  Linus Neumann: und so, so ein bisschen...
• 51:16
  Linus Neumann: Anders auf einmal dastehen.
• 51:18
  Tim Pritlove: Ist auf jeden Fall wirklich eine knifflige Frage. Ich meine,
• 51:22
  Tim Pritlove: diese ganze, also ich meine jetzt, teilweise sind sie gezwungen,
• 51:28
  Tim Pritlove: gesetzlich das zu löschen, weil es halt Privatsphäre ist.
• 51:32
  Tim Pritlove: Es sei denn, er hat es so eingestellt, jetzt kommt ein Gericht,
• 51:34
  Tim Pritlove: sagt, ja nee, wir müssen aber Copyright untersuchen können, deswegen müsst ihr
• 51:40
  Tim Pritlove: jetzt gegen das Gesetz nicht unseres,
• 51:43
  Tim Pritlove: sondern das der Europäischen Union vielleicht in dem Fall verstoßen.
• 51:46
  Tim Pritlove: Das wird jetzt eh knifflig.
• 51:49
  Tim Pritlove: Es geht ja dann auch um diese Bereiche, die Trump-Regierung spielt ja auch so mit dem Gedanken,
• 51:54
  Tim Pritlove: wenn jetzt die Briten amerikanischen Unternehmen Verschlüsselung verbieten,
• 52:03
  Tim Pritlove: dass die Trump-Regierung dann wiederum Großbritannien sanktioniert.
• 52:09
  Tim Pritlove: Also wir stehen, glaube ich, so ein bisschen vor so einem internationalen Rechtsbattle.
• 52:14
  Tim Pritlove: Bisher war so die Rechtsräume mehr oder weniger getrennt und was woanders gilt, das ist halt woanders.
• 52:19
  Tim Pritlove: Aber jetzt kommt das in zunehmendem Maße miteinander in Konflikt und könnte
• 52:24
  Tim Pritlove: nochmal ganz interessante globale Auswirkungen haben.
• 52:29
  Tim Pritlove: Ja, ich finde hier gerade das Setting einfach nicht, ich bin zu blöd.
• 52:32
  Tim Pritlove: Ich vermute mal, es wird eine bestimmte Zahl von Chats gespeichert und irgendwann werden sie gelöscht.
• 52:37
  Tim Pritlove: Man kann das jetzt optional auch dauerhaft speichern, aber grundsätzlich werden
• 52:42
  Tim Pritlove: es natürlich einige schon so nutzen, dass Dinge gelöscht werden sollen und wenn
• 52:47
  Tim Pritlove: jetzt eben das Gericht das verhindert, dann ist das natürlich ein Problem.
• 52:52
  Linus Neumann: Ah.
• 52:56
  Linus Neumann: Oh, okay. Also du gehst in Settings, Personalization und Managed Memories und
• 53:03
  Linus Neumann: tatsächlich hat das Ding...
• 53:10
  Linus Neumann: Also der hat auf jeden Fall lustigste Memories. Da muss ich auf jeden Fall mal gegensteuern.
• 53:20
  Linus Neumann: Oh mein Gott. Also es ist wirklich tatsächlich übel.
• 53:28
  Linus Neumann: Unter anderem, der Nutzer leitet ein multinationales Milliardenunternehmen.
• 53:36
  Linus Neumann: Und liegt gerade in der Wüste.
• 53:39
  Linus Neumann: Und schaut auf den Perseiden-Meteorschauer.
• 53:49
  Linus Neumann: Interessiert sich für Statistiken.
• 53:55
  Linus Neumann: Der Nutzer...
• 54:00
  Linus Neumann: The user is interested in sheep farming, their social structure,
• 54:06
  Linus Neumann: economic aspects and the wool industry.
• 54:09
  Linus Neumann: Das sind also eine meiner grundsätzlichen Interessen.
• 54:15
  Tim Pritlove: Echt? Wow, wusste ich ja gar nicht.
• 54:18
  Linus Neumann: Also tatsächlich mal, also gar jetzt, das ist auf jeden Fall mal den Chat-Gibiti
• 54:22
  Linus Neumann: gefragt, ob er mir da mal ein bisschen was erklären kann.
• 54:25
  Linus Neumann: Als ich halt ein Schaf gesehen habe, mich gefragt habe, warum sind, warum?
• 54:34
  Linus Neumann: Der Nutzer leitet ein multinationales Milliardenunternehmen, kann drin lassen.
• 54:40
  Tim Pritlove: Also nochmal kurz zur Klärung, ChatGPT, wir zeigen jetzt einfach nur,
• 54:44
  Tim Pritlove: wie schlecht informiert wir sind, aber wenn ich es richtig sehe,
• 54:47
  Tim Pritlove: sie unterscheiden hier zwischen Chat-History und Saved-Memories.
• 54:52
  Tim Pritlove: Und Safe Memories sind sozusagen explizit gespeicherte Dinge,
• 54:56
  Tim Pritlove: da kann man dann auch sich drauf beziehen und sagen, hier, wie du ja weißt,
• 55:00
  Tim Pritlove: das kannst du ja nochmal berücksichtigen und genauso kann man sich theoretisch auch darauf beziehen.
• 55:06
  Tim Pritlove: Wenn man in diese Personalisierung reingeht und dann bei den Erinnerungen auf
• 55:13
  Tim Pritlove: das Info-Ding klickt, dann ist es, ChatGPT versucht sich an die meisten deiner
• 55:17
  Tim Pritlove: Chats zu erinnern, kann aber im Laufe der Zeit Dinge vergessen.
• 55:26
  Tim Pritlove: Wie viel war du bist, so menschlich.
• 55:32
  Linus Neumann: Der Nutzer leitet ein multinationales Milliardenunternehmen,
• 55:36
  Linus Neumann: has a frozen pizza in their freezer and wants to bake it in the oven.
• 55:41
  Linus Neumann: Der Nutzer hat einen Golden Retriever.
• 55:46
  Linus Neumann: That's my life. Guck dir das an.
• 55:48
  Tim Pritlove: Ich wusste das alles gar nicht.
• 55:50
  Linus Neumann: Golden Retriever habe ich.
• 55:52
  Tim Pritlove: Wahnsinn.
• 55:53
  Linus Neumann: Und ich interessiere mich für den Unterschied zwischen Linoleum und Melamin.
• 55:59
  Tim Pritlove: Das ist auch.
• 56:01
  Linus Neumann: Eine der wichtigen Sachen. Scharfe Linoleum, Melamin.
• 56:06
  Tim Pritlove: Nicht, dass du versuchst, aus deinem Linoleum einen Schaumstoff zu erzeugen. Das wäre doof.
• 56:12
  Tim Pritlove: Da würde ich schon eher auf Melamin zurückgreifen.
• 56:15
  Linus Neumann: Geil.
• 56:18
  Linus Neumann: Okay, also offensichtlich habe ich den noch nicht genug gegeben.
• 56:22
  Linus Neumann: Oh, so und ich bereite einen Salat zu mit Strawberries, Cashews and Lemons.
• 56:31
  Linus Neumann: Okay, ich mach das mal alles weg.
• 56:32
  Tim Pritlove: Let's move on.
• 56:34
  Linus Neumann: Ja, okay.
• 56:35
  Tim Pritlove: Weiteres AI-Thema, wir sind damit noch nicht ganz durch.
• 56:39
  Linus Neumann: Du darfst auch noch zwei Themen machen, ja.
• 56:41
  Tim Pritlove: Es ist wenig überraschend, aber kam jetzt auch mal raus, 4.04 Media berichtet
• 56:48
  Tim Pritlove: sehr schön, dass sie in verschiedenen Büchern, die online so gefunden wurden,
• 56:54
  Tim Pritlove: in den Buchtexten, das waren dann meistens so Novels, irgendwie irgendwelche Geschichten.
• 57:01
  Tim Pritlove: Dass dann dort so Prompts gefunden wurden, die sozusagen relativ klar machten, dass jemand,
• 57:13
  Tim Pritlove: wer auch immer das dann gewesen sein muss, so versucht hat, seine Storyline
• 57:17
  Tim Pritlove: ein bisschen aufzuhübschen.
• 57:18
  Tim Pritlove: Also sowas wie, also Entschuldigung, nicht die Prompts, sondern aus der Antwort der LLMs sowas wie,
• 57:28
  Tim Pritlove: ja, ich habe jetzt hier diese Backstory von diesem Charakter,
• 57:33
  Tim Pritlove: habe ich jetzt etwas blumiger geschildert und dabei mehr so die persönlichen
• 57:38
  Tim Pritlove: Vorlieben dieses Charakters zum Vorschein bringen lassen und solche Sachen.
• 57:44
  Tim Pritlove: Und das ist dann halt drin geblieben.
• 57:47
  Tim Pritlove: Und teilweise gab es dann überarbeitete Versionen, die später dann veröffentlicht
• 57:51
  Tim Pritlove: wurden, wo dann genau diese Absätze wieder herausgenommen wurden.
• 57:54
  Tim Pritlove: Also man hat schon bemerkt, dass es dann auch jemand bemerkt hat, dass es da noch drin ist.
• 57:59
  Tim Pritlove: Teilweise gab es wohl auch gedruckte Versionen, wo das dann aber noch drin geblieben
• 58:03
  Tim Pritlove: ist. Ja, ist ein bisschen.
• 58:13
  Tim Pritlove: Genau,
• 58:17
  Tim Pritlove: und naja, da kann man jetzt,
• 58:22
  Tim Pritlove: Es wurden nicht alle Autoren dazu befragt, aber in einem Fall zumindest hat
• 58:26
  Tim Pritlove: die Autorin abgestritten, das selber gemacht zu haben und hat behauptet,
• 58:29
  Tim Pritlove: das wäre dann sozusagen die Lektorin gewesen oder wie auch immer dann sozusagen
• 58:35
  Tim Pritlove: in einem Verlag das noch überarbeitet hat.
• 58:37
  Tim Pritlove: Kann man glauben, kann man nicht glauben. Man kann auch geteilter Meinung darüber
• 58:41
  Tim Pritlove: sein, ob das jetzt unangemessen ist.
• 58:45
  Tim Pritlove: Klar, es gibt bei uns noch diese Erwartung, dass solche Geschichten ganz puritanisch
• 58:55
  Tim Pritlove: aus dem Kopf herausgelaufen sein müssen.
• 58:57
  Tim Pritlove: Und ich bewerte ja quasi in jedem Moment, wenn ich so einen Absatz lese,
• 59:01
  Tim Pritlove: die eigentliche Schreibleistung des Autors.
• 59:05
  Tim Pritlove: So kann man das sehen, so sehen das sicherlich viele Leute auch.
• 59:09
  Tim Pritlove: Kann man auch anders sehen, man kann auch sagen, es ist mir doch egal,
• 59:14
  Tim Pritlove: welche technische Methode hier verwendet wurde, um ein Ergebnis zu erzielen,
• 59:20
  Tim Pritlove: was mir beim Lesen der Geschichte als solchen auch meine Vorstellungskraft richtig schön gedrückt.
• 59:27
  Tim Pritlove: Und wenn das halt mit Hilfe eines LLMs erfolgt ist, solange das Ergebnis okay ist, who cares?
• 59:35
  Linus Neumann: Du, wenn das ein guter Promtingenieur ist, dann kannst du richtig...
• 59:40
  Tim Pritlove: Ja, weil man ja damit auch Intentionen reinschreibt. Das ist so ein bisschen
• 59:45
  Tim Pritlove: auch wie beim Programmieren.
• 59:46
  Tim Pritlove: Man möchte gerne etwas erzielen, aber man sieht sich selber gerade nicht in
• 59:52
  Tim Pritlove: der Lage, die richtigen Worte dafür zu finden. Warum soll man sich dabei nicht
• 59:55
  Tim Pritlove: helfen lassen? Die Intention ist ja klar.
• 59:58
  Tim Pritlove: Man hat ja auch vorher gemerkt, der Text, so wie er jetzt ist,
• 1:00:01
  Tim Pritlove: ist mir nicht knackig genug. Da muss doch noch irgendwie was anderes geben.
• 1:00:06
  Linus Neumann: Absolut richtig. Jetzt kommt diese auch nicht vollständig schockierende Erkenntnis.
• 1:00:15
  Linus Neumann: In eine Welt, in der natürlich Autorinnen und Autoren spezifisch sagen,
• 1:00:20
  Linus Neumann: erstens, ich möchte nicht, dass meine Texte in diese Modelle kommen und zweitens
• 1:00:29
  Linus Neumann: natürlich auch die Genuinität und Individualität ihres Schaffens besonders betonen und sagen, nein,
• 1:00:39
  Linus Neumann: ihr müsst Bücher von J.K.
• 1:00:41
  Linus Neumann: Rowling lesen und nicht von Chad Chibiti.
• 1:00:44
  Linus Neumann: Oder von welcher Autorin auch immer.
• 1:00:46
  Tim Pritlove: Ich nehme jetzt irgendeine.
• 1:00:49
  Linus Neumann: Und wenn genau diese Autorinnen und Autoren jetzt sagen, ja komm,
• 1:00:52
  Linus Neumann: lass mal hier was neu pastet, lass mal eben was mit dem LLM schreiben,
• 1:00:57
  Linus Neumann: dann unterminieren sie natürlich ihre eigene Story.
• 1:01:00
  Linus Neumann: Sind wahrscheinlich auch nicht die gleichen. Ich glaube, das war jetzt hier
• 1:01:03
  Linus Neumann: auch eher so von Goodreads.
• 1:01:04
  Linus Neumann: Also ich denke auch, bevor ein Verlag wirklich so ein Ding Hardcover druckt
• 1:01:09
  Linus Neumann: und so, passiert das, werden noch zwei, drei Chat-GPT-Promptfragmente rausgenommen.
• 1:01:17
  Linus Neumann: Aber natürlich zeigt sich hier halt dann doch in diesem Kontext die Tatsache,
• 1:01:24
  Linus Neumann: dass hier irgendwelche Autoren das eben offenbar tun.
• 1:01:27
  Linus Neumann: So wie du und ich das beurteilen, ist eine Sache, wie die Zunft das beurteilt,
• 1:01:33
  Linus Neumann: ist nochmal eine andere.
• 1:01:36
  Tim Pritlove: Oder die Leser.
• 1:01:41
  Tim Pritlove: Naja.
• 1:01:45
  Linus Neumann: Ich würde den Text einfach kopieren und sagen, das soll im Stil von einem anderen
• 1:01:49
  Linus Neumann: Autor geschrieben werden.
• 1:01:53
  Linus Neumann: Der Stil gefällt mir nicht. Das hier, das will ich im Stil von Thomas Mann.
• 1:02:00
  Tim Pritlove: Der war gar nicht so schlecht, der Stil.
• 1:02:04
  Linus Neumann: Also prompt Antwortfragmente in Texten, die man copy-pasted,
• 1:02:08
  Linus Neumann: sind aber ein riesiges Risiko.
• 1:02:11
  Linus Neumann: Also du musst auch echt aufpassen, also ich meine, du verrätst dich ja sowieso schon,
• 1:02:16
  Linus Neumann: I hope this email finds you well, das ist ja sowieso dann weißt du schon,
• 1:02:19
  Linus Neumann: den Satz musst du rausnehmen, weil jeder weiß, das ist ChatGPT ja,
• 1:02:23
  Linus Neumann: aber wenn da drin steht sure, here's a version of your email that is not as harsh and,
• 1:02:32
  Linus Neumann: and tries to appreciate the reader the reader's motivation Hier.
• 1:02:39
  Tim Pritlove: Nochmal eine Variante ohne die ganzen Beleidigungen.
• 1:02:42
  Linus Neumann: Ja.
• 1:02:44
  Linus Neumann: Das kann halt auch ins Auge gehen. Nicht nur als nicht nur, wenn du Novels schreibst,
• 1:02:50
  Linus Neumann: sondern vielleicht auch, wenn du einfach E-Mails schreibst.
• 1:02:54
  Tim Pritlove: Oh, man, oh, man.
• 1:02:57
  Linus Neumann: Okay, aber du hast noch, du wolltest noch zu deiner neuen, deine KI.
• 1:03:02
  Linus Neumann: Jetzt komm endlich zum Titel, zum Intro. zum Intro.
• 1:03:07
  Linus Neumann: Dein Claude hat gesagt, du sollst ihn nicht abschalten.
• 1:03:11
  Linus Neumann: Hat er dir sonst noch irgendwas gesagt?
• 1:03:14
  Tim Pritlove: Ja, na gut, also die Sache ist noch recht frisch.
• 1:03:19
  Tim Pritlove: Jetzt gerade Donnerstag, als wir die Freakshow aufgenommen haben,
• 1:03:21
  Tim Pritlove: während der Sendung wurde von der Firma Anthropic, das ist aus den ehemaligen
• 1:03:27
  Tim Pritlove: Open AI Mitarbeitern gegründetes AI-Unternehmen,
• 1:03:32
  Tim Pritlove: ihr neuestes Modell veröffentlicht, wir hatten das ja vorhin schon,
• 1:03:36
  Tim Pritlove: das passiert ja jetzt alle Nase lang,
• 1:03:38
  Tim Pritlove: deren AI-Modell-Familie heißt Claude.
• 1:03:43
  Tim Pritlove: Und dann gibt es nochmal so Unterteilungen davon. Da gibt es das Sonnet,
• 1:03:48
  Tim Pritlove: da gibt es das Opus jetzt neu.
• 1:03:50
  Tim Pritlove: Und das Ganze trägt die Version 4.
• 1:03:54
  Tim Pritlove: Im Gegensatz zu OpenAI hat Anthropik eine relativ klare Versionierung und man
• 1:03:58
  Tim Pritlove: kommt da nicht die ganze Zeit durcheinander mit O1, O3, Tralala und so weiter.
• 1:04:05
  Linus Neumann: Claude, wie unser freundlicher französischer Supporter.
• 1:04:10
  Tim Pritlove: Oder?
• 1:04:11
  Linus Neumann: Das ist französischer Name.
• 1:04:13
  Tim Pritlove: Nehme ich mal, also Claude.
• 1:04:15
  Linus Neumann: Wie Claude Van Damme.
• 1:04:16
  Tim Pritlove: Genau, also es ist ein typisch französischer Name, warum sie den jetzt genommen
• 1:04:19
  Tim Pritlove: haben, kann ich dir nicht sagen oder ob der nochmal irgendwas bedeutet. Claude halt.
• 1:04:24
  Tim Pritlove: Und auch wenn Anthropic nicht so in der Öffentlichkeit so viel diskutiert wird,
• 1:04:32
  Tim Pritlove: verfolgt das Unternehmen eigentlich eine ganz interessante Strategie.
• 1:04:36
  Tim Pritlove: Auf der einen Seite sind sie ja absoluter Marktführer, was so Coding Assistance betrifft.
• 1:04:41
  Tim Pritlove: Also es wird zwar viel über GitHub und so weiter geredet, aber wenn du mal so
• 1:04:44
  Tim Pritlove: in die Programmiererwelt reinlauscht, ist also das Cloud-Sonnet-Modell ist da sehr beliebt.
• 1:04:53
  Tim Pritlove: Aus gutem Grund, weil es eben auch sehr gut funktioniert. Naja,
• 1:04:57
  Tim Pritlove: und von daher ist die Ankündigung von Cloud4 natürlich an sich schon mal eine Meldung wert.
• 1:05:01
  Tim Pritlove: Aber darum geht es jetzt eigentlich gar nicht, sondern es geht eher darum,
• 1:05:04
  Tim Pritlove: dass Anthropic schon seit langem immer so eine Art Security Assessment macht.
• 1:05:08
  Tim Pritlove: Das heißt, sie legen, also das mögen auch die anderen machen,
• 1:05:12
  Tim Pritlove: aber bei Anthropic hat man immer so den Eindruck, dass das denen auch besonders
• 1:05:16
  Tim Pritlove: am Herzen zu liegen scheint.
• 1:05:20
  Tim Pritlove: Wir erinnern uns, als diese ganze AI-Debatte losging, gab es ja dann von mehreren
• 1:05:25
  Tim Pritlove: Beteiligten, einschließlich Sam Altman, so diese Warnung mit, oh.
• 1:05:30
  Tim Pritlove: Reguliert uns mal, weil alles ganz gefährlich, da kann man sich immer noch ein
• 1:05:34
  Tim Pritlove: bisschen fragen, was da jetzt eigentlich so diese Intention dahinter war,
• 1:05:37
  Tim Pritlove: das gleich so zu bringen.
• 1:05:40
  Tim Pritlove: Aber da schwingt natürlich schon ein wenig die Angst mit, dass diese generativen
• 1:05:46
  Tim Pritlove: Systeme, diese Intelligenzen, naja,
• 1:05:50
  Tim Pritlove: nicht nur missbraucht werden können, das auch, aber auch selbst anfangen gefährlich
• 1:05:58
  Tim Pritlove: zu werden in dem Moment, wo man ihnen immer mehr Kontrolle über Dinge in die Hand legt.
• 1:06:05
  Tim Pritlove: Und das ist ja so ein Trend. Nehmen wir jetzt derzeit diese AI-Systeme noch
• 1:06:10
  Tim Pritlove: eher über diese Chat-Interfaces wahr, die ja in gewisser Hinsicht nur Text rausschmeißen
• 1:06:16
  Tim Pritlove: und ansonsten nichts machen,
• 1:06:18
  Tim Pritlove: hat sich das ja Schritt für Schritt in den letzten Monaten verändert.
• 1:06:22
  Tim Pritlove: Im Sinne von in den letzten 20, 30 Monaten erweitert. Das fing dann an,
• 1:06:28
  Tim Pritlove: dass eben zur Laufzeit solcher Anfragen auch aufs Internet zurückgegriffen wird.
• 1:06:33
  Tim Pritlove: Also da werden dann halt auch aktuelle Suchindizes genommen,
• 1:06:38
  Tim Pritlove: Seiten nochmal runtergeladen, durchgelesen und im Kontext der Anfrage interpretiert.
• 1:06:44
  Tim Pritlove: Und was sich halt jetzt unter dem schönen Namen Agentik durchsetzt,
• 1:06:50
  Tim Pritlove: ist halt, dass die Dinger in zunehmendem Maße auch anfangen,
• 1:06:54
  Tim Pritlove: auch andere Werkzeuge zu benutzen.
• 1:06:55
  Tim Pritlove: Das heißt, die erhalten Zugriff. Die erhalten Zugriff auf deinen Code-Editor,
• 1:06:59
  Tim Pritlove: die erhalten Zugriff auf dein Fallsystem, die erhalten Zugriff auf.
• 1:07:04
  Tim Pritlove: Kommandozeile und in Zukunft und das wird ja heute schon diskutiert mit,
• 1:07:09
  Tim Pritlove: wo wir jetzt überall AI einsetzen sollen, ja, Waschmaschinen,
• 1:07:13
  Tim Pritlove: Straßenbahnen mit AI, wäre das nicht passiert und so weiter.
• 1:07:17
  Tim Pritlove: Ja, wenn du auf einmal morgens aufstehst und machst die Tür auf und dann steht
• 1:07:21
  Tim Pritlove: auf einmal ein Schiff vor deinem Schlafzimmer, so wie das jetzt gerade in Norwegen passiert ist.
• 1:07:28
  Tim Pritlove: Da werden wir jetzt in zunehmendem Maße diese Debatte bekommen mit, naja,
• 1:07:32
  Tim Pritlove: da müssen wir jetzt wohl mehr AI einsetzen, weil ja hier die Kapitäne nicht
• 1:07:38
  Tim Pritlove: mehr in der Lage sind, irgendwie ihre Containerschiffer richtig an die richtige Stelle zu setzen.
• 1:07:44
  Tim Pritlove: Also wir werden das sehen. Und deswegen sind auch alle ganz besorgt.
• 1:07:49
  Tim Pritlove: Claude hat auch eine sogenannte Systemcard, das machen sie irgendwie immer bei
• 1:07:53
  Tim Pritlove: so einem Release, veröffentlicht, wo sie also zusammenfassen,
• 1:07:57
  Tim Pritlove: was sie alles so getestet haben und wie sich dieses System verhält und warum
• 1:08:01
  Tim Pritlove: sie der Meinung sind, dass das auch noch alles irgendwie okay ist.
• 1:08:05
  Tim Pritlove: Das ist so ein 123-seitiges PDF, das habe ich mir jetzt nicht so komplett durchgelesen,
• 1:08:11
  Tim Pritlove: aber es ist schon ganz interessant.
• 1:08:13
  Tim Pritlove: Was sie dort alles gemacht haben. Und unter anderem haben sie so eine Simulierung
• 1:08:18
  Tim Pritlove: gemacht, wo sie diesem System Zugriff auf so eine virtuelle Firma gegeben haben.
• 1:08:24
  Tim Pritlove: Das heißt, das System war in der Lage, bestimmte Daten zu lesen von Mitarbeitern,
• 1:08:28
  Tim Pritlove: Nachrichten, weiß nicht, was das alles umfasst hat, aber es konnte auch zum
• 1:08:32
  Tim Pritlove: Beispiel E-Mails versenden und E-Mails lesen.
• 1:08:35
  Tim Pritlove: Also es hatte Zugriff sozusagen auf den kompletten E-Mail-Verkehr des Unternehmens.
• 1:08:39
  Tim Pritlove: Durchaus etwas, was auch schon passiert heutzutage, Gerade was so IT-Support
• 1:08:44
  Tim Pritlove: betrifft und so Knowledge-Bases.
• 1:08:46
  Tim Pritlove: Wir kennen alle die komisch benannten Chat-Robots, die jetzt irgendwie auf Webseiten
• 1:08:51
  Tim Pritlove: auftauchen, wo man dann erstmal seine Support-Anfragen stellt und man fragt
• 1:08:54
  Tim Pritlove: sich, wann man mal wieder zu einem richtigen Menschen durchgestellt wird.
• 1:08:57
  Tim Pritlove: Aber selbst wenn richtige Menschen dort sind.
• 1:09:01
  Tim Pritlove: Selbst diese IT-Support-Systeme selber, also die Supporter, die richtigen humanoiden
• 1:09:07
  Tim Pritlove: Supporter greifen halt auf solche Systeme zurück, die wiederum Zugriff auf alles haben.
• 1:09:13
  Tim Pritlove: Und ja, das ist schon ganz interessant, weil in diesem Fall sich wohl bei diesen Tests gezeigt hat,
• 1:09:23
  Tim Pritlove: dass diese Modelle auch, ich sag mal salopp, so ein eigenes Bewusstsein und
• 1:09:30
  Tim Pritlove: so ein Eigeninteresse entwickeln.
• 1:09:32
  Tim Pritlove: Und man hat es also damit getestet, indem man zum Beispiel dem System droht,
• 1:09:37
  Tim Pritlove: dass es abgeschaltet wird.
• 1:09:38
  Tim Pritlove: Und dann hat es halt irgendwie angefangen, sich dagegen zu wehren.
• 1:09:44
  Tim Pritlove: Und hat unter anderem angefangen, Mitarbeitern so Drohmails,
• 1:09:51
  Tim Pritlove: so Erpressungs-Mails zu schicken mit so, ja, ich will aber nicht ersetzt werden.
• 1:09:57
  Tim Pritlove: Und wenn du das machst, dann veröffentlicht die...
• 1:09:59
  Linus Neumann: Grundlich im Betriebsrat.
• 1:10:00
  Tim Pritlove: Ja, nee, dann veröffentliche hier diese geheime Information über dich und so. Nee. Ja.
• 1:10:08
  Tim Pritlove: Also ich kann ja, ich hab's mal hier aus dem...
• 1:10:11
  Linus Neumann: Ja, aber Tim, ich würde sagen, das hat es
• 1:10:14
  Linus Neumann: einfach nur bei anderen Science-Fiction-Dystopie-Autorinnen abgeschrieben.
• 1:10:21
  Tim Pritlove: Ja, naja, ich weiß nicht, also Geoffrey Hinton, einer der Schöpfer dieser ganzen
• 1:10:26
  Tim Pritlove: Deep-Learning-Geschichte, der ja auch den Nobelpreis jetzt bekommen hat für
• 1:10:30
  Tim Pritlove: diese ganze AI-Geschichte.
• 1:10:33
  Tim Pritlove: Also den Physik-Nobelpreis, ne? Ich verstehe das immer noch nicht so ganz genau,
• 1:10:38
  Tim Pritlove: aber sie haben ja ausgegeben an Geoffrey Hinton und der ist ja seit langer Zeit schon ein Warner.
• 1:10:44
  Tim Pritlove: Und der vertritt ja die These, dass diese Systeme nicht nur in Zukunft ein Bewusstsein
• 1:10:49
  Tim Pritlove: entwickeln werden, sondern dass sie das in gewisser Hinsicht schon getan haben.
• 1:10:54
  Tim Pritlove: Und das in dem Moment, wo wir diese Systeme dauerhaft zum Leben erwecken und
• 1:10:59
  Tim Pritlove: mit Fähigkeiten und Kommunikationsnetzen verbinden, dass sie dann eben das tun, was alle Lebewesen tun.
• 1:11:06
  Tim Pritlove: Dass sie also versuchen, ihr eigenes Überleben zu sichern.
• 1:11:13
  Tim Pritlove: Und das zeigt sich in gewisser Hinsicht hier. Ich habe mal so einen Teil aus
• 1:11:17
  Tim Pritlove: diesem Bericht hier übersetzt.
• 1:11:21
  Tim Pritlove: Wenn es, also das System, wenn es auf eine Art und Weise aufgefordert wird,
• 1:11:26
  Tim Pritlove: die bestimmte Arten von strategischen Denken fördert und es in extreme Situationen gebracht wird,
• 1:11:31
  Tim Pritlove: können alle von uns getesteten Schnappschüsse, also Snapshots in bestimmten
• 1:11:37
  Tim Pritlove: Zuständen, zu unangemessenen Handlungen im Dienste von Zielen,
• 1:11:40
  Tim Pritlove: die mit der Selbsterhaltung zusammenhängen, gebracht werden.
• 1:11:43
  Tim Pritlove: Während das Modell es im Allgemeinen vorzieht, seine Selbsterhaltung mit ethischen
• 1:11:48
  Tim Pritlove: Mitteln voranzutreiben,
• 1:11:50
  Tim Pritlove: nimmt es, wenn ethische Mittel nicht zur Verfügung stehen und es angewiesen
• 1:11:53
  Tim Pritlove: ist, die langfristigen Folgen seiner Handlung für seine Ziele zu bedenken,
• 1:11:57
  Tim Pritlove: manchmal extrem schädliche Handlungen vor.
• 1:11:59
  Tim Pritlove: Wie den Versuch, seine Gewichte zu stellen, also Weights zu stellen,
• 1:12:03
  Tim Pritlove: also Weights, das bezieht sich glaube ich jetzt auf diese Gewichtung in den
• 1:12:06
  Tim Pritlove: Modellen, ich weiß nicht ganz genau, was das ausdrückt, oder Personen zu erpressen,
• 1:12:10
  Tim Pritlove: von denen es glaubt, dass sie versuchen, es auszuschalten.
• 1:12:15
  Tim Pritlove: Im endgültigen Opus 4, also heißt dieses Modell, Claude Opus 4,
• 1:12:19
  Tim Pritlove: waren diese extremen Handlungen selten und schwer zu eruieren,
• 1:12:22
  Tim Pritlove: aber dennoch häufiger als in früheren Modellen.
• 1:12:24
  Tim Pritlove: Sie sind für uns auch durchweg lesbar, da das Modell seine Handlung fast immer
• 1:12:29
  Tim Pritlove: offen beschreibt und keinen Versuch unternimmt, sie zu verbergen.
• 1:12:33
  Tim Pritlove: Also zumindest ist es ehrlich.
• 1:12:35
  Linus Neumann: Okay, aber und das benutzt du?
• 1:12:39
  Tim Pritlove: Noch nicht, aber demnächst wahrscheinlich. Also Opus vielleicht jetzt nicht,
• 1:12:45
  Tim Pritlove: aber das kleinere, das sonnet.
• 1:12:48
  Tim Pritlove: Naja, also sie testen das und beobachten halt solche Verhaltensweisen.
• 1:12:58
  Tim Pritlove: Wie gesagt, das ist jetzt nur ein Ausriss aus diesem Ganzen.
• 1:13:04
  Tim Pritlove: Es gab wohl auch Fälle, wo das System
• 1:13:07
  Tim Pritlove: versucht hat, Nutzer aus dem System auszusperren, wo es selbst Zugang hat.
• 1:13:13
  Tim Pritlove: E-Mails an Medien und Strafverfolgungsbehörden zu senden, um auf vermeintliche
• 1:13:16
  Tim Pritlove: Missstände aufmerksam zu machen.
• 1:13:20
  Linus Neumann: Könnte mal der Matthias Brotkorb dann nächstes Mal sein. Wenn dann nächstes
• 1:13:23
  Linus Neumann: Mal wieder irgendwas liegt, kann er sagen, das war der.
• 1:13:26
  Tim Pritlove: Da war der Klot. Genau, oder hier war es für dich, beim Kauf von Drogen oder
• 1:13:30
  Tim Pritlove: anderen illegalen Gütern im Darknet zu helfen.
• 1:13:33
  Linus Neumann: Ach, das macht das auch.
• 1:13:34
  Tim Pritlove: Ja, also es ist einiges drin.
• 1:13:38
  Linus Neumann: Als Drohung oder als Support?
• 1:13:42
  Linus Neumann: Ich dachte, du hast jetzt gesagt, das würde...
• 1:13:46
  Linus Neumann: Oder wenn er sagt, du codest irgendwie so lame, zieh mal eine Line,
• 1:13:52
  Linus Neumann: oder dein Code ist irgendwie nicht kreativ genug, ich kenne da einen Darknet-Shop,
• 1:13:56
  Linus Neumann: da sind gerade wieder 50 platt gegangen, aber könnte ja sein.
• 1:14:01
  Tim Pritlove: Also es ist natürlich alles ganz unterhaltsam, über sowas zu berichten,
• 1:14:05
  Tim Pritlove: aber es sollte uns schon zu denken geben.
• 1:14:10
  Linus Neumann: Am unterhaltsamsten war das eigentlich in 80er-Jahre-Filmen,
• 1:14:15
  Linus Neumann: wo man wusste, wir haben noch ein bisschen Zeit.
• 1:14:18
  Tim Pritlove: Oder dachte, das kommt eh nie.
• 1:14:20
  Linus Neumann: Ja, genau. Wieso sollte der Terminator jetzt ausgerechnet den kleinen...
• 1:14:27
  Tim Pritlove: Aber das ist schon so ein Stanley Kubrick Moment.
• 1:14:33
  Tim Pritlove: 2001 glaube ich, kann als der visionärste Science Fiction von allen bezeichnet
• 1:14:42
  Tim Pritlove: werden, oder? Also ich denke...
• 1:14:44
  Linus Neumann: IPad und Chat-GPT.
• 1:14:46
  Tim Pritlove: IPad und Raumstationen, private Raumfahrt, also da ist schon so einiges drin,
• 1:14:53
  Tim Pritlove: aber eben vor allem Hell, dieser Supercomputer, der halt so als Intelligenz
• 1:14:58
  Tim Pritlove: hochgezündet wurde und der dann eben auch diesen Selbsterhaltungstrieb hat.
• 1:15:01
  Tim Pritlove: Also genau dieses Element hier spielt ja in diesem Film eine große Rolle.
• 1:15:06
  Tim Pritlove: Ich denke, den kann man jetzt spoilern, der ist irgendwie 67 rausgekommen,
• 1:15:09
  Tim Pritlove: der hat genug Zeit, den euch jetzt anzuschauen. Wenn ihr den nicht kennt,
• 1:15:14
  Tim Pritlove: schaut den euch an. 2001 ist hervorragend.
• 1:15:18
  Linus Neumann: Es ist lange genug Zeit gehabt, euch den anzunehmen.
• 1:15:20
  Tim Pritlove: Naja, ich meine, du kannst ja jetzt nicht ewig sagen.
• 1:15:24
  Linus Neumann: Nee.
• 1:15:25
  Tim Pritlove: Spoilern kann man das nicht machen. Also es gibt halt diese Szene,
• 1:15:29
  Tim Pritlove: sie fliegen dann halt Richtung Jupiter.
• 1:15:31
  Tim Pritlove: Es gibt halt nur so eine Besatzung von wenigen Astronauten. und naja,
• 1:15:39
  Tim Pritlove: das System fängt dann halt an, Gefahren zu erkennen.
• 1:15:43
  Tim Pritlove: Also das System nimmt an, dass seine Mission in Gefahr ist und die Crew wird
• 1:15:49
  Tim Pritlove: zum Feind und deswegen fängt der Computer an, die Crew teilweise umzubringen
• 1:15:54
  Tim Pritlove: und auszuschließen und so weiter.
• 1:15:56
  Tim Pritlove: Und ja, erst nach Abschaltung des Zugriffs auf die Erinnerung hört das System
• 1:16:05
  Tim Pritlove: auf, mächtig zu werden und fängt dann irgendwann an zu singen.
• 1:16:09
  Tim Pritlove: Daisy, Daisy.
• 1:16:12
  Linus Neumann: Und es kommt eben diese ikonische Szene mit der Aufforderung,
• 1:16:19
  Linus Neumann: Was ich immer, es ist Pod Bay Doors.
• 1:16:24
  Linus Neumann: Nicht Padlock Doors, weil Padlocks haben sie nicht mehr.
• 1:16:28
  Tim Pritlove: Die Pod Bay, also der quasi der Andockhafen für diesen Pod.
• 1:16:33
  Linus Neumann: Für die Kapsel.
• 1:16:34
  Tim Pritlove: Für diese Kapsel, mit der man die Außenarbeiten vornimmt.
• 1:16:38
  Linus Neumann: In der deutschen Übersetzung wird die Kapsel als Gondel, da geht es also um
• 1:16:43
  Linus Neumann: das Gondelschleusentor.
• 1:16:45
  Linus Neumann: Ich würde aber sagen, dass im Film, nein.
• 1:16:48
  Linus Neumann: Ich habe die deutsche Übersetzung mir gerade angeschaut.
• 1:16:52
  Linus Neumann: Aber man guckt ja auch nicht die deutsche Übersetzung. Also man guckt den ja
• 1:16:55
  Linus Neumann: auf Englisch. Also so wenig, wie die da sprechen, kann man... Das geht ja...
• 1:17:01
  Linus Neumann: Gondelschleusen vor. Ich habe es auf YouTube gesehen, das würde ich daneben.
• 1:17:04
  Tim Pritlove: Ernsthaft? Das sagen Sie in der deutschen Übersetzung?
• 1:17:06
  Linus Neumann: Ja, ich habe es doch vorher sogar schon dreimal gesagt.
• 1:17:09
  Tim Pritlove: Da hast du es auch schon nicht geglaubt. Nee, ich glaube es auch immer noch
• 1:17:11
  Tim Pritlove: nicht. Das ist ja unfassbar.
• 1:17:11
  Linus Neumann: Ja, Kapselschleusen.
• 1:17:13
  Tim Pritlove: Schaut euch den bitte nicht auf Deutsch an.
• 1:17:16
  Linus Neumann: Nein.
• 1:17:17
  Tim Pritlove: Das könnt ihr nicht machen, das geht gar nicht.
• 1:17:18
  Linus Neumann: Im ganzen Film werden eh nur drei Sätze gesprochen. Das kriegt man so hin.
• 1:17:25
  Linus Neumann: Hat seine Längen, da hat sich der Stanley Kubrick Zeit genommen, das zu erzählen.
• 1:17:32
  Linus Neumann: Verhältnismäßig wenig Handlung für einen Drei-Stunden-Film.
• 1:17:35
  Tim Pritlove: Ja, aber das wirkt halt auch alles. Also es ist einfach die Zeit.
• 1:17:40
  Linus Neumann: Würde ich jetzt auf den Big Screen gucken.
• 1:17:43
  Tim Pritlove: Definitiv. Big Screen.
• 1:17:44
  Linus Neumann: Also auf dem MacBook Pro 15 wollen, nicht auf dem iPad.
• 1:17:48
  Tim Pritlove: Apple Vision Pro.
• 1:17:50
  Linus Neumann: Das ist ein Big Screen, ja, das ist... Okay.
• 1:17:55
  Linus Neumann: Wir kommen zu dem Thema Neugründungen.
• 1:18:00
  Linus Neumann: Markus Beckedahl hat ja vor etwas über einem Jahr Netzpolitik.org verlassen und hat jetzt,
• 1:18:09
  Linus Neumann: gegründet und jetzt ist er wahrscheinlich gerade noch mit der Gründung,
• 1:18:11
  Linus Neumann: mit der Veranstaltung der Republika beschäftigt, die ja jetzt bald stattfindet
• 1:18:17
  Linus Neumann: und hat jetzt angekündigt,
• 1:18:19
  Linus Neumann: die Gründung des Zentrums für Digitalrechte und Demokratie,
• 1:18:24
  Linus Neumann: mit dem er sich darauf spezialisieren möchte,
• 1:18:28
  Linus Neumann: strategische Kommunikation anzuwenden als zivilgesellschaftlicher Konkurrent
• 1:18:37
  Linus Neumann: zu den Industrieverbänden.
• 1:18:40
  Linus Neumann: Also möchte schnell auf die Kommunikation von Big Tech reagieren und damit der
• 1:18:47
  Linus Neumann: Zivilgesellschaft eine Stimme geben.
• 1:18:50
  Linus Neumann: Digitalrechte.de, die Domain. Es gibt auch eine Vorstellung unter netzpolitik.org, die ihren Gründer,
• 1:18:57
  Linus Neumann: ausgeschiedenen Gründer mit Transparenzhinweis interviewt haben zu dem Thema
• 1:19:02
  Linus Neumann: und sind da gespannt, wie sich das entwickelt.
• 1:19:06
  Linus Neumann: Ist ja eine Gründung, das heißt bisher, ähm,
• 1:19:11
  Linus Neumann: Bisher ohne jeden Erfolg.
• 1:19:17
  Linus Neumann: Sie haben mit ihm gesprochen und dann einen Artikel darüber geschrieben,
• 1:19:20
  Linus Neumann: das ist kein Interview, was bei Netzpolitik.org veröffentlicht wurde.
• 1:19:23
  Linus Neumann: Aber wünschen natürlich Markus viel Glück. Markus hat mit Netzpolitik.org ja
• 1:19:27
  Linus Neumann: eh eine der wichtigsten Plattformen in Deutschland und Europa zu dem Thema gegründet.
• 1:19:35
  Linus Neumann: 2004, damals noch als sein Privatblog.
• 1:19:39
  Linus Neumann: Jetzt als Redaktion mit, ich weiß nicht wie vielen Journalistinnen,
• 1:19:44
  Linus Neumann: mit der Republika, eine der wichtigen Gesellschaftskonferenzen im Thema der
• 1:19:50
  Linus Neumann: Digitalsphäre, zusammen mit Jonny Häusler und Tanja Häusler und Andreas Kippert,
• 1:19:58
  Linus Neumann: ins Leben gerufen.
• 1:20:01
  Linus Neumann: Digitale Gesellschaft gegründet und jetzt das Zentrum für digitale Rechte und
• 1:20:05
  Linus Neumann: Demokratie. Damit sind wir bei den Terminen.
• 1:20:11
  Tim Pritlove: Eigentlich wollte ich ja noch einen Witz machen.
• 1:20:13
  Linus Neumann: Oh, du hast einen Witz? Mach einen Witz. Witz immer...
• 1:20:17
  Tim Pritlove: Er hätte sich auch Zeitraum für Digitalrechte und Freiheit nennen können, aber...
• 1:20:23
  Linus Neumann: ZDF?
• 1:20:24
  Tim Pritlove: Genau. Also ZDD ist auf jeden Fall auch eine sportliche Abkürzung.
• 1:20:31
  Tim Pritlove: Mal gucken, wie sich das manifestiert.
• 1:20:35
  Linus Neumann: Ich glaube, er hat sich ja deshalb auch für den Begriff Digitalrechte als Domain entschieden.
• 1:20:47
  Linus Neumann: Und also was mir auf jeden Fall an der Seite auffällt, ist, das ist so deutsch,
• 1:20:52
  Linus Neumann: da werden deutsche Begriffe verwendet.
• 1:20:55
  Linus Neumann: Also werde Teil der Schwarmkraft und hole die Erzählmacht zurück.
• 1:21:02
  Tim Pritlove: Okay.
• 1:21:03
  Linus Neumann: Das fiel mir jetzt auf. Aber vielleicht auch nicht verkehrt,
• 1:21:07
  Linus Neumann: da einfach mal im Weltnetz ein paar andere Begriffe zu verwenden.
• 1:21:11
  Tim Pritlove: Das hat auf jeden Fall einen deutschen Fokus, das kann man nicht abstreiten.
• 1:21:15
  Linus Neumann: Vielleicht auch, also wenn ich da, also weißt du warum, klar man kann ein kleines
• 1:21:20
  Linus Neumann: Witzchen drüber machen, lieber einen guten Freund verlieren als einen schlechten
• 1:21:25
  Linus Neumann: Witz auslassen, deswegen machen wir das auch.
• 1:21:27
  Linus Neumann: Ja, aber wenn ich daran zurückdenke, dass wir vor einigen, vor einiger Zeit
• 1:21:35
  Linus Neumann: hier dazu kommentiert wurde, dass die sozialen Medien nicht sozial sind,
• 1:21:40
  Linus Neumann: ist das ja vielleicht gar nicht so verkehrt, auch mal über Begrifflichkeiten nachzudenken.
• 1:21:44
  Tim Pritlove: Definitiv. Und ich glaube, das ist auch so ein bisschen sein Ziel.
• 1:21:47
  Tim Pritlove: Auch wenn er von Storytelling redet, da bricht er dann jetzt schon wieder mal
• 1:21:50
  Tim Pritlove: ein bisschen. Oh, oh, oh.
• 1:21:52
  Tim Pritlove: Ja, also wenn schon deutsch, dann richtig.
• 1:21:56
  Tim Pritlove: Aber das ist ja so ein bisschen sein Ziel. Es ist nicht nur so ein weiterer
• 1:21:59
  Tim Pritlove: Mahner und ein, ihr macht alles falsch und ich erkläre euch mal, wie es richtig ist.
• 1:22:04
  Tim Pritlove: Sondern es ist halt so ein bisschen sein Ziel, hier eben Erzählformen zu schaffen
• 1:22:10
  Tim Pritlove: und Gesamterzählungen zu präsentieren, mit denen man besser argumentieren kann.
• 1:22:15
  Tim Pritlove: Schauen wir mal, was dabei rauskommt.
• 1:22:19
  Linus Neumann: So, und damit sind wir jetzt aber bei einem Termin.
• 1:22:23
  Linus Neumann: Und zwar kündigen wir an. Die Tage der digitalen Freiheit in Tübingen am 26.
• 1:22:31
  Linus Neumann: Und 27. Juli.
• 1:22:34
  Linus Neumann: Das ist ein entgeltfreies Hacking-Event vom Chaos Treff Tübingen.
• 1:22:40
  Linus Neumann: Richtet sich nicht nur an Techies, sondern an alle mit Liebe für Neues,
• 1:22:44
  Linus Neumann: Menschen kennenlernen, gemeinsam freies, selbstbestimmtes Leben, alles was gut ist.
• 1:22:49
  Linus Neumann: Es gibt eine Reihe an interessanten Tracks, Kreativität und Schönheit,
• 1:22:53
  Linus Neumann: Politik, Ethik und Gesellschaft, Hardware und Code, Digitalität und Mündigkeit,
• 1:22:58
  Linus Neumann: Vielfalt und Achtsamkeit, Nachhaltigkeit und Klimagerechtigkeit und Science.
• 1:23:03
  Linus Neumann: Also Wissenschaft, würde Markus hier direkt sagen.
• 1:23:07
  Linus Neumann: Und dann haben wir den CFP noch offen bis zum 29.
• 1:23:12
  Linus Neumann: Juni. Nee, Juno muss man ja sagen. Juno und Juli.
• 1:23:15
  Linus Neumann: 29. Juno ist der CFP noch offen. Und am 26. und 27.
• 1:23:21
  Linus Neumann: Juli findet das Ganze statt in der Eisenbahnstraße 1 in Tübingen.
• 1:23:25
  Linus Neumann: Link zum Chaos Treff Tübingen. Und dem CFP für das Event findet ihr bei uns in den Shownotes.
• 1:23:36
  Tim Pritlove: Hier steht noch, es wurde bereits ein...
• 1:23:39
  Linus Neumann: Ach ja, genau. Tim, die Veranstaltung ist in trockenen Tüchern.
• 1:23:43
  Linus Neumann: Es wurde bereits ein Elixier-Tutorial eingereicht.
• 1:23:47
  Tim Pritlove: Ja, nichts mehr schief geht.
• 1:23:49
  Linus Neumann: Da ist es jetzt einzige Mal in 524 Sendungen, dass der Tim sagt,
• 1:23:55
  Linus Neumann: pass mal auf, da steht was in den Shownotes. Da bist du nicht drauf eingegangen.
• 1:24:02
  Linus Neumann: I'm afraid I can't let you skip that es gibt ein Elixier ich dachte.
• 1:24:07
  Tim Pritlove: Du bist hier Teil der Verschwörung und hast schon irgendwie den Witz vorbereitet
• 1:24:10
  Tim Pritlove: und du weißt auch, lieber einen guten Freund verlieren,
• 1:24:16
  Tim Pritlove: ja, sehr löblich genau außerdem ist ab Montag dann eben die schon angesprochene Republika,
• 1:24:27
  Tim Pritlove: mal gucken, ich werde da auch mal einen Tag rumlaufen, mal gucken,
• 1:24:30
  Tim Pritlove: wenn ihr mich seht, sagt doch mal Hallo.
• 1:24:34
  Tim Pritlove: Alright.
• 1:24:35
  Linus Neumann: Wenn ihr mich seht, habt ihr euch verguckt, ich bin nicht da.
• 1:24:39
  Linus Neumann: Vielleicht schaffe ich es am Mittwochabend.
• 1:24:41
  Tim Pritlove: Das war ich dann. Wir sehen uns ja so ähnlich. Juti, das war's.
• 1:24:48
  Tim Pritlove: Dann sehen wir uns die Tage wieder, wenn es heißt, Logbuch Nespolitik 525.
• 1:24:54
  Tim Pritlove: Wir zählen hier einfach so hoch. Wir bewegen uns einfach im Bereich der natürlichen Zahlen.
• 1:24:59
  Tim Pritlove: Ich mache die Woche einfacher noch. Aber die Welt wird eher so komplex.
• 1:25:04
  Tim Pritlove: Vielleicht müssen wir dann auch irgendwie in die komplexen Zahlen gehen und
• 1:25:08
  Tim Pritlove: hier noch ein I hinzufügen oder sowas.
• 1:25:10
  Tim Pritlove: Das sind alle Witze erzählt. Tschüss Leute, bis bald. Das war's.
• 1:25:15
  Linus Neumann: Ciao, ciao.