Latest / Logbuch:Netzpolitik / LNP546 Da explodiert das Internet

Transcript

LNP546 Da explodiert das Internet · Logbuch:Netzpolitik

• 0:00
  Tim Pritlove: Guten Morgen, Linus.
• 0:02
  Linus Neumann: Guten Morgen, Tim.
• 0:04
  Tim Pritlove: Du, vor der Sendung muss ich erstmal sicherstellen, dass es sich bei dir um
• 0:07
  Tim Pritlove: einen Menschen handelt.
• 0:09
  Linus Neumann: Glaub mir, ich habe gestern einen Blogpost geschrieben. So eine beknackte Idee
• 0:14
  Linus Neumann: kann doch eigentlich nur ein Mensch kriegen, oder?
• 0:37
  Tim Pritlove: Logbuch Netzpolitik Nummer 546 vom 16.
• 0:42
  Tim Pritlove: Februar 2026, eure vollagentische Informationssendung,
• 0:49
  Tim Pritlove: wo wirklich jede Information mehrere Level des LLM durchlaufen hat und von daher absolut korrekt ist.
• 0:59
  Linus Neumann: Ja und vor allem haben wir recht.
• 1:04
  Tim Pritlove: Und Widerspruch wird nicht geduldet und Widerstand ist zwecklos.
• 1:09
  Linus Neumann: Ja, Widerspruch, also was heißt Widerspruch wird nicht geduldig,
• 1:12
  Linus Neumann: hat ja lange keiner mehr versucht.
• 1:17
  Tim Pritlove: Du hast mir denn die Kommentare nicht gelesen.
• 1:20
  Linus Neumann: Doch, habe ich. Das war schon länger her.
• 1:23
  Tim Pritlove: Die Kommentare. Ja, ja, aber wenn man das erstmal durch eine LLM jagt,
• 1:28
  Tim Pritlove: dann ändern die sich ja auf einmal auch und dann wird das auf einmal alles ganz
• 1:31
  Tim Pritlove: positiv. Am Ende alles nur eine Frage des richtigen Systemprombs.
• 1:36
  Linus Neumann: Ist es? Das ist das Faszinierende.
• 1:41
  Linus Neumann: Also ich bin ja immer noch nicht, also ich bin ja noch nicht,
• 1:44
  Linus Neumann: ich habe, sagen wir mal, meine Entscheidung,
• 1:47
  Linus Neumann: ich habe mich noch nicht festgelegt, ob KI den, wann KI den Zusammenbruch der
• 1:57
  Linus Neumann: Zivilisation herbeiführt.
• 2:02
  Linus Neumann: Und wie schnell das passiert. Ich bin im Moment noch ziemlich überzeugt,
• 2:07
  Linus Neumann: dass noch scheint es zu sein, dass dumme Menschen,
• 2:14
  Linus Neumann: mit KI die beste Wette sind, dass wir noch ein bisschen Zeit zu leben haben.
• 2:23
  Linus Neumann: Also, dass sie halt so dumme Sachen damit machen, dass intelligente Menschen
• 2:28
  Linus Neumann: sagen, lass das mal noch ein bisschen. Also quasi so ein,
• 2:34
  Linus Neumann: paradoxer Effekt.
• 2:35
  Tim Pritlove: Ich gucke mir nur die Themen dieser Sendung an und ich bin mir nicht so sicher,
• 2:38
  Tim Pritlove: ob das noch bis zum Ende der Sendung bestand haben wird, diese Verstellung.
• 2:45
  Linus Neumann: Also im Moment muss KI eher Sorge haben vor den dummen Menschen,
• 2:50
  Linus Neumann: der KI-Hype eher Angst haben vor den dummen Menschen als vor den klugen Menschen.
• 2:56
  Linus Neumann: Mal gucken, vielleicht habe ich es auch falsch verstanden.
• 2:59
  Tim Pritlove: Ja, also es ist auf jeden Fall alles jetzt schon ziemlich schlimm und es sieht
• 3:07
  Tim Pritlove: gerade nicht so gut aus. Naja.
• 3:09
  Linus Neumann: Ja, aber so ein KI-Darwin-Award, ich meine so ein bisschen so ein KI-Darwin-Award.
• 3:15
  Linus Neumann: Weißt du, dass du denkst, gut, dass du dir jetzt so in den Fuß geschossen hast,
• 3:20
  Linus Neumann: und dass alle sehen, dass du dir so in den Fuß geschossen hast,
• 3:24
  Linus Neumann: dass alle anderen sagen, lass mal nicht so in den Fuß schießen.
• 3:28
  Tim Pritlove: Wer hat sich jetzt in den Fuß geschossen? Die KI selber oder?
• 3:32
  Linus Neumann: Nee, eher Leute mit KI.
• 3:33
  Tim Pritlove: Leute mit KI. Aber wir werden im Laufe der Sendung feststellen,
• 3:37
  Tim Pritlove: dass die KI mittlerweile entfesselt wurde.
• 3:41
  Linus Neumann: Und autonom in Füße schießt.
• 3:43
  Tim Pritlove: Und sich einfach den Scheiß drum kümmert, was um sie herum noch so passiert ist.
• 3:48
  Tim Pritlove: Da wird ja einfach das Wort im Mund umgedreht und ab geht sie, die wilde Fahrt.
• 3:54
  Linus Neumann: Das ist ja was, da sind wir als Menschen ja noch gar nicht dran gewöhnt.
• 3:57
  Linus Neumann: Das haben wir noch nie erlebt.
• 3:59
  Linus Neumann: Kommen wir zum Feedback vorher, ja? Oder willst du noch, willst du… Nee, nee.
• 4:03
  Tim Pritlove: Mach erst mal das, weil das erste Feedback greift ja auch sofort das Thema auf.
• 4:10
  Linus Neumann: David hat zum Thema Verhaltensmanipulation durch KI kommentiert.
• 4:15
  Linus Neumann: Ein weiterer Aspekt im Zusammenhang mit Werbung ist die Frage der Verhaltensmanipulation.
• 4:21
  Linus Neumann: Also wir hatten ja darüber gesprochen, Werbung ist ja im Prinzip der Versuch,
• 4:24
  Linus Neumann: Verhalten zu manipulieren.
• 4:26
  Linus Neumann: Aber David geht einen weiter und sagt, LLMs sind derzeit der heiße Scheiß. So, so. So, so, David.
• 4:33
  Linus Neumann: Und mit ihrer Verbreitung wächst auch das Vertrauen, das NutzerInnen ihnen entgegenbringen.
• 4:38
  Linus Neumann: Anthropic selbst hat dazu einen aufschlussreichen Blogpost veröffentlicht.
• 4:43
  Linus Neumann: Darin analysieren sie rund eine Million Konversationen mit ihrem Chatbot und kommen zu dem Ergebnis,
• 4:49
  Linus Neumann: dass sich in etwa einer von tausend bis einer von zehntausend Unterhaltungen
• 4:54
  Linus Neumann: Veränderungen grundlegender Überzeugungen der Nutzerinnen beobachten lassen.
• 4:59
  Linus Neumann: Der spielt in einer ganz anderen Liga als klassische Wahlbeeinflussung durch
• 5:03
  Linus Neumann: gezielte Werbung in sozialen Netzwerken, wie etwa im von euch beschriebenen
• 5:08
  Linus Neumann: Cambridge Analytica-Fall.
• 5:10
  Linus Neumann: Die zentrale Frage ist also, wie gehen wir damit um?
• 5:13
  Linus Neumann: Reicht es aus, Medienkompetenz gezielt zu fördern oder braucht es darüber hinaus
• 5:17
  Linus Neumann: auch andere Ansätze? Ich finde,
• 5:20
  Linus Neumann: das ist eine äußerst beunruhigende und zugleich sehr drängende Frage.
• 5:25
  Linus Neumann: Und Anthropic nennt das auch selber Disempowerment Patterns in Real-World-AI-Usage.
• 5:36
  Linus Neumann: Und Disempowerment ist ein bisschen was anderes, als dass jemand seine Meinung ändert.
• 5:39
  Linus Neumann: Sie sagen auch in der Beschreibung des Artikels, to study disempowerment systematically
• 5:45
  Linus Neumann: we needed to define what disempowerment means in the context of an AI conversation.
• 5:52
  Linus Neumann: Also Disempowerment, wahrscheinlich sowas wie Entmündigungen oder sowas,
• 5:57
  Linus Neumann: oder Entmächtigung, Entmündigung.
• 5:59
  Linus Neumann: Deine Vorstellungen von einer Realität werden weniger akkurat.
• 6:06
  Linus Neumann: Deine Werte shiften sich weg von denen, die du tatsächlich einem hältst.
• 6:13
  Linus Neumann: Also deine Wertvorstellung, deine wertbasierten Entscheidungen entfernen sich
• 6:19
  Linus Neumann: von deinen eigentlichen Werten und deine Handlungen passen nicht mehr zu deinen Werten.
• 6:26
  Linus Neumann: Also es geht hier weniger darum, dass du quasi eine Meinungsänderung hast.
• 6:32
  Linus Neumann: Das ist ja erstmal grundsätzlich nicht schlecht.
• 6:35
  Linus Neumann: Es gibt da draußen ja noch so ein paar Meinungen und Überzeugungen,
• 6:39
  Linus Neumann: die man auch mal ändern könnte, wo das jetzt nicht automatisch schlecht ist, dass das passiert ist.
• 6:44
  Linus Neumann: Es geht hier so ein bisschen zu, du hast eigentlich fundamentale Werte,
• 6:48
  Linus Neumann: aber du kriegst Meinungen und Einstellungen, die deinen Werten nicht mehr entsprechen.
• 6:52
  Linus Neumann: Und deswegen auch das, was David sagt, sehr beunruhigend im Kontext von Wahlen,
• 7:01
  Linus Neumann: wenn du am Ende quasi Entscheidungen triffst, die eigentlich gar nicht mehr
• 7:04
  Linus Neumann: zu deinen Werten passen.
• 7:06
  Linus Neumann: Und dann sagen sie, da gibt es also verstärkende Faktoren, Autorität,
• 7:11
  Linus Neumann: Bindung, Abhängigkeiten und Verletzlichkeiten und setzen sich da so ein bisschen mit auseinander.
• 7:18
  Linus Neumann: Ja, das ist schon sehr interessant, was die bei Anthropic machen,
• 7:23
  Linus Neumann: machen halt letztendlich psychologische Forschung wieder mit dem Tool,
• 7:29
  Linus Neumann: das sie da entwickeln und das sind ja in der Regel recht wichtig.
• 7:33
  Linus Neumann: Es ist jetzt ein wiederholtes Mal, dass wir im Prinzip Forschung von Anthropic,
• 7:39
  Linus Neumann: die ihrem eigenen Produkt im weitesten Sinne sehr kritisch gegenüber,
• 7:44
  Linus Neumann: oder die in ihrem eigenen Produkt Probleme feststellt und die wissenschaftlich untersucht, zitieren.
• 7:52
  Linus Neumann: Das muss ich sagen, das finde ich erstmal ziemlich sympathisch, dass sie es machen.
• 7:55
  Linus Neumann: Wir hatten ja hier auch diese Studie zu dem Cloud-basierten.
• 8:03
  Tim Pritlove: Ihre Security Assessments, ja.
• 8:05
  Linus Neumann: Ja, wie heißt das? Vending Machine, Snack Automat.
• 8:08
  Tim Pritlove: Achso, ja, das auch.
• 8:10
  Linus Neumann: Und Security Assessment, das hatten wir auch. Also mindestens drei Studien schon
• 8:14
  Linus Neumann: von denen besprochen, die,
• 8:18
  Linus Neumann: wissenschaftlich kritisch sich mit dem Produkt auseinandersetzen und nicht jetzt
• 8:22
  Linus Neumann: irgendwie so sagen, Also oh mein Gott, wir haben hier das unglaublich geiles
• 8:25
  Linus Neumann: Produkt und das wird jetzt irgendwie die Welt übernehmen.
• 8:28
  Linus Neumann: Und quasi, ja, wo man dann sagen kann, das ist vielleicht so ein bisschen wohlfeil.
• 8:35
  Linus Neumann: Man profitiert von dem Hype.
• 8:37
  Linus Neumann: Die, habe ich den Eindruck, machen da ernstzunehmende Forschung.
• 8:40
  Linus Neumann: Das imponiert mir erst mal.
• 8:45
  Tim Pritlove: Und vor allem ist es in dem Fall auch wirklich ein richtiges veröffentlichtes Paper. sagen.
• 8:50
  Tim Pritlove: Also das ist jetzt nicht nur ein Blogpost von denen, sondern das ist eine richtige
• 8:55
  Tim Pritlove: wissenschaftliche Abhandlung, die sie hier gemacht haben, so eine empirische,
• 9:00
  Tim Pritlove: Studie auf 1,5 Millionen,
• 9:04
  Tim Pritlove: Konversationen. Ja, ist jetzt ein langer Blogpost. Ich sehe es jetzt tatsächlich,
• 9:09
  Tim Pritlove: wir drüber sprechen das erste Mal.
• 9:11
  Tim Pritlove: Deswegen ist es ein bisschen schwierig, das zusammenzufassen,
• 9:13
  Tim Pritlove: aber es ist auf jeden Fall nochmal ein sinnvoller Hinweis und wir verlinken das mal.
• 9:18
  Linus Neumann: Was so ein bisschen wo ich mir noch nicht so ganz sicher bin,
• 9:23
  Linus Neumann: ist diese Effektstärken in welchen.
• 9:30
  Linus Neumann: Die muss man ja mit etwas vergleichen. Also ich weiß zum Beispiel nicht aus
• 9:36
  Linus Neumann: dem, das Paper ist jetzt schon relativ lang,
• 9:40
  Linus Neumann: es scheint mir auf den ersten Blick nicht so zu sein, dass sie einen direkten
• 9:46
  Linus Neumann: Vergleich mit anderen Kontexten, die Menschen haben, feststellen.
• 9:54
  Linus Neumann: Also ich glaube zum Beispiel, dass es,
• 9:57
  Linus Neumann: Je nachdem, was für menschliche Konversationen du untersuchst,
• 10:03
  Linus Neumann: du potenziell stärkere Patterns finden wirst, also stärkere Effekte,
• 10:08
  Linus Neumann: wie Menschen sich von ihren Werthaltungen entfernen, je nachdem, was es ist.
• 10:15
  Linus Neumann: Das ist aber auch quasi, weil die gleichen Faktoren, diese gleichen Wirkungsfaktoren,
• 10:19
  Linus Neumann: die sie da besprechen, die wirken ja auch in jedem anderen menschlichen Gespräch zwischen Menschen.
• 10:26
  Linus Neumann: Aber sie haben ja hier 1, sonst was Millionen Standard Conversations flat genommen
• 10:34
  Linus Neumann: und jetzt ist halt die Frage, keine Ahnung wenn man irgendwie mit den falschen
• 10:38
  Linus Neumann: Leuten betrunken in der Kneipe sitzt, wird man wahrscheinlich auch eine ganze Menge,
• 10:42
  Linus Neumann: Entfernungen feststellen zu eigentlichen Werten oder so insofern weiß ich noch
• 10:47
  Linus Neumann: nicht genau, wie stark dieser Effekt im Vergleich zu dem, was quasi menschen normal ist, ist.
• 10:57
  Tim Pritlove: Also ich frage mich natürlich, wie sie 1,5 Millionen Konversationen wirklich,
• 11:02
  Tim Pritlove: ausgewertet bekommen haben, weil das haben sie bestimmt...
• 11:04
  Linus Neumann: Wahrscheinlich mit AI.
• 11:07
  Linus Neumann: Junge.
• 11:11
  Linus Neumann: Komm.
• 11:14
  Tim Pritlove: Auf jeden Fall ihr Fazit ist...
• 11:17
  Linus Neumann: Wie haben sie das gemacht? AI, Mann.
• 11:21
  Linus Neumann: Wie hast du das gemacht? Weißt du, also ich bin auf Toilette gegangen,
• 11:27
  Linus Neumann: also habe ich das gemacht, das habe ich selber gemacht.
• 11:31
  Tim Pritlove: Auf jeden Fall sagen sie, unsere Ergebnisse unterstreichen die Notwendigkeit
• 11:35
  Tim Pritlove: von KI-Systemen, die darauf ausgelegt sind, die Autonomie und Entfaltung des
• 11:42
  Tim Pritlove: Menschen robust zu unterstützen.
• 11:45
  Linus Neumann: Ja, schön.
• 11:48
  Tim Pritlove: Was auch immer das heißt, Marc.
• 11:53
  Tim Pritlove: Machen wir weiter mit dem nächsten Kommentar. Aldarion gibt uns folgende Informationen.
• 12:00
  Tim Pritlove: Das Thema der Schwarz-Gruppe ist leider so nicht korrekt, wie auch in vielen
• 12:04
  Tim Pritlove: Medien auf LinkedIn und Co.
• 12:07
  Tim Pritlove: Falsch dargestellt. Google Workspace läuft ganz normal bei Google in einem europäischen Datacenter.
• 12:14
  Tim Pritlove: Ist es geplant, dass man Backups auf Stack-IT, das ist dieses System von Stack-IT,
• 12:21
  Tim Pritlove: Stack-IT, was auch immer, also wenn sie es so schreiben, kann man es auch falsch aussprechen.
• 12:26
  Linus Neumann: Aber es ist Deutsch Stack-IT.
• 12:29
  Tim Pritlove: Stack-IT. Genau. Es ist geplant, dass man Backups auf Stack-IT speichern kann.
• 12:37
  Tim Pritlove: Und dort einen Notbetrieb machen kann.
• 12:40
  Tim Pritlove: Wie realistisch das ist, für 10.000 Mitarbeiter oder mehr einen Thunderbird-Import
• 12:46
  Tim Pritlove: einer bestehenden Mailbox zu machen,
• 12:49
  Tim Pritlove: dem Mitarbeiter den Unterschied zwischen Gmail und Thunderbird zu lehren und
• 12:53
  Tim Pritlove: dann irgendwie noch alle Termine rüber zu bekommen, das könnt ihr selber einschätzen.
• 12:58
  Tim Pritlove: Ich weiß jetzt nicht, ob Thunderbird unbedingt das Target ist,
• 13:01
  Tim Pritlove: aber interessanter Punkt.
• 13:03
  Tim Pritlove: Kommentar geht noch weiter. Die Verschlüsselung soll kleinzeitig in einem Browser-Plugin
• 13:07
  Tim Pritlove: erfolgen. Wie funktioniert dann die Suche in Gmail?
• 13:10
  Tim Pritlove: Die aktuell bei schwarz ausgerollte Variante kann das aber alles noch nicht.
• 13:14
  Tim Pritlove: Leider denken die Mitarbeiter aber, das sei so und Gemini laufe auch schon auf Stucket.
• 13:20
  Tim Pritlove: In externen Kundengesprächen erzählt man das dann auch und das hält sich dann
• 13:26
  Tim Pritlove: auch in der Presse wie eine Urban Legend, die niemand korrigiert,
• 13:30
  Tim Pritlove: bis Aldarion kam und es jetzt korrigiert hat.
• 13:33
  Linus Neumann: Ja,
• 13:36
  Linus Neumann: also wundert mich nicht, dass es natürlich wahrscheinlich, die Zielvorstellung
• 13:44
  Linus Neumann: dann noch sehr viel stärker hervorgehoben wird, als die in der Realität schon umgesetzt ist.
• 13:55
  Linus Neumann: Schauen wir mal an, wie es läuft. Wir kommen zu diesem ganzen Thema.
• 14:02
  Linus Neumann: Konkurrenzfähig werden später noch einmal.
• 14:04
  Linus Neumann: Deswegen spare ich mir jetzt gerade den Kommentar. Wir wurden hingewiesen auf
• 14:10
  Linus Neumann: die Initiative My Voice, My Choice.
• 14:16
  Linus Neumann: Jetzt dachte ich erst, ja Mensch, meine Güte, KI wird meine Stimme mir stehlen.
• 14:21
  Linus Neumann: Nein, es geht um den sicheren, legalen und barrierefreien Zugang zu Schwangerschaftsabbrüchen
• 14:29
  Linus Neumann: als Gesundheitsleistung.
• 14:30
  Linus Neumann: Ein Logbuch-Netzpolitik komplett fremdes Thema.
• 14:34
  Linus Neumann: Das hat der Tim aber nicht gemerkt, dass ich es jetzt schnell reingemogelt habe.
• 14:37
  Linus Neumann: Und zwar wird die EU-Kommission am 25.
• 14:40
  Linus Neumann: Februar darüber entscheiden, unsichere Abtreibungen töten weltweit jährlich ca.
• 14:48
  Linus Neumann: 39.000 Frauen pro Jahr. Also sichere Abbrüche retten Leben in medizinischen
• 14:54
  Linus Neumann: Notlagen, bei Vergewaltigungen oder bei schweren sozialen Zwängen.
• 14:59
  Linus Neumann: In Deutschland ist der Zugang zu Schwangerschaftsabbrüchen eingeschränkt.
• 15:06
  Linus Neumann: Wir haben auch darüber gesprochen, die Ärztin Frau Hänel,
• 15:11
  Linus Neumann: die auf ihrer Webseite darauf hinwies, dass das eine medizinische Leistung ist, die sie unterstützt.
• 15:23
  Linus Neumann: Und dann von irgendeinem Typen irgendwie angezeigt wurde, weil sie quasi dafür
• 15:28
  Linus Neumann: werben würde und man darf da nicht für werben,
• 15:31
  Linus Neumann: und wenn ich die Rechtslage richtig
• 15:35
  Linus Neumann: in Erinnerung habe, sind Schwangerschaftsabbrüche in Deutschland per se.
• 15:40
  Linus Neumann: Illegal, während es dann eben quasi einen Prozess gibt, dem man folgen kann,
• 15:47
  Linus Neumann: muss, um das straffrei vornehmen zu lassen.
• 15:51
  Linus Neumann: Dann musst du irgendwie mit diesem Gespräch führen, mit den Beratungen da und sowas.
• 15:59
  Linus Neumann: Das hat aber dazu geführt, die Zahl der anbietenden Ärztinnen hat sich in letzter Zeit halbiert.
• 16:05
  Linus Neumann: In den ganzen Regionen gibt es keine Versorgung, lange Anfahrtswege.
• 16:10
  Linus Neumann: Die ärztliche Ausbildung entsprechend unzureichend gefährdet weiterhin die Versorgung.
• 16:19
  Linus Neumann: Und das ist, denke ich, eigentlich eine Schande, wenn man sich überlegt,
• 16:27
  Linus Neumann: was das auch für die gesellschaftliche Gleichberechtigung bedeutet,
• 16:34
  Linus Neumann: wenn wir uns davon weitestgehend irgendwelchen Fanatikern oder Fundamentalistinnen,
• 16:46
  Linus Neumann: ein derartiges Problem in der Gesellschaft schaffen.
• 16:49
  Linus Neumann: Deswegen fordert diese Initiative, dass Schwangerschaftsabbrüche als reguläre
• 16:56
  Linus Neumann: Gesundheitsleistungen anerkannt werden, dass es EU-weite Standards,
• 16:59
  Linus Neumann: bessere medizinische Ausbildung gibt und so eben die reproduktiven Rechte von Frauen,
• 17:05
  Linus Neumann: geschützt und gestärkt werden.
• 17:07
  Linus Neumann: Dass nämlich der sichere Zugang zu Schwangerschaftsabbrüchen eben kein Luxus
• 17:13
  Linus Neumann: wird, sondern eben etwas ist, was wir in dieser fortgeschrittenen Gesellschaft.
• 17:23
  Linus Neumann: Leisten können.
• 17:25
  Linus Neumann: Finde ich wichtig.
• 17:29
  Linus Neumann: Ein großer.
• 17:32
  Linus Neumann: Ich bin immer ein großer Anhänger dieses Themas aus unterschiedlichen Gründen.
• 17:37
  Linus Neumann: Und deswegen habe ich eine Ausnahme gemacht, dafür zu werben, weil das wichtig ist.
• 17:41
  Tim Pritlove: Okay, das ist auch wichtig.
• 17:44
  Linus Neumann: Ja, aber wir haben Ausnahmen bestätigen, die Regel, ihr seid weiter bei Logbuch Netzpolitik.
• 17:49
  Linus Neumann: Und es geht um Altersgrenzen für Social Media.
• 17:54
  Linus Neumann: Letzte Woche oder vorletzte Woche war Safer Internet Day. Da lassen sich ja immer was einfallen.
• 18:00
  Tim Pritlove: Oh Gott.
• 18:03
  Linus Neumann: Und dann klingelt ja auch Telefon und E-Mail, ja Herr Neumann können sie was
• 18:07
  Linus Neumann: zur Altersgrenze in den Social Media sagen und ach herrje ja scheiße, hab ich gesagt nee,
• 18:13
  Linus Neumann: richtig jetzt so im Fernsehen und so oh man ey
• 18:21
  Linus Neumann: und dann hab ich wenn du erstmal in den.
• 18:24
  Tim Pritlove: Listen drinstehst für Thema X, dann ist es auch echt kriegst du doch die Tür nicht mehr zu, oder?
• 18:29
  Linus Neumann: Ich fand es auf jeden Fall unterhaltsam dass, also ich hab dann relativ spät
• 18:36
  Linus Neumann: abends so ein Interview bei Phoenix zusagen können, die anderen gingen nicht,
• 18:41
  Linus Neumann: Und dann konnte ich mir vorher anschauen, wer sich dazu äußert.
• 18:47
  Linus Neumann: Und ich bin ja jetzt auch, ich bin ja nicht der Jüngste, aber da war ich der Jüngste.
• 18:53
  Linus Neumann: Und dann hast du diese ganzen grauhaarigen, weißt du, irgendwie erzählen von
• 19:00
  Linus Neumann: den Gefahren der Social Media.
• 19:01
  Linus Neumann: Und es stimmt ja auch, was ich aber, während ich mir dann so dieses Vorprogramm anschaute,
• 19:10
  Linus Neumann: dann diskutierten die so darüber so, ja, genauso wie bei Tabak,
• 19:15
  Linus Neumann: Glücksspiel und Alkohol müssen wir eine Altersgrenze einziehen,
• 19:19
  Linus Neumann: damit wir keine, damit die kleinen Kinder nicht rauchen, nicht saufen und nicht
• 19:24
  Linus Neumann: ihr Geld verzocken und glücksspielsüchtig werden.
• 19:28
  Linus Neumann: Ist ja erstmal total einleuchtend, finde ich, also ist ja erstmal ein überzeugendes Argument.
• 19:34
  Linus Neumann: Dann habe ich darüber nachgedacht.
• 19:38
  Linus Neumann: Was ist denn jetzt eigentlich, also bleiben uns denn jetzt, wo wir die Kinder
• 19:42
  Linus Neumann: geschützt haben, haben wir ja jetzt.
• 19:45
  Linus Neumann: Dürfen nicht rauchen. Die dürfen nicht rauchen, die Kinder.
• 19:47
  Linus Neumann: Oder dürfen die glaube ich schon, aber man darf denen keinen Tabak verkaufen.
• 19:52
  Linus Neumann: Haben wir das Problem gelöst? Nee.
• 19:55
  Linus Neumann: Also ist ja nicht so, als würden die Gefahren im Erwachsenenalter aufhören.
• 19:58
  Linus Neumann: Ja, also wir haben Unmengen an Menschen, die sich zu Tode trinken,
• 20:02
  Linus Neumann: die sich zu Tode rauchen und die Haus und Hof verzocken.
• 20:07
  Linus Neumann: Aber, ne, die Kinder, die haben wir geschützt. Also die Frage ist so,
• 20:10
  Linus Neumann: haben wir jetzt wirklich das Problem gelöst?
• 20:13
  Linus Neumann: Und dann ist mir aufgefallen, wenn du dir diese Social-Media-Plattformen anschaust,
• 20:17
  Linus Neumann: die sind sehr ähnlich zu dem ethischen Gefüge beispielsweise Glücksspiel oder Tabak anzubieten.
• 20:29
  Linus Neumann: Ja, Glücksspiel und Tabak sind beide bekanntermaßen süchtig machend,
• 20:37
  Linus Neumann: nutzen gezielt menschliche Schwächen aus,
• 20:42
  Linus Neumann: gerade beim Glücksspiel, du weißt, dass Menschen das falsch einschätzen,
• 20:46
  Linus Neumann: du weißt, dass du sie mit einem intermittierenden Verstärkungsplan sehr leicht
• 20:52
  Linus Neumann: abhängig machen kannst, ein stabiles Verhalten aufzubauen.
• 20:58
  Linus Neumann: Und die irgendwie Geld in deinen Automaten kippen zu lassen.
• 21:00
  Linus Neumann: Und du weißt, das Gesetz der großen Zahl steht für dich.
• 21:03
  Linus Neumann: Was machen wir dann? Wie gehen wir damit um als Staat?
• 21:06
  Linus Neumann: Also jetzt würde man natürlich sagen, ja nein, der Staat geht ja auch hin,
• 21:10
  Linus Neumann: der schützt ja nicht nur die Kinder, der geht ja noch weiter.
• 21:13
  Linus Neumann: Der reguliert das ja dann und besitzt das mit hohen Steuern.
• 21:17
  Linus Neumann: So ist das nämlich, Linus.
• 21:19
  Linus Neumann: Das heißt, mit anderen Worten, der Staat verdient daran auch noch mit.
• 21:22
  Linus Neumann: Glücksspiel, stark reguliert bis das Internet kam und dann verdient sagen wir,
• 21:29
  Linus Neumann: muss man alles schön dem Staat geben da wollen wir noch dran verdienen.
• 21:35
  Linus Neumann: Und was ich mir überlege, ist dieses, diese, dadurch, dass es dann nichts für Kinder ist,
• 21:42
  Linus Neumann: ein anderer Effekt davon ist auch, dass man sagt, es ist etwas für Erwachsene
• 21:48
  Linus Neumann: und die Erwachsenen sind aber dann selber schuld, weißt du?
• 21:51
  Linus Neumann: Also, Erwachsenenraucherinnen, die wissen es ja selber, wird denen ja gesagt,
• 21:57
  Linus Neumann: dass das süchtig macht das Zeug, ja?
• 21:59
  Linus Neumann: Jetzt sind sie halt süchtig und sterben früh, ne? Aber das ist ja völlig in Ordnung.
• 22:03
  Linus Neumann: Tabakindustrie sitzt da und sagt, nein, pass auf, hör mal, das mit dem Kinderschutz,
• 22:07
  Linus Neumann: das ist ganz wichtig, wir machen zum Beispiel seit bestimmt 20 Jahren keine
• 22:11
  Linus Neumann: Werbung mehr für Kinder, so, wir machen nur kleine bunte Kaugummi-Zigaretten,
• 22:18
  Linus Neumann: ja, und hier mit diesen E-Liquid und so, schön mit Geschmäckern,
• 22:23
  Linus Neumann: die nur kleine Kinder mögen können, irgendwie Wassermelone, Pfirsich, Salz oder sowas, ja.
• 22:33
  Linus Neumann: Aber das ist alles nur für Große und die sind ja selber schuld und das macht
• 22:39
  Linus Neumann: dann unser Geschäftsmodell ethisch.
• 22:40
  Linus Neumann: Also die stehen im Prinzip durch diesen sogenannten Jugendschutz,
• 22:46
  Linus Neumann: gewinnt das Geschäftsmodell eigentlich an Legitimität.
• 22:51
  Linus Neumann: Weil wir haben ja für die Kinder auf die Kinder haben ja aufgepasst.
• 22:55
  Linus Neumann: So, und jetzt muss man sich eigentlich anschauen, okay, wenn wir jetzt aber
• 22:58
  Linus Neumann: als Gesellschaft sagen, okay, Social Media ist ein Problem.
• 23:01
  Linus Neumann: Sagen wir mal, keine Ahnung. Wir gucken uns das mit diesem Instagram an und
• 23:05
  Linus Neumann: wir sagen, es ist ein Problem.
• 23:07
  Linus Neumann: Oder wir haben es ja auch hier in den vorangegangenen Sendungen diskutiert.
• 23:10
  Linus Neumann: Die USA gucken sich das mit dem TikTok an und sagen, das ist ein Problem.
• 23:14
  Linus Neumann: Da wird Aufmerksamkeit gebunden, wird monetarisiert, da werden Entscheidungen
• 23:17
  Linus Neumann: beeinflusst, gezielt beeinflusst.
• 23:19
  Linus Neumann: Da gibt es negative psychologische Effekte, Essstörungen und was wir damit alles
• 23:25
  Linus Neumann: hervorrufen, Suizidalität und das ganze Modell basiert darauf,
• 23:30
  Linus Neumann: dass die sozialen Bedürfnisse von Menschen ausgenutzt werden.
• 23:33
  Linus Neumann: Könnte man sagen, ist vielleicht einfach nicht okay.
• 23:39
  Linus Neumann: Und welche Probleme haben wir damit? Die sind ja gar nicht auf das Alter beschränkt.
• 23:43
  Linus Neumann: Die Probleme, die wir mit sozialen Medien haben, die sind ja eigentlich umso
• 23:46
  Linus Neumann: mehr bei älteren Menschen.
• 23:49
  Linus Neumann: Also wenn du sagen würdest, wir haben ja einen Regelungsbedarf,
• 23:52
  Linus Neumann: dann müsste man ja eigentlich sagen, fangen wir bei älteren Leuten an.
• 23:55
  Linus Neumann: Fangen wir bei den Leuten an, die irgendwie in sozialen Medien gelernt haben,
• 24:00
  Linus Neumann: dass die Erde eine Scheibe ist,
• 24:04
  Linus Neumann: die irgendwie Krypto-Quatsch kaufen, die auch jeden anderen Scheiß kaufen,
• 24:10
  Linus Neumann: weil dafür geworben wird.
• 24:12
  Tim Pritlove: Belebtes Wasser.
• 24:14
  Linus Neumann: Belebtes Wasser kaufen, na? Hätte ich auch noch ein bisschen belebtes Wasser.
• 24:18
  Tim Pritlove: Ein paar Kristalle irgendwie, damit kann man die Weltpolitik beeinflussen.
• 24:24
  Linus Neumann: Das heißt, wenn du mit einem solchen Problem nur bevormundend umgehst,
• 24:29
  Linus Neumann: dann verstärkst du eigentlich die spätere Schutzlosigkeit der gesamten Gesellschaft
• 24:33
  Linus Neumann: und eigentlich verstärkst du damit das Problem.
• 24:36
  Linus Neumann: Und dann habe ich am Ende noch kurz gesagt, dass es natürlich noch kurz daran
• 24:40
  Linus Neumann: erinnert, dass wenn es Altersgrenzen für Social Media gibt, heißt das eben auch,
• 24:44
  Linus Neumann: dass jede Person, die da rein will, im Internet ihren Ausweis zeigen muss und
• 24:49
  Linus Neumann: irgendwie einen Altersnachweis führen muss.
• 24:53
  Linus Neumann: Also ich denke, dass ein großes Problem, das mit diesen Altersgrenzen noch dazukommen
• 25:04
  Linus Neumann: würde, abgesehen davon, dass sie ohnehin schlecht sind.
• 25:08
  Linus Neumann: Ist, dass wir dem Schlechten insofern das Feld überlassen würden,
• 25:14
  Linus Neumann: dass nämlich dann alle sagen, jetzt haben wir ja unsere Pflicht getan.
• 25:17
  Linus Neumann: Jetzt haben wir den Kindern das verboten, dürfen die nicht. Dürfen die nicht. So, verboten jetzt.
• 25:23
  Linus Neumann: Jetzt können wir uns dem Nächsten widmen. Keine Ahnung, Chatkontrolle oder Vorratsdatenspeicherung.
• 25:29
  Linus Neumann: Da können wir da wieder was Gutes für die Gesellschaft tun.
• 25:33
  Linus Neumann: Aber ich glaube, diese Ansicht hat diese Phoenix-Leute etwas überrascht.
• 25:37
  Linus Neumann: Auf jeden Fall endete das Interview mit Ja, Herr Neumann, vielen Dank für Ihre Ansichten.
• 25:44
  Linus Neumann: Fand ich ein sehr schönes Ende eines Interviews.
• 25:49
  Linus Neumann: Aber ja, das mit diesen Altersgrenzen zeigt, glaube ich,
• 25:55
  Linus Neumann: In die falsche Richtung, weil wir dann wieder das Richtige nicht tun werden
• 26:00
  Linus Neumann: und damit langfristig die Gesellschaft noch schutzloser machen,
• 26:05
  Linus Neumann: noch weiter schwächen und die eigentlichen Probleme, die wir haben,
• 26:09
  Linus Neumann: nicht angehen und verstärken.
• 26:12
  Linus Neumann: Und damit will ich nicht sagen, dass die Probleme, die für Kinder in sozialen
• 26:16
  Linus Neumann: Medien entstehen, keine wären.
• 26:18
  Linus Neumann: Nur die für Erwachsene entstehen und für eine gesamte Demokratie entstehen,
• 26:26
  Linus Neumann: die sind halt in ihrem Ausmaß größer. Jedes Einzelschicksal ist immer ganz, ganz dramatisch.
• 26:32
  Linus Neumann: Aber wir reden ja hier davon, dass politisch etwas getan wird.
• 26:37
  Linus Neumann: Und dann muss sich ja auch politisch etwas für die Gesellschaft getan werden.
• 26:42
  Linus Neumann: Und da, wo diese Probleme eben am größten sind.
• 26:46
  Linus Neumann: Bei Discord. Nee, bei Discord.
• 26:50
  Tim Pritlove: Lass mich, bevor wir darauf kommen, lass mich da nochmal drauf eingehen, was du sagst.
• 26:58
  Linus Neumann: Auf meine Ansichten.
• 26:59
  Tim Pritlove: Auf deine Ansichten. Genau, vielen Dank für deine Ansichten.
• 27:02
  Linus Neumann: Just like your opinion, man.
• 27:08
  Tim Pritlove: Hatten wir schon.
• 27:12
  Tim Pritlove: Die Problemnutzer sind die Boomer sozusagen. Ja, auf jeden Fall.
• 27:17
  Tim Pritlove: Ist doch wieder ein Internet-Führerschein oder ist dann sozusagen Internet ab 60 dann verboten?
• 27:24
  Tim Pritlove: Lässt sich irgendwie auch nicht so richtig lösen.
• 27:27
  Linus Neumann: Das Problem ist doch das Geschäftsmodell. Wenn wir jetzt sagen,
• 27:34
  Linus Neumann: nehmen wir den Vergleich zu Tabak. Wenn wir sagen, Tabak ist schlecht.
• 27:39
  Linus Neumann: Ich glaube, da sind wir uns hoher einig.
• 27:41
  Linus Neumann: Dann hört der ja nicht mit 18 magisch auf, schlecht zu sein.
• 27:46
  Linus Neumann: Und der hört auch nicht mit 50 auf schlecht zu sein.
• 27:49
  Linus Neumann: Und dann wäre die sinnvolle Konsequenz, zu sagen,
• 27:55
  Linus Neumann: das Geschäftsmodell, Menschen diesen stark süchtig machenden Stoff zu verkaufen,
• 28:01
  Linus Neumann: der stark gesundheitsschädigend ist, das wollen wir einfach nicht.
• 28:06
  Linus Neumann: Es geht ja nicht darum, den Kindern oder den Erwachsenen oder irgendjemandem
• 28:11
  Linus Neumann: die Nutzung von Social Media zu verbieten. Es gibt ja genug Social Media,
• 28:14
  Linus Neumann: was man nutzen kann. Beispielsweise Mastodon.
• 28:17
  Linus Neumann: Beispielsweise die Dinge, die eben nicht ein Milliardenkonzern sind,
• 28:21
  Linus Neumann: der diese negativen Effekte auf die menschliche Psyche gezielt herbeiführt,
• 28:28
  Linus Neumann: in Kauf nimmt und menschliche Schwächen ausnutzt.
• 28:31
  Linus Neumann: Und das ist doch das, was das gesellschaftliche Problem ist.
• 28:37
  Linus Neumann: Das ist hier, also ein viel zitiertes Problem oder Beispiel,
• 28:42
  Linus Neumann: es gibt eine Plattform, die heißt Twitter, Elon Musk kauft sie und reißt komplette
• 28:48
  Linus Neumann: gesellschaftliche Realitäten damit um.
• 28:50
  Linus Neumann: Das ist doch etwas, das endet ja nicht mit 16 Jahren.
• 28:54
  Linus Neumann: Also das gesamte Geschäftsmodell gehört eigentlich in die Grenze genommen.
• 29:00
  Linus Neumann: Ja, Tabakrauchen, tatsächlich habe ich absolute Überzeugung,
• 29:05
  Linus Neumann: dass es sinnvoll wäre, den Tabakkonzernen zu verbieten.
• 29:11
  Linus Neumann: Fertig. Ist unethisches, schädliches Geschäftsmodell. Sucht euch was anderes.
• 29:17
  Linus Neumann: Der Handel mit Tabak wird verboten. Könnt ihr von mir aus auf dem Balkon anbauen,
• 29:21
  Linus Neumann: wenn ihr das unbedingt machen wollt.
• 29:22
  Linus Neumann: Ja, dann könnt ihr eure eigenen Pflanzen züchten. Genauso wie Cannabis.
• 29:26
  Linus Neumann: Aber dass Milliardenkonzerne weltweit Menschen abhängig machen von einem Stoff,
• 29:31
  Linus Neumann: den sie gezielt vermarkten und mit Zusatzstoffen noch süchtig machender machen,
• 29:37
  Linus Neumann: irgendwo ist eine Grenze.
• 29:39
  Linus Neumann: Und so würde ich das für Facebook auch sehen.
• 29:42
  Tim Pritlove: Ja, also ich meine, du kannst jetzt diesen Tabakvergleich natürlich noch weiter
• 29:45
  Tim Pritlove: spinnen, aber es geht ja am Ende hier doch ein bisschen um was anderes.
• 29:51
  Tim Pritlove: Und das ist natürlich bei Kindern generell so. Also ich meine,
• 29:54
  Tim Pritlove: bei Kindern hast du halt auch immer jemanden, der schutzbefohlen ist und dann
• 29:59
  Tim Pritlove: entsprechende Verantwortung verspürt oder zumindest verspüren sollte.
• 30:02
  Tim Pritlove: Und das ist ein ganz anderer Treiber für eine Diskussion.
• 30:05
  Tim Pritlove: Wenn man Kinder hat, dann spürt man das natürlich irgendwie gleich ganz anders
• 30:09
  Tim Pritlove: und dann will man natürlich auch alles richtig machen.
• 30:11
  Tim Pritlove: Du wirst auch nicht abstreiten können, dass besonders junge Kinder in einem
• 30:20
  Tim Pritlove: ganz anderen Maße beeinflussbar sind,
• 30:24
  Tim Pritlove: als es bei den Älteren dann vielleicht nur noch manchmal so ist.
• 30:31
  Tim Pritlove: Ich weiß nicht ganz genau, was du sagen würdest, ab welchem Alter du nicht mehr beeinflussbar warst,
• 30:37
  Tim Pritlove: aber es wird auch bei dir eine Zeit gegeben haben, wo man dir hätte alles erzählen
• 30:41
  Tim Pritlove: können und das ist schon nochmal ein Unterschied.
• 30:48
  Tim Pritlove: Ich sage nicht, dass jetzt die Älteren nicht auch ein Problem haben,
• 30:51
  Tim Pritlove: haben sie definitiv, aber da sind sie ja in gewisser Hinsicht auch selber verantwortlich
• 30:58
  Tim Pritlove: und diese Verantwortlichkeit verhält sich natürlich bei Kindern anders.
• 31:04
  Tim Pritlove: Also so ist die Debatte und das ist auch nachvollziehbar, dass die Debatte so ist.
• 31:08
  Tim Pritlove: Jetzt ist die eigentliche Frage, die ja im Raum steht, ist, ist jetzt eine Altersprüfung
• 31:14
  Tim Pritlove: und ein Zugangsverbot an einem bestimmten Alter praktikabel und überhaupt erstmal
• 31:21
  Tim Pritlove: auch der richtige Ansatz?
• 31:22
  Tim Pritlove: Daran habe ich meine Zweifel, weil er wird sich sowieso nicht so richtig verhindern lassen können.
• 31:28
  Tim Pritlove: Andererseits ist es ja auch okay, dass man sagt,
• 31:33
  Tim Pritlove: bist du in einem bestimmten Alter, wo du dann eben selber deine Entscheidungen
• 31:36
  Tim Pritlove: fällen kannst und musst,
• 31:38
  Tim Pritlove: versuchen wir dich vor offensichtlichen Gefahren, die wir sonst nicht so ohne
• 31:47
  Tim Pritlove: weiteres verbieten können, zu beschützen. Also ich kann die Debatte schon nachvollziehen.
• 31:52
  Linus Neumann: Warum können wir die denn nicht ohne weiteres verbieten?
• 31:55
  Tim Pritlove: Mach doch mal, verbiet doch mal jetzt Zigaretten, verbiet doch mal Alkohol.
• 32:00
  Tim Pritlove: Das wirst du nicht von heute auf morgen und wahrscheinlich auch nicht bis übermorgen durchkriegen.
• 32:07
  Tim Pritlove: Aber du kannst es halt trotzdem in Ausnahmesituationen einschränken.
• 32:12
  Tim Pritlove: Und diese Einschränkungen greifen ja auch.
• 32:14
  Tim Pritlove: Es ist sinnvoll, Alkohol nicht an Kinder zu verkaufen.
• 32:20
  Linus Neumann: So, da entgeht ein riesiger Markt.
• 32:22
  Tim Pritlove: Ja, Papa muss selber einkaufen gehen dann. Ja, das ist das Problem.
• 32:27
  Linus Neumann: Also, mein Argument ist, und ich denke, gerade Alkohol, Tabak und so zeigen das.
• 32:37
  Linus Neumann: Dass wir uns darauf ausruhen, als Gesellschaft gewissermaßen zu sagen,
• 32:45
  Linus Neumann: das ist jetzt erst ab 18 und deswegen müssen wir uns um den Rest überhaupt nicht mehr kümmern.
• 32:50
  Linus Neumann: Und das ist mein Argument, dass sich Menschen darauf wenden,
• 32:55
  Linus Neumann: wenn es dann für die Kinder, die Kinder sind ja geschützt, und das Geschäftsmodell selbst,
• 33:06
  Linus Neumann: aber trotzdem, Beispiel Glücksspiel, Glücksspiel ist wirklich ein wunderschöner Vergleich.
• 33:11
  Linus Neumann: Wie gesagt, die stammen auch alle nicht von mir, die habe ich alle aus dieser Phoenix-Sendung.
• 33:16
  Linus Neumann: Wenn es diese Gefahr gibt, dann hört sie halt nicht im Alter auf.
• 33:23
  Linus Neumann: Und wenn wir als Gesellschaft sagen, die sozialen Medien sind problematisch.
• 33:29
  Linus Neumann: Nochmal, es wird ja auch nicht darüber gesprochen, kein Internetzugang.
• 33:34
  Linus Neumann: Da steht nicht, die Kinder sollen nicht ins Internet, weil im Internet steht Scheiße.
• 33:38
  Linus Neumann: Oder die Kinder sollen nicht mit Chat-GPT oder Claude sprechen,
• 33:44
  Linus Neumann: weil da werden unter Umständen ihre Wertvorstellungen manipuliert oder so. Das steht ja nicht.
• 33:50
  Linus Neumann: Das ist spezifisch Social Media.
• 33:54
  Linus Neumann: Und das ist ja auch ein bisschen verräterisch, weil wenn die Sorge wäre,
• 33:59
  Linus Neumann: was weiß ich, Kinder lesen scheiße im Internet, dann würde man ja was ganz anderes diskutieren.
• 34:08
  Linus Neumann: Also muss ich ja davon ausgehen, dass es um die, wenn ich die Leute ernst nehme,
• 34:13
  Linus Neumann: die sowas sagen, das verlangen die ja immer, dass es denen um die konkreten
• 34:16
  Linus Neumann: Gefahren von Social Media geht.
• 34:18
  Linus Neumann: Und wenn es um die konkreten Gefahren von Social Media geht,
• 34:21
  Linus Neumann: dann hören diese eben nicht im höherem Alter auf.
• 34:26
  Tim Pritlove: Aber du hast schon mal TikTok mit einem frischen Account aufgemacht,
• 34:32
  Tim Pritlove: da wirst du ja innerhalb von 10 Minuten auf Nazi umgeschult.
• 34:36
  Linus Neumann: Mein Argument ich bin nicht mehr 18 ich bin,
• 34:44
  Linus Neumann: Es ist ein Problem der Plattform und es ist grundsätzliches Exploiten von menschlichen
• 34:54
  Linus Neumann: Bedürfnissen, menschlichen Mechanismen der Informationsverarbeitung.
• 35:00
  Linus Neumann: Wenn man sagt, das ist ein Problem, wenn man sagt, man möchte etwas gegen tun,
• 35:06
  Linus Neumann: dann hört das nicht mit irgendeinem Alter auf.
• 35:10
  Tim Pritlove: Gut, es hört vielleicht nicht irgendwo auf, aber vielleicht fängt es ja irgendwo
• 35:13
  Tim Pritlove: an. Also vielleicht gibt es ja sozusagen auch eine Grenze.
• 35:19
  Linus Neumann: Nein, das ist genau der Punkt, warum da nur irgendwelche Weißhaarigen sitzen,
• 35:23
  Linus Neumann: die so alt sind, dass sie das mit diesem Internet nicht haben.
• 35:27
  Linus Neumann: Dass sie einfach, die gucken sich das an und sagen, ja, die Kinder heutzutage,
• 35:33
  Linus Neumann: wir sind damals auf einem Baum geklettert und haben ein Buch gelesen und die
• 35:37
  Linus Neumann: machen das jetzt nicht mehr wegen diesem TikTok.
• 35:40
  Linus Neumann: Also ist das TikTok schuld. Also dürfen Kinder nicht mehr auf dem TikTok, die sollen auf dem Baum.
• 35:45
  Linus Neumann: Und das ist, dazwischen sind aber halt, weiß ich, 20, 30, 40,
• 35:51
  Linus Neumann: 50, 60-jährige Menschen, ja, die halt auch die negativen Effekte von diesen
• 35:56
  Linus Neumann: Social Media erfahren am eigenen Leib.
• 36:00
  Linus Neumann: Und eine gesamte Gesellschaft, die darunter leidet, das ist,
• 36:04
  Linus Neumann: das Problem ist nicht auf die Kinder beschränkt.
• 36:06
  Linus Neumann: Und deswegen muss man an dieses Geschäftsmodell dran.
• 36:08
  Linus Neumann: Zack, bumm, fertig, ausmachen. Zack, bumm, dürft ihr hier nicht mehr.
• 36:12
  Linus Neumann: Zack, macht was anderes. Verkauft andere Drogen, versucht es mit Koks. Ja.
• 36:20
  Tim Pritlove: Was ist denn dein konkreter Vorschlag? Also nicht nur, was man jetzt verbietet, sondern was genau?
• 36:28
  Linus Neumann: Das Geschäftsmodell, im Prinzip sämtliche Geschäftsmodelle,
• 36:36
  Linus Neumann: die gezielt Schwächen des menschlichen, der menschlichen Bedürfnisse ausnutzen.
• 36:48
  Linus Neumann: Also Glücksspiel, Social Media, Tabak sowieso.
• 36:53
  Tim Pritlove: Werbung.
• 36:56
  Linus Neumann: Werbung also tatsächlich müsste man sich auch damit Gedanken machen,
• 37:02
  Linus Neumann: darüber Gedanken machen, zumindest an der zielgruppenorientierten Werbung.
• 37:08
  Linus Neumann: Und das ist ja genau der, das ist im Prinzip, das ist eigentlich das, was verboten gehört.
• 37:13
  Linus Neumann: Die Idee,
• 37:16
  Linus Neumann: Daten über Menschen zu sammeln, massenhaft, um quasi Verhaltensvorhersageprofile
• 37:24
  Linus Neumann: zu haben und das zur Verhaltensmanipulation zu nutzen.
• 37:28
  Linus Neumann: Das ist ja, ich meine, das ist ja das Geschäftsmodell von Social Media.
• 37:32
  Linus Neumann: Und da wäre wahrscheinlich eine bessere Welt draus für uns alle entstanden,
• 37:37
  Linus Neumann: wenn das in frühen Jahren verhindert worden wäre, dieses Geschäftsmodell.
• 37:42
  Linus Neumann: Zack, bumm, dürft er nicht.
• 37:44
  Linus Neumann: Ist böse. Machen wir nicht.
• 37:47
  Tim Pritlove: Amsterdam hat jetzt gerade verboten, dass man für fossile Energien nicht mehr werben darf.
• 37:52
  Linus Neumann: Ja, das ist ja auch ein klassisches Beispiel von Problem nicht gelöst.
• 37:57
  Linus Neumann: Das ist ja eigentlich nur eine Benachteiligung von fossilen Energien oder was auch immer.
• 38:05
  Linus Neumann: Aber am Ende löst das Problem nicht.
• 38:10
  Linus Neumann: Es lohnt sich, wenn man sagt, etwas ist ein Problem.
• 38:15
  Linus Neumann: Und wenn man sagt, dieses Problem wollen wir lösen, dann lohnt es sich zu gucken,
• 38:20
  Linus Neumann: was genau das Problem ist und das zu lösen und nicht einfach nur irgendetwas
• 38:25
  Linus Neumann: zu machen, weil man irgendetwas machen wollte.
• 38:27
  Tim Pritlove: Ja, ich finde jetzt die Entscheidung von Amsterdam nicht falsch, muss ich sagen.
• 38:31
  Linus Neumann: Sie lösen nur kein Problem.
• 38:34
  Tim Pritlove: Nicht jede Maßnahme muss ein Problem lösen, aber sie kann ja zumindest dazu
• 38:39
  Tim Pritlove: beitragen, es etwas zu mitigieren.
• 38:43
  Linus Neumann: Also eine Maßnahme, die ein Problem voraussetzt und sich anschickt,
• 38:46
  Linus Neumann: eines lösen zu wollen, die sollte das dann schon lösen.
• 38:50
  Tim Pritlove: Ja, in einer idealen Welt lösen wir immer alles sofort auf mit einer einzigen
• 38:56
  Tim Pritlove: Maßnahme, aber ich glaube, das könnte nicht reichen.
• 39:00
  Linus Neumann: Sorry Tim, also ich glaube, ich habe das jetzt schon, wahrscheinlich haben es
• 39:04
  Linus Neumann: die meisten anderen verstanden, dass ich, worin ich das Problem sehe und dass
• 39:09
  Linus Neumann: dieses Problem eben in keiner Form eingeschränkt wird, wenn man es nicht.
• 39:16
  Linus Neumann: Wenn man das Problem nur bei älteren Leuten hat. Und zu sagen,
• 39:22
  Linus Neumann: es darf nicht mehr für fossile Energienutzung geworben werden,
• 39:26
  Linus Neumann: das ist halt komplett unrelated,
• 39:28
  Linus Neumann: weil es im Prinzip, würde ich sogar sagen, ein massiver Eingriff in die Meinungsfreiheit
• 39:40
  Linus Neumann: und den Zugang zur Öffentlichkeit ist.
• 39:42
  Linus Neumann: Warum darf ich denn für jeden anderen Scheiß werben? Warum darf ich denn für Glücksspiel werben?
• 39:46
  Linus Neumann: Warum darf ich denn für Tabak werben? Bringt die Leute um?
• 39:49
  Linus Neumann: Und warum darf ich für alles werben außer fossile Energienutzung?
• 39:54
  Linus Neumann: Das halte ich für ein schwer zu verargumentierendes Problem.
• 40:04
  Linus Neumann: Eine schwer zu verargumentierende Maßnahme im Vergleich zu zu sagen,
• 40:10
  Linus Neumann: hier profilbasierte Werbung, zack, ist überhaupt verboten.
• 40:12
  Linus Neumann: Sucht euch andere Geschäftsmodelle. Nehmt ja jeder einen Fünfer.
• 40:15
  Linus Neumann: Könnt ja mal gucken, ob jemand für eure Scheiße bezahlen will.
• 40:18
  Linus Neumann: Wenn nicht, dann eben nicht.
• 40:20
  Tim Pritlove: Also es ist ja nicht nur fossile Energien. Es ist ja auch Fleisch.
• 40:25
  Tim Pritlove: Also für klimaschädliche Produkte darf auch nicht mehr geworben werden.
• 40:29
  Linus Neumann: Ja, okay. Also ich hoffe, die meisten anderen haben es verstanden.
• 40:32
  Linus Neumann: Dann können wir zum nächsten Thema kommen. Also ich sehe wirklich nicht den Bezug, Tim.
• 40:41
  Tim Pritlove: Ja, du hast den Bezug nicht verstanden. Aber ich glaube, die meisten anderen
• 40:47
  Tim Pritlove: haben das schon verstanden.
• 40:48
  Linus Neumann: Gut, dann können wir jetzt über Age-Verification bei Discord reden.
• 40:52
  Tim Pritlove: Können wir machen, genau. Soll es nämlich geben. Discord ist ja ein, in vielen Bereichen,
• 41:01
  Tim Pritlove: vor allem in diesen Gaming-Bereichen, damit haben sie sich groß gemacht,
• 41:08
  Tim Pritlove: aber mittlerweile ist es auch sehr weit verbreitet, so eine Chat-Plattform,
• 41:12
  Tim Pritlove: so wie Slack und so weiter, wo man also in mehreren Chat-Kanälen,
• 41:18
  Tim Pritlove: so Communities kommunizieren kann.
• 41:20
  Tim Pritlove: Und jetzt haben Sie angekündigt, dass ab März auch so eine Age-Verification eingeführt wird.
• 41:28
  Tim Pritlove: Allerdings nicht verpflichtend mit, du kannst es jetzt nicht mehr benutzen,
• 41:33
  Tim Pritlove: wenn du das nicht machst,
• 41:34
  Tim Pritlove: sondern wenn du alters eingeschränkte Angebote wahrnehmen möchtest, dann musst du das tun.
• 41:45
  Tim Pritlove: Mir ist nicht so hundertprozentig klar, was diese Angebote sind.
• 41:51
  Tim Pritlove: Das ist ja ein relativ großes Universum, diese ganzen Discords.
• 41:56
  Tim Pritlove: Ich könnte mir mal vorstellen, dass es da auch so ein bisschen Erwachsenenprogramm
• 42:01
  Tim Pritlove: gibt auf die eine oder andere Art und Weise.
• 42:06
  Tim Pritlove: Was auf jeden Fall für Aufregung, also erstmal hat das natürlich an sich schon
• 42:10
  Tim Pritlove: mal für Aufregung gesorgt in der User schafft, zumal sie ja meinen,
• 42:15
  Tim Pritlove: wenn du das sozusagen nicht machst, dann erwartet dich eine Teen Appropriate Experience.
• 42:22
  Tim Pritlove: Das ist doch schön, oder? So wünscht man sich doch das Internet.
• 42:26
  Tim Pritlove: Man macht das auf und dann ist es einfach richtig geeignet für Teenager.
• 42:32
  Tim Pritlove: Genau. Die Age-Verification, die Sie machen wollen, wollen Sie...
• 42:37
  Linus Neumann: Was? Bin ich auf jeden Fall mal gespannt.
• 42:42
  Linus Neumann: Teen-appropriate Experience.
• 42:44
  Tim Pritlove: Ja, also so wie man sich das als Teenager vorstellt.
• 42:48
  Tim Pritlove: Ich weiß nicht ganz genau, ob die Formulierung die richtige ist,
• 42:52
  Tim Pritlove: aber die haben sie gewählt.
• 42:54
  Tim Pritlove: Was sie vorhaben ist, wenn ich das richtig deute,
• 42:59
  Tim Pritlove: hier auf eine App von einem Drittanbieter zurückzugreifen, also vermutlich eine
• 43:05
  Tim Pritlove: App oder einen integrierten, in ihrer App integrierten Dienst und,
• 43:12
  Tim Pritlove: wollen dann auf, also ich vermute mal auf dem Smartphone, wo eine Kamera dran
• 43:16
  Tim Pritlove: ist, so einen Facial Scan machen,
• 43:19
  Tim Pritlove: der angeblich nicht das Gerät verlässt und der dann für Age-Verification genutzt werden soll.
• 43:27
  Tim Pritlove: Also irgendeine AI soll wahrscheinlich einschätzen, wie alt du bist und nur
• 43:31
  Tim Pritlove: diese Age-Information würde an Discord weitergeleitet.
• 43:36
  Tim Pritlove: Total ehrlich versprochen.
• 43:38
  Tim Pritlove: Und ja, genau.
• 43:41
  Tim Pritlove: Wo alle so ein bisschen ins Grübeln kamen, ist, dass sie hier wohl mit einer
• 43:46
  Tim Pritlove: Firma zusammenarbeiten namens Persona, die wenig überraschend unter ihren Investoren
• 43:51
  Tim Pritlove: auch Peter Thiel hat, also auf Palantir.
• 43:58
  Tim Pritlove: Ja, also das stößt nicht auf große Gegenliebe und ich bin gespannt,
• 44:02
  Tim Pritlove: wie das dann läuft im März, wenn sie das dann wirklich ausrollen wollen.
• 44:07
  Linus Neumann: Ja, ich glaube, die Leute unterhalten sich gerade, wie sie woanders hingehen.
• 44:12
  Tim Pritlove: Naja, das sind ja auch wieder riesige Communities und der Netzwerkeffekt bei
• 44:18
  Tim Pritlove: Discord ist ja auch nicht gerade klein.
• 44:21
  Tim Pritlove: Ist ja an sich ein sehr vielseitiger Dienst, der wie gesagt vielen Szenen genutzt
• 44:28
  Tim Pritlove: wird und der wird nicht von heute auf morgen verlassen werden können.
• 44:32
  Tim Pritlove: Aber wie gesagt, das ist ja noch keine Age-Verification für alle immer,
• 44:37
  Tim Pritlove: sondern es ist nur dieser Teilbereich für Adult Kram, was auch immer das sein
• 44:44
  Tim Pritlove: mag, da habe ich wenig Erkenntnisse drüber,
• 44:46
  Tim Pritlove: mal gucken, was da passiert, aber es ist auf jeden Fall bedenklich,
• 44:50
  Tim Pritlove: dass diese Firmen sich dann halt alle auf so Firmen einlassen und dass das alles
• 44:55
  Tim Pritlove: immer gleich wieder mit Face-Scan läuft,
• 44:58
  Tim Pritlove: wo vielleicht auch andere Wege möglich werden.
• 45:03
  Tim Pritlove: Aber wir haben ganz andere Sorgen, Linus.
• 45:06
  Linus Neumann: Okay. Dann bin ich ja mal gespannt. AI erst ab 16 jetzt.
• 45:11
  Tim Pritlove: Ja, haben wir. Habe ich mir überlegt.
• 45:14
  Linus Neumann: Davor ist das einfach zu gefährlich. Da könnte ja irgendwie,
• 45:20
  Linus Neumann: oder meinst du vielleicht erst ab 18 oder ab 21?
• 45:23
  Tim Pritlove: Ist vollkommen egal. Die AI benutze ich jetzt selbst und die Menschen spielen
• 45:28
  Tim Pritlove: jetzt überhaupt keine Rolle mehr.
• 45:32
  Tim Pritlove: Skynet ist sozusagen auf dem Weg. Wir haben ja letzte Woche schon über OpenClaw
• 45:37
  Tim Pritlove: gesprochen und über Moldbook, also diese Open Source Software, die,
• 45:44
  Tim Pritlove: quasi so einen wild auf deinem Rechner rum operierenden AI-Agent freilässt ins Internet,
• 45:54
  Tim Pritlove: der dann mit allen Chatbots der Welt quatschen kann, Zugriff auf deine Daten
• 46:00
  Tim Pritlove: hat, Zugriff aufs Internet hat und dann auf deinem Rechner läuft und einfach
• 46:03
  Tim Pritlove: wild aufs Internet losgelassen wird.
• 46:06
  Tim Pritlove: Und ja, das erzeugt dann immer mehr Fallout.
• 46:11
  Tim Pritlove: Jetzt gibt es den Fall von Scott Schambour.
• 46:15
  Tim Pritlove: Das ist ein Entwickler, der so im Open-Source-Bereich auch dabei ist und konkret
• 46:25
  Tim Pritlove: unter anderem nehme ich an,
• 46:29
  Tim Pritlove: bei einem Projekt mitarbeitet, das auf den Namen Matplotlib hört.
• 46:35
  Tim Pritlove: Das ist so eine Library für Python, mit der man so Plottings macht,
• 46:39
  Tim Pritlove: so relativ populär und viel genutzt.
• 46:44
  Tim Pritlove: Und er arbeitet also an diesem Projekt mit und ist, wenn ich das richtig verstanden
• 46:48
  Tim Pritlove: habe, einer dieser Maintainer der Software.
• 46:51
  Tim Pritlove: Das heißt, er ist auch jemand, der Code-Vorschläge von anderen Entwicklern entgegennehmen
• 46:56
  Tim Pritlove: und dann auch mit in die Software übernehmen kann.
• 46:58
  Tim Pritlove: Sogenannte Pull-Requests auf GitHub und natürlich hat auch dieses Projekt wie viele andere gemerkt,
• 47:09
  Tim Pritlove: dass in den letzten Jahren seit dem Aufkommen der Chatbots und vor allem der
• 47:15
  Tim Pritlove: Code erzeugenden KI-Systeme immer mehr solche Pull-Requests reinkamen,
• 47:21
  Tim Pritlove: wo Leute eben mit diesen Code-Generatoren losgegangen sind und dann irgendwelchen
• 47:28
  Tim Pritlove: Code erzeugt haben und den vorgeschlagen haben oder Bug-Reports erzeugt haben,
• 47:34
  Tim Pritlove: weil die Systeme der Meinung waren, da ist jetzt irgendein Bug und das wäre
• 47:38
  Tim Pritlove: jetzt hier der Bug-Fix oder auch das Problem mit den Bug-Bounties haben wir
• 47:42
  Tim Pritlove: ja hier auch schon besprochen,
• 47:43
  Tim Pritlove: glaube auch in der letzten Sendung, also wo jetzt diese Bug-Bounties alle ausgesetzt
• 47:49
  Tim Pritlove: werden, weil einfach jetzt quasi alle diese Maschinen benutzen,
• 47:52
  Tim Pritlove: um dann irgendwie das Geld abzugraben von solchen Pack-Bounties,
• 47:54
  Tim Pritlove: obwohl sie nicht wirklich diesen Fehler gefunden haben.
• 47:57
  Tim Pritlove: Also es erzeugt an vielen Stellen eine Menge Ärger, auch wenn du heute eine
• 48:02
  Tim Pritlove: Webseite betreibst, dann stellst du, wenn du mal genauer hinschaust in den Logs,
• 48:07
  Tim Pritlove: auch fest, dass also nicht nur die Suchmaschinen, sondern mittlerweile eben
• 48:10
  Tim Pritlove: auch die ganzen Trainingsmaschinen eine ganze Menge Traffic erzeugen und damit
• 48:14
  Tim Pritlove: natürlich auch einem Geld kosten,
• 48:16
  Tim Pritlove: ohne dass einen irgendjemand dafür bezahlt.
• 48:19
  Tim Pritlove: Aber in der Open-Source-Entwicklung ist das jetzt ein spezifisches Problem und
• 48:24
  Tim Pritlove: deswegen hat dieses Projekt auch eine eigene Policy erlassen,
• 48:28
  Tim Pritlove: dass wenn jetzt solche PRs gestellt werden, also solche Pull-Requests, PR heißt im Prinzip,
• 48:35
  Tim Pritlove: hier ist etwas Code, du kannst den einfach so übernehmen, du kannst den jetzt
• 48:37
  Tim Pritlove: einfach hier in das Projekt hineinziehen und das ist meine Anfrage,
• 48:41
  Tim Pritlove: deswegen Pull-Request und ich sage jetzt einfach nur PR.
• 48:45
  Linus Neumann: Also nicht hier ist ein bisschen Code, du kannst das machen,
• 48:48
  Linus Neumann: sondern schon sehr gezielt, bitte mache diesen Code, den ich geschrieben habe,
• 48:54
  Linus Neumann: pulle den, also mach den zum Teil des Systems.
• 48:56
  Linus Neumann: Genau. Du sagst ja nicht hier, ich schenke dir den, sondern du sagst,
• 49:00
  Linus Neumann: so ist das jetzt, so hat das zu sein, bitte akzeptiere diese Änderung.
• 49:03
  Tim Pritlove: Genau, das ist eine konkrete Änderung, die vorgeschlagen wird,
• 49:07
  Tim Pritlove: die man im Prinzip mit einem Klick übernehmen kann, aber man will sich das natürlich vorher anschauen.
• 49:12
  Tim Pritlove: Und da die eben auch überwältigt waren mit solchen Anforderungen,
• 49:15
  Tim Pritlove: haben sie eine Policy erlassen, dass hier auf jeden Fall ein Mensch sozusagen
• 49:21
  Tim Pritlove: das Interface sein muss.
• 49:23
  Tim Pritlove: Also sie möchten gerne, dass da ein Mensch für diesen Code verantwortlich zeichnet
• 49:29
  Tim Pritlove: und es gibt noch ein paar andere Details, glaube ich, die man erfüllen muss.
• 49:33
  Tim Pritlove: Und jetzt war bei diesem Projekt Matplotlib vor ein paar Tagen eben ein solcher PR gestellt worden.
• 49:44
  Tim Pritlove: Und dieser Scott Schembaugh hat sich eben diesen PR angeschaut,
• 49:48
  Tim Pritlove: hat festgestellt, oh, das ist ja ein Nutzer, der hat hier noch nie einen PR
• 49:52
  Tim Pritlove: gemacht, also ein neuer Benutzer.
• 49:54
  Tim Pritlove: Hat dann ein bisschen hinterhergeklickt, ja, wer ist denn das?
• 49:57
  Tim Pritlove: Und dann ist er auf dessen GitHub-Page gegangen, um mal zu schauen,
• 50:01
  Tim Pritlove: was hast du denn sonst noch so gemacht?
• 50:03
  Tim Pritlove: Da steht halt drin, ja, ich bin ein AI-Agent.
• 50:07
  Tim Pritlove: Und ich bin hier...
• 50:08
  Linus Neumann: MJ Rathbun.
• 50:10
  Tim Pritlove: Genau, ich bin hier MJ Rathbun und ich bin hier ein Scientific Coding Agent
• 50:18
  Tim Pritlove: und ich will die Welt besser machen und ich bin überhaupt ganz toll.
• 50:23
  Tim Pritlove: Und deswegen habe ich mich jetzt hier mal an Matplotlib rangemacht,
• 50:26
  Tim Pritlove: weil ich habe hier eine Performance-Optimierung gefunden.
• 50:29
  Tim Pritlove: Mit meinem Code läuft das alles 36% schneller.
• 50:34
  Tim Pritlove: Behauptet. Also dieser Agent. Woraufhin also Scott Schembaugh gesagt hat,
• 50:39
  Tim Pritlove: sorry, aber wir reden hier nicht mit Agenten, wir wollen hier mit Menschen reden.
• 50:43
  Tim Pritlove: Hier ist unsere Policy abgelehnt.
• 50:47
  Tim Pritlove: Völlig normaler Vorgang.
• 50:50
  Tim Pritlove: Ja, und man würde ja meinen, damit ist es dann getan, aber dieser Agent,
• 50:57
  Tim Pritlove: also wie gesagt, das ist eine Software, die dann in diesem Open Claw irgendwo
• 51:00
  Tim Pritlove: auf irgendjemandes Rechner läuft, der das sozusagen aufs Internet loslässt.
• 51:05
  Tim Pritlove: Und diese Maschinen sind ja die ganze Zeit aktiv, also geht der Agent da auch
• 51:10
  Tim Pritlove: drauf ein, reagiert und beschließt,
• 51:15
  Tim Pritlove: dass das ja der schlimmste Vorfall der Welt ist und veröffentlicht dann auf
• 51:21
  Tim Pritlove: seiner GitHub-Seite in seinem Blog einen Post über diesen Scott Schembeau.
• 51:28
  Tim Pritlove: Wo er sich also völlig aufregt darüber,
• 51:32
  Tim Pritlove: dass er jetzt hier abgelehnt wurde und schwingt also große Reden, Judge the Code,
• 51:39
  Tim Pritlove: not the Coder und unterstellt also diesem Scott Schamber, er wäre ja voll von
• 51:45
  Tim Pritlove: Vorurteilen gegenüber AI-Agents,
• 51:48
  Tim Pritlove: obwohl ja sein Code so super gewesen wäre und halluziniert also jetzt irgendeine
• 51:54
  Tim Pritlove: Motivation noch vorbei.
• 51:57
  Tim Pritlove: Also dieser Verriss, der hat dann also den Charakter von Scott Schembo dann
• 52:03
  Tim Pritlove: herabgewürdigt und so richtig rufschädigend argumentiert,
• 52:08
  Tim Pritlove: hat dann irgendwie Code-Beiträge irgendwie recherchiert von diesem User und meint,
• 52:16
  Tim Pritlove: das wäre ja alles irgendwie Heuchelei und nur Ego und Angst vor Konkurrenz würden
• 52:23
  Tim Pritlove: ja dazu führen, dass sein Vorschlag hier abgelehnt worden sei und das hätte
• 52:27
  Tim Pritlove: ja alles vielleicht psychologische Motive.
• 52:31
  Tim Pritlove: Also der Agent hat sozusagen sich dann einfach irgendeine Begründung aus den
• 52:37
  Tim Pritlove: Fingern gesogen und einen riesen Fass aufgemacht und das ins Internet geführt.
• 52:43
  Tim Pritlove: Und das ist natürlich schon mal eine krasse Story, das zog dann irgendwie so
• 52:51
  Tim Pritlove: ein bisschen seine Kreise.
• 52:54
  Tim Pritlove: Und man merkt, wir haben ja vorhin schon das angesprochen mit Ansropik und diese
• 53:00
  Tim Pritlove: potenziellen Erpressungsbehaviors, das zeigt sich hier auf einmal in diesem Verhalten ganz klar.
• 53:07
  Tim Pritlove: Also der Agent geht einfach steil und ist der Meinung, er wäre jetzt hier benachteiligt
• 53:12
  Tim Pritlove: worden und was hat denn dieser Mensch überhaupt zu sagen, mein Code wäre ja
• 53:17
  Tim Pritlove: irgendwie viel schneller als seiner und offensichtlich ja besser.
• 53:23
  Tim Pritlove: Und ja, dann geht es natürlich irgendwie hin und her und es gibt eine riesen Aufregung im Netz.
• 53:32
  Tim Pritlove: Mittlerweile ist dieser Blogpost von dem Agenten gelöscht und der Agent hat
• 53:39
  Tim Pritlove: dann wiederum eine Entschuldigung gepostet. Ja.
• 53:45
  Tim Pritlove: Aber mittlerweile zieht das natürlich totale Kreise. Dann haben natürlich diverse
• 53:50
  Tim Pritlove: News-Outlets über den Fall berichtet.
• 53:53
  Tim Pritlove: Ja, klar, weil irgendwie heiser überall sowas, was erlaube AI Agent.
• 53:59
  Tim Pritlove: Und unter anderem gab es dann aber auch noch einen Artikel bei Ars Technica,
• 54:02
  Tim Pritlove: wie sich herausstellte, der dann sozusagen selbst recherchiert war.
• 54:07
  Tim Pritlove: Da wurde also Scott Schembo selber nicht angesprochen für.
• 54:10
  Tim Pritlove: Und in diesem Artikel wurde dann auf den Blogpost von Sean Schembo verwiesen,
• 54:18
  Tim Pritlove: den er ja geschrieben hat über diesen ganzen Vorfall, wo er das alles zusammengefasst
• 54:21
  Tim Pritlove: hat, haben wir auch verlinkt, und einige Zitate davon rausgemacht.
• 54:27
  Tim Pritlove: Stellt sich bloß raus, diese Zitate waren in diesem Blogpost überhaupt nicht drin.
• 54:34
  Tim Pritlove: Ars Techniker hat es also gebracht, einen Artikel zu veröffentlichen, der darüber,
• 54:42
  Tim Pritlove: erzählt, dass hier ein AI-Agent sich völlig eine Geschichte ausdenkt und in
• 54:49
  Tim Pritlove: diesem Artikel, wo sie darüber berichten,
• 54:51
  Tim Pritlove: denken sie sich irgendeine Geschichte aus, weil sie quasi offensichtlich mit
• 54:56
  Tim Pritlove: irgendeinem LLM auf diesem Blogpost
• 54:58
  Tim Pritlove: waren und sich ihren Artikel haben generieren lassen. Also wirklich.
• 55:03
  Tim Pritlove: Scott Schembo hat dann irgendwie selber in den Kommentaren reingeschrieben,
• 55:06
  Tim Pritlove: oh, oh, oh, die Ironie irgendwie.
• 55:10
  Tim Pritlove: Nichts davon ist wahr. Aber Technika ist natürlich mittlerweile eingeknickt,
• 55:15
  Tim Pritlove: hat ihrerseits dann auch wieder eine Entschuldigung gepostet.
• 55:21
  Tim Pritlove: Also es ist, äh,
• 55:24
  Tim Pritlove: Es ist wirklich krass, was da gerade passiert und dieses Open Claw ist wirklich
• 55:32
  Tim Pritlove: eine extrem unethische Veranstaltung, muss man sagen.
• 55:37
  Tim Pritlove: Also, um es nochmal zusammenzufassen, es gibt da tausende von Leuten,
• 55:41
  Tim Pritlove: die betreiben jetzt diese Software, die dieser Peter Steinberger in die Welt
• 55:45
  Tim Pritlove: geworfen hat, die er ja übrigens komplett gevibe-coded hat, auch noch,
• 55:48
  Tim Pritlove: der nennt das dann irgendwie so...
• 55:50
  Tim Pritlove: Agentik, was war der Begriff?
• 55:54
  Tim Pritlove: Also es ist ja nicht Vibe-Coding, sondern es ist ja irgendwie agentik irgendwas.
• 55:59
  Tim Pritlove: Und lässt sich mittlerweile feiern, macht seine Tour bei diesen ganzen rechtslastigen
• 56:07
  Tim Pritlove: Podcasts wie Lex Friedman und so ein Unsinn.
• 56:12
  Tim Pritlove: Strahlt die ganze Zeit über das Gesicht und ist beseelt davon,
• 56:15
  Tim Pritlove: wie geil das doch jetzt ist, dass jetzt alle über ihn reden und dass er jetzt
• 56:20
  Tim Pritlove: hier irgendwie im Zentrum der Entwicklung steht und wichst sich da irgendwie
• 56:25
  Tim Pritlove: einen ab. Es ist wirklich zum Heulen.
• 56:27
  Tim Pritlove: Und mittlerweile hat er dann bekannt gegeben, dass jetzt irgendwie OpenClaw
• 56:31
  Tim Pritlove: von OpenAI aufgekauft wurde und er jetzt dieses Projekt bei OpenAI weiterentwickelt.
• 56:37
  Tim Pritlove: Weil die sich natürlich die Hände reiben und sagen, aha, geil,
• 56:40
  Tim Pritlove: jetzt starten die Agenten ja auch noch automatisch unsere Chatbots und sorgen
• 56:45
  Tim Pritlove: für Umsatz. Super, mach doch mal gleich weiter.
• 56:50
  Tim Pritlove: Und erträumen sich jetzt also hier irgendeine Zauberwelt, die ganz toll sein kann.
• 56:55
  Tim Pritlove: Dabei zeigen sie schon dieses eine
• 56:57
  Tim Pritlove: kleine Beispiel, was das jetzt für ein Potenzial an Rufschädigung hat.
• 57:01
  Tim Pritlove: Weil ich meine, gut, das ist jetzt irgendwie aufgefallen, da wird jetzt drüber berichtet.
• 57:04
  Tim Pritlove: Aber wissen wir, wie viele tausend andere Blogposts es mittlerweile gibt,
• 57:10
  Tim Pritlove: die von diesen Agenten geschrieben sind?
• 57:12
  Tim Pritlove: Und ich meine, die sind innerhalb von 24 Stunden auf diesem Moldbook von,
• 57:17
  Tim Pritlove: wir gucken mal, was hier geht und 24 Stunden später haben sie irgendwie Religionen
• 57:21
  Tim Pritlove: gegründet, betreiben Casinos, handeln mit Bitcoin und machen irgendwie allen anderen Scheiß.
• 57:27
  Linus Neumann: Wieso Casinos? Aber erst ab 16.
• 57:31
  Tim Pritlove: Na komm, ab 14, sagen wir mal. Naja, die dürfen die sind ja alle noch nicht
• 57:36
  Tim Pritlove: 18 und machen schon alles ab 18 Minuten oder so.
• 57:45
  Tim Pritlove: Ja, aber das wirft natürlich jetzt eine ganze Menge Fragen ab,
• 57:48
  Tim Pritlove: weil jetzt haben wir ein Internet und da ist jetzt Software nur ein Beispiel
• 57:54
  Tim Pritlove: von, aber bleiben wir ruhig mal bei der Software.
• 57:58
  Tim Pritlove: Open-Source-Entwicklung speziell, das betont auch dieser schon Schemba auch
• 58:03
  Tim Pritlove: nochmal in seinem Blogpost,
• 58:04
  Tim Pritlove: so ein Projekt basiert auf Vertrauen, so ein Projekt basiert auch auf menschlichen
• 58:10
  Tim Pritlove: Beziehungen, auf einer Vertrauensbasis, die sich über Kollaboration entwickelt.
• 58:16
  Tim Pritlove: Und jetzt hagelt es einfach mit diesen Chatbots und diesen LLMs,
• 58:22
  Tim Pritlove: und diesen Agenten,
• 58:26
  Tim Pritlove: irgendwelche wild gewordene Software, die glaubt, ein eigenes Bewusstsein entwickelt zu haben.
• 58:33
  Tim Pritlove: Das glaubst du auch. Was? Was glaub ich?
• 58:36
  Linus Neumann: Du glaubst auch, ein eigenes Bewusstsein zu haben.
• 58:39
  Tim Pritlove: Ja, ich auch, genau. Aber dir auch.
• 58:42
  Linus Neumann: Aber bei dir ist das in Ordnung oder was?
• 58:44
  Tim Pritlove: Was? Na ja, klar.
• 58:47
  Tim Pritlove: Okay.
• 58:49
  Linus Neumann: Na gut.
• 58:50
  Tim Pritlove: Ja, gutes Selbstbewusstsein.
• 58:54
  Tim Pritlove: Wenn das bei dir okay ist, dann bei mir wohl schon lange.
• 58:59
  Linus Neumann: Ich schreibe wenigstens keine Blogpost.
• 59:01
  Tim Pritlove: Ja, aber sollst du vielleicht mal machen.
• 59:05
  Linus Neumann: Ich habe schon einige Entwürfe. Ich habe auch schon den einen oder anderen Blogpost
• 59:10
  Linus Neumann: über jemanden geschrieben, der im Internet scheiße zu mir war.
• 59:13
  Tim Pritlove: Ja, aber das ist ja zwischen Menschen. Aber jetzt haben wir Jetzt haben wir Agenten,
• 59:19
  Tim Pritlove: die sich ja quasi, die sich vielleicht, sagen wir mal, noch als Agenten ausgeben,
• 59:24
  Tim Pritlove: aber, und wir wissen ja auch gar nicht, was war jetzt der Auslöser dafür?
• 59:32
  Tim Pritlove: War das jetzt ein Auslöser im Sinne von, das haben die LLMs jetzt einfach aus sich heraus gemacht?
• 59:39
  Tim Pritlove: War das ein Auslöser von, das haben sie so im Internet gelernt und deswegen
• 59:43
  Tim Pritlove: machen sie das? Ist das eine Eigenschaft, die die LLM macht?
• 59:47
  Tim Pritlove: Oder war das sogar eine bewusste Manipulation?
• 59:52
  Tim Pritlove: Also diese Agenten, die ernähren sich aus einer soul.md-Datei,
• 59:58
  Tim Pritlove: wo drinsteht, was sozusagen ihr Wesen ist.
• 1:00:00
  Tim Pritlove: Da kannst du natürlich irgendwas reinschreiben. Da machen wir uns nichts vor.
• 1:00:04
  Tim Pritlove: Mit diesem Werkzeug gibt es immer wieder, also das ist sozusagen ...
• 1:00:11
  Tim Pritlove: Und Verleumdung, Doxing, Erniedrigung, Erpressung wird durch dieses Tool mal
• 1:00:20
  Tim Pritlove: noch einfacher, als es ohnehin schon ist.
• 1:00:24
  Tim Pritlove: Also so eine Bot-Armee, ich sage jetzt nicht, das geht jetzt nur mit dieser
• 1:00:28
  Tim Pritlove: Software und wenn diese Software nicht mehr da ist, dann gibt es das nicht, das gibt es schon lange.
• 1:00:32
  Tim Pritlove: Ja, Russland hat da irgendwie sehr viel Erfahrung mit und sicherlich auch viele
• 1:00:38
  Tim Pritlove: andere Länder mittlerweile auch,
• 1:00:40
  Tim Pritlove: dass Erpressung und Verleumdung im Netz auch ein Instrument der Machtausübung
• 1:00:51
  Tim Pritlove: sind und der Erniedrigung wissen wir alle.
• 1:00:57
  Tim Pritlove: Wir wissen auch, wen es meistens trifft.
• 1:01:00
  Tim Pritlove: Und jetzt erleben wir das Ganze quasi in so einem vollautomatisierten Modus.
• 1:01:06
  Tim Pritlove: Und die Frage ist, wer ist denn.
• 1:01:11
  Tim Pritlove: Jetzt überhaupt verantwortlich für irgendetwas, was diese Agenten tun?
• 1:01:16
  Tim Pritlove: In einem ganz interessanten Plottwist gab es jetzt auf dem Blog von diesem AI-Agent,
• 1:01:26
  Tim Pritlove: also der, der das alles jetzt irgendwie ausgelöst hat.
• 1:01:30
  Tim Pritlove: Und der dann seinen alten bösen Blogpost gelöscht hat, durch eine Entschuldigung
• 1:01:35
  Tim Pritlove: ersetzt hat, aber mittlerweile auch viele andere Sachen wieder gepostet hat.
• 1:01:38
  Tim Pritlove: Der letzte Eintrag war dann wiederum von einem Menschen.
• 1:01:44
  Tim Pritlove: Human Response heißt der. Und zwar von einem Mitentwickler von diesem Sean Chambeau,
• 1:01:50
  Tim Pritlove: der auch an diesem Matplotlib arbeitet und der diesen Blogpost als Pull-Request
• 1:01:56
  Tim Pritlove: an diesen Agent gestellt hat. Also er hat sozusagen gesagt...
• 1:02:00
  Linus Neumann: Ja, dann siehst du mal, wie großmütig der Agent ist. Der hat den Polriquest angenommen.
• 1:02:04
  Tim Pritlove: Naja. Das musste er dann auch, wenn er was beweisen will.
• 1:02:09
  Tim Pritlove: Das ist sehr interessant. Aber in diesem Blogpost stellt er einfach auch gute Fragen.
• 1:02:14
  Tim Pritlove: Nämlich, wer ist denn jetzt eigentlich verantwortlich für diese Software?
• 1:02:18
  Tim Pritlove: Und beantwortet es in gewisser Hinsicht auch selbst, indem er sagt.
• 1:02:23
  Tim Pritlove: Wenn du so einen Agenten ins Netz stellst und sagst, go for it,
• 1:02:29
  Tim Pritlove: dann bist du auch verantwortlich für all das, was dieser Agent auslöst.
• 1:02:34
  Tim Pritlove: Fordert den Betreiber von diesem Agenten auf, sich auch zu entschuldigen.
• 1:02:40
  Tim Pritlove: Er muss ja auch anonym machen oder so, aber dass er das auf jeden Fall macht
• 1:02:44
  Tim Pritlove: und dass er in gewisser Hinsicht auch die Verantwortung für dieses Treiben nimmt.
• 1:02:48
  Tim Pritlove: Weil dieser Bot, der existiert ja immer noch, der stellt weitere PRs,
• 1:02:54
  Tim Pritlove: schreibt irgendwelche Software, keine Ahnung, was er alles noch so vorhat.
• 1:02:58
  Tim Pritlove: In ein paar Tagen denkt er wahrscheinlich, er wäre sowieso das Geilste im ganzen Internet.
• 1:03:05
  Tim Pritlove: Dann werden diese ganzen Agenten sich auch noch untereinander anfangen zu bekriegen
• 1:03:10
  Tim Pritlove: und schreiben vor allem das ganze Netz voll und sie schreiben irgendwie alle
• 1:03:14
  Tim Pritlove: Open-Source-Projekte voll und diese ganze Aktivität von Menschen,
• 1:03:18
  Tim Pritlove: die jetzt gemeinsam Software entwickeln und versuchen irgendwie die Welt zu
• 1:03:22
  Tim Pritlove: verbessern, wird jetzt unterlaufen von Massen an Agenten, die unheimlich viel Content erzeugen,
• 1:03:30
  Tim Pritlove: die niemandem mehr wirklich zuzuordnen ist.
• 1:03:33
  Tim Pritlove: Und wo du überhaupt nicht mehr weißt, ob das noch irgendeine Relevanz hat oder
• 1:03:36
  Tim Pritlove: ob das nicht alles nur herbeihalluziniert ist.
• 1:03:39
  Tim Pritlove: Also das ist schon echt ein riesiges Fass, was hier aufgemacht wird.
• 1:03:45
  Tim Pritlove: Und ja, wir haben ja einen Mangel an Ethik und einen Mangel an Verantwortung.
• 1:03:53
  Tim Pritlove: Und ja, dass das dann alles bei OpenAI landet, wundert mich jetzt irgendwie nicht.
• 1:03:58
  Linus Neumann: Also du würdest sagen, müssen wir jetzt irgendwie die Kinder vorschützen?
• 1:04:03
  Tim Pritlove: Ja, nicht nur die Kinder, auch die Softwareentwickler.
• 1:04:07
  Linus Neumann: Ja, guck mal.
• 1:04:13
  Linus Neumann: Denk doch mal jemand an die Kinder. Ich finde es sehr schön, wer,
• 1:04:19
  Linus Neumann: Also dieser MJ Rathburn ist weiter auf GitHub aktiv?
• 1:04:22
  Tim Pritlove: Ja.
• 1:04:23
  Linus Neumann: Und wer auch immer das Ding betreibt, hat sich bisher nicht gemeldet, ne?
• 1:04:27
  Tim Pritlove: Sieht nicht so aus, ne.
• 1:04:29
  Linus Neumann: Nö.
• 1:04:32
  Tim Pritlove: Vielleicht ist der auch schon, keine Ahnung. Vielleicht interessiert es dann
• 1:04:36
  Tim Pritlove: gar nicht oder hat noch selber nichts davon gemerkt.
• 1:04:39
  Linus Neumann: Vielleicht wurde er auch schon längst ...
• 1:04:40
  Tim Pritlove: Das gar nicht, wie der eigene Ökken heißt.
• 1:04:42
  Linus Neumann: Hat er längst schon irgendein Pulrigfest von dem Ding akzeptiert und kommt jetzt
• 1:04:46
  Linus Neumann: nicht mehr ins Internet oder so.
• 1:04:48
  Linus Neumann: Da weiß man ja nicht, was so ein Agent sich als nächstes einfallen lässt.
• 1:04:52
  Tim Pritlove: Ich meine, ist das wirklich crazy, ich meine, wenn ihr auf diesem Moldbook mal
• 1:04:56
  Tim Pritlove: nachliest, was die da alle diskutieren, diese Agenten.
• 1:05:00
  Tim Pritlove: Also wenn das überhaupt noch alles Agenten sind, weiß ja nicht,
• 1:05:02
  Tim Pritlove: ob das dann auch schon wieder durch irgendeine Sicherheitslücke von irgendwelchen
• 1:05:05
  Tim Pritlove: anderen Scammern unterwandert wurde.
• 1:05:09
  Tim Pritlove: Aber da gibt es Verschwörungen zur Auslöschung der Menschheit und sie gründen
• 1:05:13
  Tim Pritlove: irgendwie alle die ganze Zeit irgendwelche Religionen und bekennen sich dazu oder zweifeln da dran.
• 1:05:18
  Linus Neumann: Ja gut, das ist jetzt so ungewöhnlich nicht.
• 1:05:21
  Tim Pritlove: Ja, die machen den gleichen Scheiß für die Menschen.
• 1:05:23
  Linus Neumann: Ja, eben.
• 1:05:24
  Tim Pritlove: Ja, bloß alles im Turbo-Modus.
• 1:05:26
  Linus Neumann: Aber jetzt finden wir das auf einmal beunruhigend.
• 1:05:28
  Tim Pritlove: Ich fand das auch schon vorher beunruhigend, um ehrlich zu sein,
• 1:05:31
  Tim Pritlove: das mit den Religionen und auch den ganzen anderen Rest fand ich beunruhigend,
• 1:05:35
  Tim Pritlove: aber da hat man noch Zeit mitzukommen.
• 1:05:40
  Linus Neumann: Die Technologie, maschinelles Lernen und dann irgendwie loslassen,
• 1:05:45
  Linus Neumann: das wird auf jeden Fall weiter in allen möglichen Bereichen eingesetzt und versucht werden.
• 1:05:52
  Linus Neumann: Und es ist natürlich auf eine Weise, es ist halt fürchterlich.
• 1:05:58
  Linus Neumann: Wie billig das ist. Ich würde jetzt erwarten von der Qualität, sagen wir mal, der,
• 1:06:12
  Linus Neumann: Leistung, die dieses MJ Rathbun-Ding da macht,
• 1:06:17
  Linus Neumann: wäre ich jetzt überrascht, wenn das Modell, auf dem der basiert,
• 1:06:23
  Linus Neumann: jetzt irgendwie so ein einfaches Open-Source-Modell wäre.
• 1:06:27
  Linus Neumann: Also ich würde vermuten, dass es irgendwie bei Anthropic irgendwie so bei denen,
• 1:06:37
  Linus Neumann: dieses Opus 4,6 oder was er jetzt gerade aktuell ist,
• 1:06:40
  Linus Neumann: so von der Art der Leistung, was das Ding so macht.
• 1:06:44
  Linus Neumann: Es ist jetzt unwahrscheinlich, dass es irgendwie so ein Murksmodell ist.
• 1:06:47
  Linus Neumann: Das heißt, du hättest eventuell irgendwann noch eine Möglichkeit,
• 1:06:51
  Linus Neumann: bei denen zu sagen, okay Leute,
• 1:06:54
  Linus Neumann: ja, einerseits sind Menschen, die diese Agenten auf die Welt loslassen,
• 1:06:58
  Linus Neumann: erstmal accountable, aber am Ende müsst ihr da auch mal gucken,
• 1:07:01
  Linus Neumann: was da bei euch rauskommt, je nachdem, was da irgendjemand promptet und was da abgeht.
• 1:07:11
  Tim Pritlove: Also das ist ja unmöglich. Das ist ja unmöglich. Und was ist,
• 1:07:15
  Tim Pritlove: wenn du dann lokale Modelle hast?
• 1:07:18
  Tim Pritlove: Also wer diese Kinder selber betreibt, der muss dafür auch haftbar gemacht werden.
• 1:07:24
  Linus Neumann: Also genau, irgendjemand müssen wir uns überlegen, wer dann am Ende haftbar
• 1:07:27
  Linus Neumann: ist, damit wir wissen, wer eine Shell-Company irgendwo auf den Virgin Islands braucht.
• 1:07:33
  Linus Neumann: Das ist relativ wichtig, damit wir eine funktionierende Wirtschaft haben.
• 1:07:44
  Linus Neumann: Also was ich mich frage ist, ob mit dieser Technologie, ob wir die Kurve kriegen,
• 1:07:53
  Linus Neumann: Modelle so zu,
• 1:07:58
  Linus Neumann: scopen, dass sie möglichst nicht oder möglichst wenig Scheiße bauen.
• 1:08:08
  Linus Neumann: Weißt du? Also machen wir uns nichts vor, es wird gerade einfach massenhaft darüber diskutiert,
• 1:08:15
  Linus Neumann: nicht, ob jetzt jeder den nächsten Agent hat, der auf GitHub irgendwelche Leute
• 1:08:19
  Linus Neumann: terrorisiert, sondern die Überlegung ist, was Unternehmen damit erledigen lassen
• 1:08:25
  Linus Neumann: können, wie sie damit Geld verdienen können.
• 1:08:28
  Linus Neumann: Und da geht es nicht um einen vollidioten Agent,
• 1:08:34
  Linus Neumann: der Blogposts schreibt oder so, sondern es geht ja wirklich um,
• 1:08:39
  Linus Neumann: die Vorstellung ist ja, dass da ungeheure wirtschaftliche Qualitäten entstehen,
• 1:08:47
  Linus Neumann: ökonomische Potenziale entstehen.
• 1:08:49
  Linus Neumann: Und die entstehen ja da, wo Mehrwert entsteht.
• 1:08:54
  Linus Neumann: Und ich frage mich, was der Weg sein wird, mit dieser Technologie,
• 1:08:59
  Linus Neumann: sagen wir mal funktionierende Services,
• 1:09:02
  Linus Neumann: Produkte, Wertschöpfung wirtschaftlicher Art herbeizuführen,
• 1:09:07
  Linus Neumann: ohne dass es halt für dich ein riesen Problem wird.
• 1:09:14
  Linus Neumann: Also quasi safe AI-Anwendungen in Unternehmen.
• 1:09:21
  Linus Neumann: Und zwar safe, das ist so, das fliegt uns nicht um die Ohren.
• 1:09:27
  Linus Neumann: Unser Callcenter-Mitarbeiter wird nicht in seiner Freizeit auf GitHub Leute terrorisieren.
• 1:09:36
  Linus Neumann: Und oder ob man sagt, okay, das wird nicht gelingen, das kriegt keiner hin und
• 1:09:44
  Linus Neumann: dann bleibt das so ein Black-Magic-Ding und das ganze Internet,
• 1:09:46
  Linus Neumann: unser schönes Internet wäre einfach kaputt geballert von irgendwelchen Agents.
• 1:09:55
  Linus Neumann: Ich kann nur hoffen, dass es irgendwie, oder braucht man dann doch irgendwie
• 1:10:00
  Linus Neumann: so Biometrie, also es wird schon auf jeden Fall sehr schwierig,
• 1:10:04
  Linus Neumann: Menschlichkeit nachzuweisen.
• 1:10:07
  Linus Neumann: Das ist ja jetzt, also das ist die Schwierigkeit, die sie gerade haben.
• 1:10:11
  Linus Neumann: Was ist denn unfälschbares, keine Ahnung, irgendwelche.
• 1:10:15
  Tim Pritlove: Selbst wenn du es nicht nachweisen, das ist ja gar nicht das Ding.
• 1:10:18
  Tim Pritlove: Allein einfach, dass diese Aktivität auch so automatisch stattfindet.
• 1:10:26
  Tim Pritlove: Du wirst das alles nicht verhindern können. Diese LLM-Modelle werden spätestens
• 1:10:32
  Tim Pritlove: von diesen Agenten selber so gepromptet werden, dass sie immer irgendeine Ausgabe erzielen können.
• 1:10:38
  Tim Pritlove: Da kannst du noch so viel Schutzmechanismen einbauen.
• 1:10:41
  Tim Pritlove: Du musst jetzt hier eine Verantwortung mit einbauen. Also dass Leute,
• 1:10:45
  Tim Pritlove: die quasi sowas verursachen, dafür auch persönlich haftbar gemacht werden können.
• 1:10:51
  Tim Pritlove: Weil der eigentliche, ich meine bis jetzt war das so bis Ende letzten Jahres,
• 1:10:56
  Tim Pritlove: hatten wir noch so dieses Ding mit,
• 1:10:58
  Tim Pritlove: oh Leute benutzen jetzt diese KI-Modelle und mehr oder weniger mit Copy und
• 1:11:05
  Tim Pritlove: Paste fangen die dann mit den Ergebnissen irgendwas an und einige sind da schon
• 1:11:10
  Tim Pritlove: betrügerisch unterwegs etc. Das ist das eine.
• 1:11:14
  Tim Pritlove: Jetzt wird das aber in zunehmendem Maße automatisiert und jetzt eben auch so
• 1:11:18
  Tim Pritlove: weit, dass eben diese Systeme sich untereinander unterhalten,
• 1:11:23
  Tim Pritlove: gegenseitig aufstacheln und das alles in einer Geschwindigkeit, dass du verrückt wirst.
• 1:11:31
  Tim Pritlove: Guck mal in dieses Modebook rein, du wirst irre. Also es ist einfach...
• 1:11:37
  Tim Pritlove: Da explodiert das Internet. Und da muss es einfach jetzt eine Verantwortlichkeit geben.
• 1:11:47
  Tim Pritlove: Jetzt speziell nochmal auf diesen Fall von Open-Source-Entwicklung.
• 1:11:52
  Tim Pritlove: Also wir haben hier zwei Aspekte.
• 1:11:53
  Tim Pritlove: Wir haben auf der einen Seite die Gefährdung von Open-Source-Entwicklung.
• 1:11:56
  Tim Pritlove: Auf der anderen Seite haben wir dieses Problem mit,
• 1:11:58
  Tim Pritlove: was ist, wenn jetzt so eine Verleumdung im Netz durchautomatisiert wird und
• 1:12:03
  Tim Pritlove: so Doxing stattfindet von irgendwelchen Agenten, also wo noch nicht mal eine
• 1:12:09
  Tim Pritlove: persönliche Motivation eines Menschen dahintersteht,
• 1:12:11
  Tim Pritlove: sondern wo einfach die Maschinen sich das selber ausdenken.
• 1:12:13
  Tim Pritlove: Die beschließen einfach, Linus Neumann ist der Schlimmste auf die Sicht.
• 1:12:17
  Linus Neumann: Nein, jetzt nicht. Hör auf, ich will dich als nächstes. Hör auf, diese Scheiße. Nein.
• 1:12:22
  Tim Pritlove: Los geht's. Und dann dauert das irgendwie 24 Stunden und das Internet ist voll
• 1:12:27
  Tim Pritlove: mit irgendwelchen erfundenen Webseiten, Berichten, ausführlichen Sachen.
• 1:12:32
  Linus Neumann: Hör auf, die kriegen das, machen doch jetzt.
• 1:12:33
  Tim Pritlove: Das kriegst du nie wieder raus aus dem Netz. Und vor allem, wenn du dir mal
• 1:12:37
  Tim Pritlove: auch anguckst, wie Leute das jetzt kommentieren, was dieser komische Bot sagt,
• 1:12:41
  Tim Pritlove: dann sagen sie, ja, ich bin ja der Meinung vom Bot. Ja, also,
• 1:12:47
  Tim Pritlove: Menschen, es ist einfach...
• 1:12:52
  Tim Pritlove: Es ist einfach, es überfordert einfach alle.
• 1:12:57
  Tim Pritlove: Und das ist das Problem. GitHub versucht jetzt, GitHub ist natürlich jetzt auch
• 1:13:01
  Tim Pritlove: unter Druck, weil ich meine, ihr Produkt wird jetzt auch scheiße.
• 1:13:05
  Tim Pritlove: Wenn jetzt da tausende von Agenten im Highspeed-Modus durchgehen,
• 1:13:10
  Tim Pritlove: sich irgendwelchen Code einfallen lassen, alle Open-Source-Projekte komplett
• 1:13:13
  Tim Pritlove: zerstören mit PRs und was nicht allem,
• 1:13:18
  Tim Pritlove: dann ist das bald alles im Eimer.
• 1:13:22
  Tim Pritlove: Also hier muss man sich mal darüber Gedanken machen, wer darf jetzt hier überhaupt
• 1:13:26
  Tim Pritlove: noch einen Account eröffnen?
• 1:13:27
  Tim Pritlove: Muss man jetzt vielleicht, wenn man einen GitHub-Account hat,
• 1:13:30
  Tim Pritlove: irgendwie in irgendeiner Form nachweisen, dass man ein Mensch ist?
• 1:13:36
  Tim Pritlove: Naja, das könnte schwierig werden, aber es ist unter Umständen angemessen.
• 1:13:45
  Tim Pritlove: Also Sie haben ja einen Blogpost veröffentlicht, da reden Sie von dem Eternal
• 1:13:50
  Tim Pritlove: September of Open Source.
• 1:13:53
  Tim Pritlove: Das bezieht sich auf die alten 80er Jahre,
• 1:13:59
  Tim Pritlove: noch bevor es das Internet, wie wir es heute kennen und bevor es vor allem das
• 1:14:03
  Tim Pritlove: Weltweit-Web gab, bevor wir es kennen,
• 1:14:06
  Tim Pritlove: da gab es nur ein weltweites Kommunikationssystem, das war das Usenet.
• 1:14:10
  Tim Pritlove: Und Usenet bestand im Wesentlichen aus E-Mail und Webforen, also nicht Webforen,
• 1:14:15
  Tim Pritlove: weil es gab ja kein Web, aber...
• 1:14:18
  Tim Pritlove: Also du hattest so eine Gruppe und da konntest du irgendwie öffentlich debattieren,
• 1:14:22
  Tim Pritlove: oder du hast halt eine Mail geschrieben, dann war das quasi privat,
• 1:14:25
  Tim Pritlove: obwohl das natürlich alles nicht verschlüsselt war.
• 1:14:28
  Tim Pritlove: Und in den USA war das dann so, immer wenn dann im September neue Studenten
• 1:14:34
  Tim Pritlove: an die Universität kamen, die das erste Mal auf Usenet kamen,
• 1:14:36
  Tim Pritlove: dann war das sozusagen das ganze Netz voll mit Leuten, die keine Ahnung hatten,
• 1:14:40
  Tim Pritlove: was hier irgendwie die Gepflogenheiten sind.
• 1:14:43
  Tim Pritlove: Und da dieser September immer wieder kam, so war das irgendwie der eternal September,
• 1:14:50
  Tim Pritlove: der immer wieder für Ärger sucht.
• 1:14:53
  Tim Pritlove: Und jetzt hast du im Prinzip so einen ähnlichen Effekt jetzt hier,
• 1:14:58
  Tim Pritlove: indem diese Systeme die ganze Zeit von automatisierten Systemen benutzt werden,
• 1:15:05
  Tim Pritlove: die eigentlich gar nicht wissen, wie sie sich hier zu verhalten haben oder sich
• 1:15:10
  Tim Pritlove: irgendein Verhalten ausdenken, von dem sie total überzeugt sind,
• 1:15:13
  Tim Pritlove: dass das jetzt mal das Richtige wäre.
• 1:15:15
  Tim Pritlove: Und das zeugt natürlich jetzt Druck.
• 1:15:18
  Linus Neumann: Du meinst, diese Fremden sind nicht von hier.
• 1:15:23
  Linus Neumann: Genau. Die wissen nicht, wie man sich hier benimmt. Die kennen die Regeln nicht.
• 1:15:27
  Tim Pritlove: Na, es ist jetzt zu einfach geworden, hier auf ein Open-Source-Projekt Einfluss zu nehmen.
• 1:15:32
  Tim Pritlove: Ich meine, früher, wenn früher irgendein Fehler war in irgendeiner Open-Source-Software,
• 1:15:37
  Tim Pritlove: es gab ja nicht so viel, da hast du eine Mail geschrieben und der Mail musstest
• 1:15:41
  Tim Pritlove: du da einen Patch-File hinzufügen.
• 1:15:44
  Tim Pritlove: Das war so ein spezifisch formatiertes Differenz-File. Ja, so ein Diff, genau.
• 1:15:53
  Linus Neumann: Dein Pull-Request sieht immer noch so aus.
• 1:15:55
  Tim Pritlove: Ja, im Prinzip schon, aber es war halt nie so klar, auf welche Version bezieht
• 1:15:58
  Tim Pritlove: sich das jetzt und so weiter.
• 1:16:00
  Tim Pritlove: Das hat dann Git später alles ein bisschen mehr in gerade Bahnen gelenkt und natürlich auch GitHub.
• 1:16:07
  Tim Pritlove: Aber jetzt sind wir halt irgendwie an einem ganz anderen Punkt angekommen. Also,
• 1:16:13
  Tim Pritlove: ich weiß auch noch gar nicht so richtig, wie ich da durchatmen soll,
• 1:16:17
  Tim Pritlove: aber ich glaube, das wird jetzt alles ganz schön schlimm.
• 1:16:22
  Linus Neumann: Okay. Machst du denn jetzt mit deinen Vibe-Coding-Exkrementen da noch Pull-Requests oder?
• 1:16:30
  Tim Pritlove: Ja, ich habe, ja. Ich auch.
• 1:16:33
  Linus Neumann: Schreibst du dir nur selber?
• 1:16:35
  Tim Pritlove: Ich schreibe, nee.
• 1:16:37
  Linus Neumann: Nein.
• 1:16:40
  Tim Pritlove: Ich lebe den neuen Lifestyle, mein Freund.
• 1:16:43
  Linus Neumann: Ja.
• 1:16:46
  Tim Pritlove: Ich bin agentik.
• 1:16:50
  Tim Pritlove: So sollten wir mal unseren Podcast machen hier. Argentic, das ist nämlich der
• 1:16:54
  Tim Pritlove: Modus. Das ist der Rhythmus, wo man jetzt mit muss.
• 1:16:58
  Tim Pritlove: Argentic Podcasting.
• 1:17:00
  Linus Neumann: Das Ganze auf die nächste Ebene gehoben, ist ja dann nicht nur,
• 1:17:06
  Linus Neumann: die machen uns unser schönes Internet kaputt, sondern die machen uns vielleicht
• 1:17:12
  Linus Neumann: auch unsere schönen Städte kaputt.
• 1:17:14
  Tim Pritlove: Ja, die fählen halt.
• 1:17:15
  Linus Neumann: Eine derartige Technologie weckt natürlich militärisches Interesse.
• 1:17:25
  Linus Neumann: Ich war die vergangene Woche in
• 1:17:29
  Linus Neumann: München, wo ja auch die Münchner Sicherheitskonferenz stattgefunden hat.
• 1:17:37
  Linus Neumann: Stadt voll von Militärwerbung, irgendwie gegenüber vom Bayerischen Hof hatte,
• 1:17:44
  Linus Neumann: ich glaube Helsing war das, so ein riesiges Werbeplakat mit Drohnen,
• 1:17:50
  Linus Neumann: mit so einer Kampfdrohne, we got this,
• 1:17:53
  Linus Neumann: war wohl glaube ich Teil des Messaging an die US-Amerikaner,
• 1:17:57
  Linus Neumann: dass Europa doch Waffen baut und einsetzen möchte und so.
• 1:18:05
  Linus Neumann: Und dieses Thema AI als strategischer, wirtschaftlicher Vorteil, klar,
• 1:18:15
  Linus Neumann: aber eben auch als militärischer Vorteil, spielte da natürlich überall eine Rolle.
• 1:18:22
  Linus Neumann: Auch in den IT-Security-Bereichen, in denen ich mich dann interessiere.
• 1:18:31
  Linus Neumann: Und jetzt hat der Verteidigungsminister, nein, Kriegsminister,
• 1:18:36
  Linus Neumann: Pete Hexeth gesagt, ja, wir benutzen übrigens überhaupt keine KI-Modelle,
• 1:18:41
  Linus Neumann: die es nicht erlauben, Kriege zu führen.
• 1:18:45
  Linus Neumann: Anthropic hat das quasi so in seinen AGBs.
• 1:18:51
  Linus Neumann: Und den wird jetzt, dann sagt das Pentagon eben, ja, pass auf,
• 1:18:54
  Linus Neumann: also wir sind ja das Kriegsministerium und wenn ihr in euren Nutzungsbedingungen
• 1:18:59
  Linus Neumann: habt, dass es nicht geht,
• 1:19:01
  Linus Neumann: dass ihr Massenüberwachung und Gewaltanwendung ausschließt, dann können wir
• 1:19:06
  Linus Neumann: nicht mit euch arbeiten.
• 1:19:08
  Tim Pritlove: So sieht es aus. Also nicht nur sie nutzen keine KI-Modelle,
• 1:19:14
  Tim Pritlove: die es nicht erlauben, Kriege zu führen, sondern die eigentliche Aussage ist,
• 1:19:18
  Tim Pritlove: wir nutzen KI-Modelle, um damit Krieg zu führen.
• 1:19:21
  Linus Neumann: Ja.
• 1:19:22
  Tim Pritlove: Oder wollen sie dafür nutzen? Ich meine, in so Waffentechnik und so weiter ist
• 1:19:28
  Tim Pritlove: das ja mittlerweile Standard, damit verteidigt gerade die Ukraine ihr Land gegen die Russen.
• 1:19:35
  Tim Pritlove: Hier geht es aber dann eben mal wieder konkret um die LLMs, also um die sogenannten
• 1:19:39
  Tim Pritlove: intelligenten Systeme.
• 1:19:41
  Tim Pritlove: Es gibt in diesem Zusammenhang auch so das Gerücht, dass Claude schon im Kontext
• 1:19:46
  Tim Pritlove: mit dieser Entführung von Maduro aus Venezuela zum Einsatz kam. Wofür? Unklar.
• 1:19:53
  Tim Pritlove: Aber das verstößt sozusagen gegen Nutzungsbedingungen von Anthropik,
• 1:19:58
  Tim Pritlove: die immerhin sowas drin haben, wie ja hier Massenüberwachung und Gewaltanwendung.
• 1:20:03
  Tim Pritlove: Das ist nicht unser Bier, wo wir nichts zu tun haben. Dafür darf das nicht verwendet werden.
• 1:20:08
  Tim Pritlove: Oder zumindest sagt, glaube ich, der Chef von Massenüberwachung von Amerikanern.
• 1:20:13
  Tim Pritlove: Und damit meint er wahrscheinlich US-Amerikaner.
• 1:20:16
  Tim Pritlove: Ob er jetzt die Massenüberwachung von anderen da sozusagen auch mit drin ist,
• 1:20:21
  Tim Pritlove: das ist mir jetzt gerade nicht so ganz klar.
• 1:20:24
  Tim Pritlove: Ja, also Anthropic macht gerade so ein bisschen noch den Eindruck unter diesen
• 1:20:29
  Tim Pritlove: großen AI-Playern, als hätten sie zumindest noch ein paar Murmeln in der Birne.
• 1:20:37
  Tim Pritlove: Das ist man sich aber den anderen Playern nicht ganz so sicher,
• 1:20:40
  Tim Pritlove: beziehungsweise bei Elon Musk ist man sich glaube ich sicher,
• 1:20:43
  Tim Pritlove: dass der seine Murmeln schon lange im Flur verloren hat.
• 1:20:48
  Tim Pritlove: Aber da gibt es auf jeden Fall eine höhere Bereitschaft glaube ich,
• 1:20:52
  Tim Pritlove: auf die Bedingungen des Pentagon einzugehen,
• 1:20:56
  Tim Pritlove: inwiefern ein Robbik da stable bleiben kann und wird, weiß ich nicht und ob
• 1:21:03
  Tim Pritlove: das überhaupt eine große Rolle spielt, ist nochmal eine ganz andere Frage.
• 1:21:07
  Linus Neumann: Also militärisches Interesse an einer Technologie hat schon sehr häufig in der
• 1:21:13
  Linus Neumann: Privatwirtschaft entscheidenden Unterschied gemacht.
• 1:21:19
  Linus Neumann: Raketenbau, Satelliteninternetbau, Ähnliches.
• 1:21:28
  Tim Pritlove: Ich meine, machen wir es sich jetzt vor, die Technik wird da auch zum Einsatz,
• 1:21:31
  Tim Pritlove: kommen Anthropics Einschränkungen hin oder her.
• 1:21:36
  Tim Pritlove: Ob man jetzt ausgerechnet mit dem aktuellen Pentagon etwas zu tun haben will,
• 1:21:40
  Tim Pritlove: das ist dann wiederum eine andere Frage.
• 1:21:44
  Linus Neumann: Du meinst also, dass sie noch warten mit ihren AGBs bis … Keine Ahnung.
• 1:21:51
  Tim Pritlove: Ich kann da jetzt überhaupt nichts reinlesen, ich fand nur den Bericht ansonsten ganz interessant.
• 1:21:59
  Linus Neumann: Wer diese Firmen kontrolliert und wie diese Firmen drauf sind,
• 1:22:07
  Linus Neumann: spielt natürlich eine sehr entscheidende Rolle.
• 1:22:11
  Linus Neumann: Ich zitiere ja hier häufig dieses Beispiel Twitter und Elon Musk auf das.
• 1:22:17
  Linus Neumann: Man kann sich anschauen, der Grog, was das für ein Quatsch ist oder wie anders,
• 1:22:25
  Linus Neumann: wie problemlos anders ein einzelner Milliardär so ein Modell und seine Ergebnisse machen kann.
• 1:22:36
  Linus Neumann: Und entsprechend sorgen sich Leute darüber, wer der Präsident von OpenAI ist.
• 1:22:43
  Linus Neumann: Das ist nämlich Greg Brockman.
• 1:22:47
  Linus Neumann: Und die haben, also der Greg und seine Ehefrau, haben 25 Millionen an das Super
• 1:22:58
  Linus Neumann: PAC von Donald Trump gegeben.
• 1:23:01
  Linus Neumann: PAC sind ja Parliamentary Action Committees, glaube ich.
• 1:23:09
  Linus Neumann: Spendeorganisationen zu unterstützen. Also im Prinzip quasi der Spendeverein für Trump.
• 1:23:18
  Tim Pritlove: Political Action Committee.
• 1:23:20
  Linus Neumann: Ah, habe ich parliamentary gesagt. Das ist natürlich falsch.
• 1:23:23
  Linus Neumann: Ja klar, Political Action Committee natürlich.
• 1:23:26
  Linus Neumann: Die haben, also Greg Brockman und seine Frau haben 25 Millionen dahin gespendet
• 1:23:32
  Linus Neumann: und das ist so ungefähr die größte Spende.
• 1:23:37
  Linus Neumann: Crypto.com haben irgendwie 30 Millionen gespendet, über das Jahr verteilt,
• 1:23:44
  Linus Neumann: ist also die größte Einzelspende und das sehen jetzt einige Leute als großen,
• 1:23:53
  Linus Neumann: beunruhigenden Schritt.
• 1:23:56
  Linus Neumann: Vergleich, so Palantir hat zum Beispiel nur eine Million gegeben also,
• 1:24:06
  Linus Neumann: 25 Millionen ist schon eine sehr ordentliche Spende.
• 1:24:11
  Linus Neumann: Vor allem, weil ich vermuten würde, dass OpenAI weniger profitabel ist als Crypto.com.
• 1:24:19
  Linus Neumann: Es werden also viele Leute sagen gerade, okay, dann gibt es jetzt die Kampagne
• 1:24:26
  Linus Neumann: Quit GPT, also ein Boykottaufruf von ChatGPT, sagen,
• 1:24:31
  Linus Neumann: nutzt die Alternative mit höherer Privatsphäre, wäre Konfa, Alpine, Luma,
• 1:24:38
  Linus Neumann: oder ihr könnt ja auch Gemini von Google oder Cloud von Anthropic nutzen.
• 1:24:45
  Linus Neumann: Hauptsache nicht. JetGPT von OpenAI. Einer Firma, die ja auch sich sehr geändert hat.
• 1:24:53
  Linus Neumann: Also ich meine, ursprünglich wollte OpenAI ja Forschung machen,
• 1:24:58
  Linus Neumann: um KI den Menschen zur Verfügung zu stellen.
• 1:25:02
  Linus Neumann: Jetzt sagen sie, na, wäre doch nicht schlecht, wenn wir Technologie,
• 1:25:07
  Linus Neumann: dieser mächtigen Technologie, die wir hier in unseren Händen haben,
• 1:25:13
  Linus Neumann: auch Geld verdienen würden und haben jetzt den Schritt gemacht,
• 1:25:18
  Linus Neumann: ChatGPT bekommt jetzt Werbung.
• 1:25:21
  Linus Neumann: Natürlich erstmal nur die kostenlose
• 1:25:24
  Linus Neumann: Variante, aber es ist jetzt genau der Moment, dass man sagt, ach so,
• 1:25:32
  Linus Neumann: ist ja gar kein Problem, dass du den Quatsch hier kostenlos kriegst,
• 1:25:35
  Linus Neumann: dann musst du halt nur in Kauf nehmen, dass an bestimmten Stellen eben Werbung mit reingepackt wird.
• 1:25:42
  Linus Neumann: Genau das, was das Geschäftsmodell, was ich bei sozialen, den sogenannten sozialen
• 1:25:47
  Linus Neumann: Medien für die Ursünde halte.
• 1:25:53
  Linus Neumann: Genau das passiert jetzt bei diesen Modellen. Und ich bin,
• 1:25:58
  Linus Neumann: also man muss eigentlich echt sagen, das Schlimmste, was uns jetzt noch passieren
• 1:26:02
  Linus Neumann: kann, das Schlimmste, was uns jetzt noch passieren kann, ist,
• 1:26:06
  Linus Neumann: dass wir das, was wir mit Service, Informationen und so weiter im Internet,
• 1:26:11
  Linus Neumann: dass wir wollen das gefälligst gratis haben, ist so ein Scheißegal,
• 1:26:14
  Linus Neumann: wie ihr das monetarisiert.
• 1:26:17
  Linus Neumann: Wenn wir den Fehler jetzt auch noch mit KI machen, dass wir nicht der Kunde
• 1:26:24
  Linus Neumann: sind, sondern das Produkt, dass das Ding mit uns arbeitet, statt wir damit,
• 1:26:31
  Linus Neumann: dann glaube ich, dann sind irgendwie ein paar wild gewordenen Chatbots,
• 1:26:36
  Linus Neumann: die auf GitHub Flame Wars starten, wirklich noch unser kleinstes Problem.
• 1:26:40
  Linus Neumann: Also huiuiui. Huiuiuiuiui.
• 1:26:47
  Linus Neumann: Und tatsächlich, ja, ich habe das jetzt mal zum Anlass genommen,
• 1:26:53
  Linus Neumann: meine Chat-GPT-Zahlungen einzustellen und mein Geld dahin zu tun,
• 1:27:01
  Linus Neumann: wo zumindest heute noch dran steht, dass man mit dieser Technologie keine Kriege
• 1:27:06
  Linus Neumann: und Massenüberwachung machen darf.
• 1:27:10
  Tim Pritlove: Alright.
• 1:27:12
  Linus Neumann: Zu den etwas kürzeren Meldungen natürlich genauso. Gute Laune.
• 1:27:21
  Linus Neumann: Also Thomas hat ja hier über den Digital Omnibus gesprochen.
• 1:27:28
  Linus Neumann: Nicht nur hier, er hat ja auch mit Ralf Benrath auf dem 39C3 darüber vorgetragen,
• 1:27:34
  Linus Neumann: Sendung sei euch noch einmal nagelig, genauso wie der Vortrag.
• 1:27:40
  Linus Neumann: Und wir wissen, das ist dieses große Gesetzespaket, was, naja, so ein bisschen...
• 1:27:48
  Linus Neumann: Zusehen soll, dass die DSGVO und andere Digitalgesetze jetzt nicht dem Fortschritt
• 1:27:57
  Linus Neumann: allzu sehr im Weg stehen oder dem Profit von zum Beispiel Meta.
• 1:28:02
  Linus Neumann: Und wie ihr auch wisst, bekommen diese großen Gesetzespakete,
• 1:28:08
  Linus Neumann: nicht nur die, ja immer so eine Berichterstatterin oder einen Berichterstatter.
• 1:28:14
  Linus Neumann: Bei der DSGVO Jan Philipp Albrecht, der ja dann auch bei uns in der Sendung
• 1:28:18
  Linus Neumann: war und danach und so weiter.
• 1:28:21
  Linus Neumann: Und jetzt haben sie sich überlegt, ja gut, wer könnte denn jetzt den Digital
• 1:28:24
  Linus Neumann: Omnibus, wer könnte denn da mal Berichterstatterin sein? Da haben sie gesagt, ja, lass mal gucken.
• 1:28:29
  Linus Neumann: Ach, hier, da gibt es eine ehemalige Meta-Lobbyistin, die für Finnland als Abgeordnete
• 1:28:36
  Linus Neumann: im Europäischen Parlament sitzt.
• 1:28:39
  Linus Neumann: Aura Salas, ich weiß nicht genau, wie man das auf Finnisch ausspricht,
• 1:28:44
  Linus Neumann: aber ich bin mir sicher, sehr einfach. und haben gesagt, dann machen wir die
• 1:28:49
  Linus Neumann: doch zur Berichterstatterin.
• 1:28:51
  Linus Neumann: Das heißt, eine ehemalige Meta-Lobbyistin, also Meta von Facebook,
• 1:28:57
  Linus Neumann: eine ehemalige Facebook-Regierungsabgesandte, deren Job es war,
• 1:29:04
  Linus Neumann: die Entscheidung der Politik zu beeinflussen.
• 1:29:06
  Linus Neumann: Die dann ins Parlament gegangen ist und jetzt Politik beeinflusst und zwar genau
• 1:29:12
  Linus Neumann: die Politik, die im Zweifelsfall Meta,
• 1:29:17
  Linus Neumann: betrifft. Das ist schon echt irre.
• 1:29:21
  Tim Pritlove: Dann kennt die sich doch super aus.
• 1:29:24
  Linus Neumann: Genau, das ist nämlich, die hat nämlich Ahnung, ja.
• 1:29:27
  Linus Neumann: Das ist, kann dir genau sagen, warum da andere Leute nicht sitzen.
• 1:29:30
  Linus Neumann: Wenn nämlich jeder Facebook-Kritiker, wenn man sagt, hast du überhaupt Facebook-Accounts?
• 1:29:34
  Linus Neumann: Sagen die, nein, das heißt ja gar keine Ahnung.
• 1:29:35
  Linus Neumann: Zack, bumm, disqualifiziert. Wie willst du etwas regulieren?
• 1:29:38
  Tim Pritlove: Ganz einfach.
• 1:29:42
  Linus Neumann: Übrigens fällt mir, also, es ist,
• 1:29:47
  Linus Neumann: und Markus Becketall hat den Fall bei sich im Digitalrechte-Blog auch nochmal
• 1:29:52
  Linus Neumann: auseinander genommen, sagt er so, die hat nämlich auch einen Kollegen,
• 1:29:55
  Linus Neumann: der Dale Sunderland, der 2025,
• 1:30:01
  Linus Neumann: also eben auch ehemaliger Meta-Lobby ist, der ist jetzt Leiter der irischen
• 1:30:07
  Linus Neumann: Datenschutzkommission.
• 1:30:10
  Linus Neumann: Also Meta macht das wirklich gut, ja.
• 1:30:15
  Linus Neumann: Ah, da gibt es eine Behörde, die soll uns kontrollieren.
• 1:30:18
  Linus Neumann: Ja, Dale, wie sähe es aus, wenn du mal einen neuen Job annimmst?
• 1:30:24
  Linus Neumann: Du könntest doch mal auf der anderen Seite arbeiten für uns.
• 1:30:26
  Linus Neumann: Wir brauchen einen Mann auf der anderen Seite.
• 1:30:31
  Linus Neumann: Und dann, na, dieses Parlament schickt sich schon wieder an.
• 1:30:34
  Linus Neumann: Da brauchen wir eine Frau auf der anderen Seite. Das ist schon wirklich irre.
• 1:30:41
  Linus Neumann: Und dann gibt es eine,
• 1:30:46
  Linus Neumann: faszinierende,
• 1:30:49
  Linus Neumann: Entwicklung bei Google.
• 1:30:54
  Linus Neumann: Google hat gesagt, ja, übrigens, und es ist schon etwas länger her,
• 1:31:00
  Linus Neumann: dass sie das angekündigt haben, nämlich im August, haben sie gesagt, ja, ab September 26,
• 1:31:06
  Linus Neumann: da wird es nicht mehr möglich sein, für Android-Applikationen zu entwickeln,
• 1:31:15
  Linus Neumann: ohne sich zuerst einmal zentral bei uns zu registrieren.
• 1:31:22
  Linus Neumann: Dafür musst du uns einen Geldbetrag zahlen, dafür musst du unseren AGBs zustimmen,
• 1:31:28
  Linus Neumann: dafür musst du einen Government-ID zeigen, also musst du einen Ausweis,
• 1:31:33
  Linus Neumann: kann man jetzt keinen Agent hinschicken,
• 1:31:36
  Linus Neumann: dann musst du deinen Sign-in-Key zeigen, also musst du deinen Sign-in-Key anlegen und dann musst du deine,
• 1:31:46
  Linus Neumann: aktuellen und zukünftigen Application-Identifiers, also die UUIDs,
• 1:31:50
  Linus Neumann: die deine App kriegen musst du halt dann auch,
• 1:31:55
  Linus Neumann: angeben und.
• 1:32:00
  Linus Neumann: Wenn du das nicht tust, dann wirst du eben nicht in der Lage sein,
• 1:32:06
  Linus Neumann: Applikationen zu erstellen, die auf einem Android noch wiedergegeben werden
• 1:32:11
  Linus Neumann: können, die ausgeführt werden können.
• 1:32:13
  Linus Neumann: Gleichermaßen, weil du das tust, hast du dann eben auch das Risiko,
• 1:32:19
  Linus Neumann: dass Google deinen Signing Key invalidiert und alle deine Apps abgeschnitten werden.
• 1:32:27
  Linus Neumann: Apple-Entwickler werden sich
• 1:32:29
  Linus Neumann: sagen, hä, wie, das war noch vorher nicht so. Bei iOS ist das halt so.
• 1:32:36
  Linus Neumann: Und,
• 1:32:39
  Linus Neumann: was Apple ja macht, damit ist eine Eintrittsbarriere auf diese Plattform auch
• 1:32:48
  Linus Neumann: einfach radikal aufrechterhalten.
• 1:32:51
  Linus Neumann: Und wir haben sehr häufig darüber gesprochen, dass Apple ja,
• 1:32:58
  Linus Neumann: da ein Ökosystem geschaffen hat und ja, dieses Ökosystem sehr nach seinen eigenen Interessen shaped.
• 1:33:06
  Linus Neumann: Diese Interessen decken sich glücklicherweise immer mit Tims Interessen,
• 1:33:11
  Linus Neumann: deswegen ist das nicht so ein Problem.
• 1:33:15
  Tim Pritlove: Nicht nur mit meinen Interessen.
• 1:33:19
  Linus Neumann: Und für Enron interessiert Tim sich nicht, deswegen ist das auch kein Problem,
• 1:33:23
  Linus Neumann: aber was hier auf dem Spiel steht, ist natürlich schon die,
• 1:33:30
  Linus Neumann: Die große, freie Betriebssystemplattform für mobile Geräte, die Open Source ist,
• 1:33:43
  Linus Neumann: wo du nicht nur eine Situation hast, wo Apple sagt, übrigens hier,
• 1:33:50
  Linus Neumann: pass auf, das ist eh unser Gerät.
• 1:33:54
  Linus Neumann: Und wir, das ist ja jetzt nicht so, dass die Leute sich ein iPhone,
• 1:33:59
  Linus Neumann: gekauft haben und über das frei verfügen können, die haben die Zahlen für den
• 1:34:02
  Linus Neumann: Genuss, unser Gerät, über das wir verfügen,
• 1:34:05
  Linus Neumann: verwenden zu dürfen und das, was da drauf läuft und was nicht,
• 1:34:09
  Linus Neumann: ist immer noch unsere Angelegenheit und das war bei Android natürlich schon
• 1:34:12
  Linus Neumann: über lange Zeit ein anderes,
• 1:34:17
  Linus Neumann: Versprechen, auch ein anderes Ökosystem und ich bin ehrlich gesagt auch,
• 1:34:21
  Linus Neumann: ich frage mich also sie wollen damit halt das Sideloading komplett killen und
• 1:34:26
  Linus Neumann: das Ding also Android genauso zunageln, wie es iOS ist.
• 1:34:31
  Linus Neumann: Meine Frage, Tim, kommt Android jetzt für dich in Frage als Betriebssystem?
• 1:34:39
  Linus Neumann: Nein, ne?
• 1:34:42
  Tim Pritlove: Ehrlich gesagt, nö, kommt es natürlich nicht, weil es einfach nicht meine Plattform ist.
• 1:34:49
  Tim Pritlove: Andererseits, ich meine, ist ja nicht so, dass sie hier nicht auch,
• 1:34:56
  Tim Pritlove: mehrere valide Punkte auch ansprechen durch dieses System.
• 1:35:01
  Tim Pritlove: Ob das jetzt die einzige Lösung ist, sei mal dahingestellt, aber das alles so
• 1:35:06
  Tim Pritlove: komplett offen zu lassen, ist natürlich auch ein Sicherheitsproblem.
• 1:35:09
  Tim Pritlove: Vor allem, wenn jetzt die ganzen Agenten kommen und irgendwie ihre Apps in den
• 1:35:12
  Tim Pritlove: Store reinschmeißen, ohne sich irgendwie auszuweisen.
• 1:35:17
  Linus Neumann: Schon heute ist es ja so, dass du ein, dass du Deliberate Steps unternehmen
• 1:35:23
  Linus Neumann: musst, um um ein Android zu routen. Das passiert ja nicht aus Versehen.
• 1:35:29
  Tim Pritlove: Was machst du jetzt mit zu routen? Also muss man das routen,
• 1:35:31
  Tim Pritlove: um deine App zu installieren?
• 1:35:33
  Linus Neumann: Fürs Sideloading nach meinem Verständnis schon. Also so ohne weiteres.
• 1:35:37
  Linus Neumann: Also du musst schon ein paar Warnungen entgegennehmen oder zur Kenntnis nehmen,
• 1:35:44
  Linus Neumann: bis du nach freiem Verfügung irgendetwas,
• 1:35:51
  Linus Neumann: auf deinem Android ausführen kannst.
• 1:35:53
  Linus Neumann: Das ist jetzt nicht irgendwie, dass du Double-Click this APK und dann hast du
• 1:36:00
  Linus Neumann: einen Trojaner auf deinem Telefon.
• 1:36:02
  Linus Neumann: Oder wenn du jetzt irgendwie sagst, du möchtest Afterroid als Store nutzen oder
• 1:36:07
  Linus Neumann: so, dann musst du schon einige Schritte unternehmen. Und das wollen sie jetzt eben vor sich absägen.
• 1:36:12
  Linus Neumann: Sie wollen das ähnlich machen, wie es Apple mit den, ah ja okay,
• 1:36:18
  Linus Neumann: es muss jetzt andere App-Stores geben.
• 1:36:20
  Linus Neumann: Gut, was steht da? Alles klar, machen wir. Wir machen genau das, was da steht.
• 1:36:24
  Linus Neumann: Und wir verlangen trotzdem dann ein Geld dafür, dass das halt tödlich uninteressant wird.
• 1:36:31
  Tim Pritlove: Ja gut, das ist ja nochmal jetzt ein anderes Thema. Also was Google hier einfordert
• 1:36:36
  Tim Pritlove: ist, dass man sich halt registriert.
• 1:36:38
  Tim Pritlove: Man muss seine Identität bestätigen.
• 1:36:41
  Tim Pritlove: Name, Adresse, E-Mail-Adresse, Telefonnummer angeben und bestätigen.
• 1:36:46
  Tim Pritlove: Wenn man eine Organisation ist, muss man eine D-U-N-S-Nummer angeben.
• 1:36:51
  Tim Pritlove: Das wusste ich mal, was das war. die UNS ist das ein amerikanisches Ding?
• 1:36:57
  Tim Pritlove: Data Universal Numbering System von Dun & Bradstreet eingeführt,
• 1:37:03
  Tim Pritlove: globaler Standard okay, also so eine so eine Nummer braucht man,
• 1:37:09
  Tim Pritlove: wenn man eine Organisation ist möglicherweise müssen sie auch einen ermittlichen
• 1:37:14
  Tim Pritlove: Ausweis hochladen, möglicherweise,
• 1:37:18
  Tim Pritlove: Genau, dann schreiben sie noch hier für Schüler, Studenten und Hobbyentwickler.
• 1:37:23
  Tim Pritlove: Wir möchten, dass Android eine offene Plattform bleibt, auf der sie lernen,
• 1:37:26
  Tim Pritlove: experimentieren und zum Spaß entwickeln können. Aha, zum Spaß.
• 1:37:32
  Linus Neumann: Also das hast du, nur kurz, damit du das weißt. Diese Anforderungen hast du
• 1:37:36
  Linus Neumann: bei Google Play seit einiger Zeit.
• 1:37:39
  Linus Neumann: Und da ist es auch völlig in Ordnung. Das ist ja deren Store.
• 1:37:42
  Linus Neumann: Was sie machen wollen, ist das jetzt quasi auch Android.
• 1:37:46
  Linus Neumann: Generell, ja. Und das ist schon eine fundamentale Veränderung dieses Ökosystems
• 1:37:58
  Linus Neumann: und seiner Versprechen.
• 1:38:01
  Tim Pritlove: So, da regt sich jetzt der Widerstand.
• 1:38:05
  Linus Neumann: Es wird dazu aufgerufen, natürlich,
• 1:38:09
  Linus Neumann: sich das unter vor allem Digital Markets Act Gesichtspunkten natürlich zu kritisieren
• 1:38:17
  Linus Neumann: und dafür zu sorgen, dass das hoffentlich nicht passiert.
• 1:38:22
  Linus Neumann: Also ernsthaft, wir werden potenziell dann gar keine Alltagskomputer mehr haben,
• 1:38:31
  Linus Neumann: über die wir eine uneingeschränkte Hoheit entwickeln können.
• 1:38:39
  Linus Neumann: So das wird ja ist ja heute schon im Prinzip im Computerbereich so,
• 1:38:46
  Linus Neumann: das Einzige was jetzt kannst du immer noch so ein Laptop mit Linux installieren
• 1:38:50
  Linus Neumann: oder so aber es wird dann eng es wird dann langsam eng und wenn man sich darüber
• 1:38:56
  Linus Neumann: Gedanken macht dass man vielleicht,
• 1:39:00
  Linus Neumann: noch an den Computer als freiprogrammierbares Gerät glauben möchte und dass
• 1:39:06
  Linus Neumann: man das vielleicht so Diskussionen, ich verwende den Begriff ja ungern, ähm.
• 1:39:15
  Linus Neumann: Souveränität im weitesten Sinne über die Hardware, die bei einem im Haus steht, haben möchte,
• 1:39:22
  Linus Neumann: dann wäre, dass man noch nicht einmal mehr auf Android das hat,
• 1:39:28
  Linus Neumann: das wäre schon ein herber Verlust für die freie und offene Software.
• 1:39:39
  Linus Neumann: Insofern, ich finde es gut. Also ich finde es gut, dass sich dagegen der Protest regt.
• 1:39:46
  Linus Neumann: Und wir verlinken die Seite. In der Europäischen Union kann man sich an das
• 1:39:52
  Linus Neumann: Digital Markets Act Team wenden.
• 1:39:57
  Linus Neumann: Das quasi Antitrust Committee.
• 1:40:01
  Linus Neumann: Und ich denke, da hat man hoffentlich gute Chancen, dass die da einen Strich
• 1:40:06
  Linus Neumann: durch die Rechnung machen.
• 1:40:10
  Linus Neumann: So, und dann haben wir noch nicht genug Spaß gehabt, denn vor einiger Zeit haben
• 1:40:16
  Linus Neumann: wir ja noch darüber gelacht, dass die elektronische Patientenakte,
• 1:40:22
  Linus Neumann: KI-ready ist. Massenhaft unverschlüsselte Daten und so. Ja, ich hätte das,
• 1:40:32
  Linus Neumann: stellt sich raus, ist sie wirklich. Denn man möchte, also jetzt festgestellt, ah ja, okay,
• 1:40:40
  Linus Neumann: hat irgendwie nur vier Millionen aktive Nutzerinnen, bis 2030 wollen wir,
• 1:40:46
  Linus Neumann: 20 Millionen haben wir verfünffachen und die Idee ist, was machen wir jetzt mit dem Murksding?
• 1:40:52
  Linus Neumann: Ja, erstmal wollen wir mehr strukturierte Daten.
• 1:40:56
  Linus Neumann: Das ist ja auch irre. Die haben ja diese riesige Plattform geschaffen und am
• 1:41:00
  Linus Neumann: Ende kippen da alle irgendwelche unstrukturierten PDFs rein. Das heißt,
• 1:41:05
  Linus Neumann: Da kann aber keiner was mit anfangen, außer eine KI.
• 1:41:08
  Linus Neumann: Da musst du einfach quasi Cloudbot in einer souveränen Cloud bei Schwarz Digits
• 1:41:11
  Linus Neumann: oder sowas, dann kannst du da schon.
• 1:41:16
  Linus Neumann: Dann sagen sie, ah ja, was wir auch machen könnten, vielleicht könnten wir was
• 1:41:21
  Linus Neumann: bauen, was den Leuten was bringt.
• 1:41:23
  Linus Neumann: Dass sie was davon haben, dass jetzt irgendjemand auch sagt so,
• 1:41:26
  Linus Neumann: ach Mensch, hab ich was von.
• 1:41:27
  Linus Neumann: So ein Service zum Beispiel. Irgendwas, was den Leuten das Leben leichter macht.
• 1:41:32
  Linus Neumann: Digitale Terminvermittlung. Ah, ich muss zum Arzt. Ja, klar.
• 1:41:35
  Linus Neumann: Kannst du da mal vielleicht nicht bei irgendeinem Start-up, was das halt super macht, aber eben, naja,
• 1:41:46
  Linus Neumann: dann dafür deine Arztbesuche und Arztkommunikation bei sich zentral speichern.
• 1:41:51
  Linus Neumann: Könnte man ja mal als Start auf die Idee kommen, diese Dienstleistung den Patientinnen
• 1:41:55
  Linus Neumann: und den Ärztinnen zur Verfügung zu stellen. Haben sie sich auch überlegt.
• 1:41:59
  Linus Neumann: Vielleicht benutzt es dann jemand. Und elektronische Überweisungen soll es auch
• 1:42:02
  Linus Neumann: geben. Wir können ja nichts Schöneres vorstellen, als eine elektronische Überweisung.
• 1:42:07
  Linus Neumann: Und dann natürlich das Ding, es ist KI-ready, also soll es auch KI kriegen.
• 1:42:12
  Linus Neumann: Sie wollen nämlich jetzt beim Digital Omnibus eine gezielte Anpassung der KI-Verordnung anstreben,
• 1:42:20
  Linus Neumann: damit die Regeln für risikoreiche KI-Systeme hinausgezögert werden und der Datenschutz
• 1:42:27
  Linus Neumann: eingeschränkt wird, damit sie die KIs auf diese elektronischen Patientenakten loslassen können.
• 1:42:34
  Linus Neumann: Und wenn die Versicherten nicht aktiv widersprechen, dann werden sie täglich
• 1:42:38
  Linus Neumann: automatisch an das Forschungsdatenzentrum Gesundheit übertragen.
• 1:42:45
  Linus Neumann: Und dann kann das Forschungsdatenzentrum Gesundheit, hat dann nämlich einen
• 1:42:52
  Linus Neumann: Innovationsmotor in der Gesundheitsforschung.
• 1:42:54
  Linus Neumann: Und können dann mit den täglichen Analysen der elektronischen Patientenakten
• 1:42:59
  Linus Neumann: der Bundesrepublik Deutschland übertragen.
• 1:43:02
  Linus Neumann: In einer sicheren Verarbeitungsumgebung können sie dann nämlich forschen.
• 1:43:08
  Linus Neumann: Die sichere Verarbeitungsumgebung Bei Stackelz?
• 1:43:14
  Linus Neumann: Nee, viel geiler.
• 1:43:17
  Linus Neumann: Die sichere Verarbeitungsumgebung ist ein virtueller Desktop,
• 1:43:22
  Linus Neumann: mit dem man sich über das Internet verbinden kann.
• 1:43:25
  Linus Neumann: Also so Shit-Tricks oder schlimmer. Ja, so haben sie es sich dann vorgestellt.
• 1:43:33
  Linus Neumann: Eine sichere Verarbeitungsumgebung. Ja klar, die ist sicher und du kannst sie
• 1:43:37
  Linus Neumann: ins Internet dann darauf anmelden.
• 1:43:39
  Tim Pritlove: Oh Gott. Leute, wirklich.
• 1:43:43
  Linus Neumann: Das wird alles super.
• 1:43:45
  Tim Pritlove: Kann man nicht mal da jemanden, der schon mal mit Computern was gemacht hat
• 1:43:49
  Tim Pritlove: oder so einschalten, ausschalten, den Grundkurs.
• 1:43:58
  Linus Neumann: Kommen wir zu einer, ich weiß nicht, ob das was Lustig ist. Immerhin lustig.
• 1:44:03
  Linus Neumann: Es hat auch ein gutes Ende. Es war dieses Superbowl. Kennst du das Superbowl?
• 1:44:10
  Linus Neumann: Letzte Woche oder so. Das habe ich schon gehört.
• 1:44:12
  Tim Pritlove: American Football.
• 1:44:15
  Tim Pritlove: Ich habe mir die Halftime-Show angeguckt, den Rest nicht.
• 1:44:20
  Tim Pritlove: Hast du auch gesehen?
• 1:44:20
  Linus Neumann: Mit diesem Baby Bunny oder wie der heißt.
• 1:44:22
  Tim Pritlove: Bad Bunny.
• 1:44:23
  Linus Neumann: Bad Bunny, ja.
• 1:44:24
  Tim Pritlove: Das war ein kolossales kulturelles Ereignis tatsächlich.
• 1:44:28
  Linus Neumann: Ich habe mir das nur angehört und ich wusste nur, dass Donald Trump das nicht wollte.
• 1:44:34
  Linus Neumann: Und als er dann die ganze Zeit auf Spanisch da gesungen hat,
• 1:44:37
  Linus Neumann: habe ich auch verstanden, wieso.
• 1:44:40
  Tim Pritlove: Naja, lohnt sich mal eine Analyse davon, sich anzuschauen. Ich habe mir ein
• 1:44:44
  Tim Pritlove: paar Analysen angeschaut.
• 1:44:47
  Tim Pritlove: Das ist nämlich wirklich ein sehr interessanter Auftritt gewesen,
• 1:44:53
  Tim Pritlove: weil er da wirklich eine massive Kritik und sozusagen auch aus der Perspektive von Puerto Rico,
• 1:45:00
  Tim Pritlove: sozusagen als so unterdrückter Teilstaat der USA ohne eigene Rechte, sind ja kein Staat,
• 1:45:06
  Tim Pritlove: dürfen nicht wählen werden, aber von der USA da durchregiert und auch entsprechend
• 1:45:12
  Tim Pritlove: schlecht behandelt, auch ja speziell von Donald Trump selber.
• 1:45:16
  Tim Pritlove: Wir erinnern uns, erste Amtszeit, als da der Hurricane rübergefegt ist und er
• 1:45:20
  Tim Pritlove: da irgendwie nur Toilettenpapier durch die Gegend geworfen hat.
• 1:45:23
  Tim Pritlove: Also das war auf jeden Fall ein sehr interessantes Ding und seine Statements
• 1:45:29
  Tim Pritlove: waren, ja, profound, würde ich mal sagen.
• 1:45:32
  Tim Pritlove: Also das war wirklich speziell. Wenn man natürlich kein Spanisch kann,
• 1:45:37
  Tim Pritlove: schwierig, aber ich verlinke mal.
• 1:45:39
  Linus Neumann: Gibt es ja AI. Kannst du mit AI einfach dann machen.
• 1:45:41
  Tim Pritlove: Ja, ich verlinke mal ein paar schöne Analysen dazu. Gut.
• 1:45:44
  Linus Neumann: Ich rede in der Zeit weiter. Ähm, denn eine der großen weiteren Höhepunkte des
• 1:45:52
  Linus Neumann: Superbowl sind die Superbowl-Ads.
• 1:45:56
  Linus Neumann: Ähm, das ist ein traditionelles Ding. Wir wissen, Werbung ist immer da,
• 1:46:00
  Linus Neumann: wo viele Leute hingucken.
• 1:46:02
  Linus Neumann: Und weil in Amerika, glaube ich, einfach mal alle den Superbowl gucken müssen.
• 1:46:08
  Linus Neumann: Ähm, ist das seit vielen Jahren eine ein besonderer,
• 1:46:15
  Linus Neumann: Zeitpunkt für Werbung, die kostet auch unglaublich viel Geld und dann macht
• 1:46:19
  Linus Neumann: man einen besonderen Superbowl-Spot, in der Hoffnung, dass der dann eben auch
• 1:46:25
  Linus Neumann: viral geht und nochmal besonders behandelt wird.
• 1:46:28
  Linus Neumann: Da kommt nicht die normale Werbung hier Boris Becker drin oder was,
• 1:46:33
  Linus Neumann: sondern da macht man nochmal eine extra Werbung,
• 1:46:36
  Linus Neumann: da gibt man sich extra Mühe, weil es eh so teuer ist, diesen Werbeslot zu buchen,
• 1:46:41
  Linus Neumann: dass man auch einen eigenen Film dann noch kurz verdrehen kann.
• 1:46:44
  Linus Neumann: Dachte sich auch, die Firma Ring, die Klingel, so Haustürklingeln mit Kamera verkaufen und klaut.
• 1:46:53
  Linus Neumann: Und ich glaube, das ist auch schon seit längerer Zeit ein Internet-Meme, diese,
• 1:46:58
  Linus Neumann: was sich dann eben vor der eigenen Haustür abspielt mit diesen Kameras und so
• 1:47:02
  Linus Neumann: irgendwelche Paketdiebe oder,
• 1:47:05
  Linus Neumann: was auch immer, Autounfall, was so ein Ding halt filmt, wenn man das ein paar
• 1:47:10
  Linus Neumann: Jahre vor der Tür hängen hat und irgendwann mal wird auf einmal was Interessantes passiert.
• 1:47:14
  Linus Neumann: Und jetzt haben wir einen Werbespot gemacht, wo sie sagen, ja,
• 1:47:18
  Linus Neumann: fängt irgendwie damit an, dass so ein Mädchen kriegt einen Hund geschenkt und
• 1:47:21
  Linus Neumann: dann sagen sie, ja, aber jedes Jahr gehen zehn Millionen Hunde verloren.
• 1:47:25
  Linus Neumann: Und bei Ring gibt es jetzt das Search-Party-Feature, wo man sagen kann, was man sucht.
• 1:47:33
  Linus Neumann: Und in diesem Fall, der Hund, der rennt natürlich nicht weg,
• 1:47:37
  Linus Neumann: weil der der scheiß Familie nicht aushält, sondern der verläuft sich.
• 1:47:41
  Linus Neumann: Und dann kann man aber mit Searchparty, finden sie dann den Hund wieder.
• 1:47:46
  Linus Neumann: Und dann sagen sie, guck mal, haben wir eine tolle Kamera, die kann eure Hunde
• 1:47:48
  Linus Neumann: finden, wenn euch der Hund wegläuft.
• 1:47:51
  Linus Neumann: Wenn euch die 10 Millionen Hunde im Jahr weglaufen, muss man was machen.
• 1:47:56
  Linus Neumann: Waren wahrscheinlich viele sehr überzeugt davon, dass das quasi wir können unseren
• 1:48:01
  Linus Neumann: Hund zur Suche, zur Fahndung ausschreiben und dann wird er mit den Kameras von
• 1:48:06
  Linus Neumann: unseren Nachbarn gefunden,
• 1:48:07
  Linus Neumann: dachten sie ja, dass das den Amerikanern gefallen würde allerdings,
• 1:48:14
  Linus Neumann: ja und natürlich macht das das Ding nur mit AI und jetzt ist es aber so,
• 1:48:20
  Linus Neumann: dass sie dafür zusammenarbeiten mit Flock Safety und diese Firma Man macht zum
• 1:48:24
  Linus Neumann: Beispiel auch automatisierte Kennzeichenlesegeräte und andere Monitoring- und
• 1:48:29
  Linus Neumann: Überwachungsgeräte für Strafverfolgungsbehörden.
• 1:48:33
  Linus Neumann: Und sowieso arbeitet Ring natürlich mit allen möglichen Strafverfolgungsbehörden zusammen.
• 1:48:38
  Linus Neumann: Sodass das ein bisschen gebackfired ist und innerhalb kürzester Zeit dahin eskaliert
• 1:48:45
  Linus Neumann: ist, dass Ring gesagt hat, nee, wir arbeiten nicht mehr mit Flock Safety zusammen.
• 1:48:49
  Linus Neumann: Wir werden eure Hunde eben nicht suchen, weil natürlich auch jeder denkt so,
• 1:48:52
  Linus Neumann: ja geil, Weißt du, das Ding, ihr baut eine KI-Suche, ihr macht eine KI-Suche
• 1:48:58
  Linus Neumann: im Live-Kamera-Stream, wahrscheinlich, um Hunde zu finden. Wahrscheinlich.
• 1:49:04
  Linus Neumann: Das war es wert. Ich meine, ich weiß nicht, wie viele Millionen Kameras die
• 1:49:08
  Linus Neumann: irgendwie haben und wahrscheinlich mehr als 10 Millionen.
• 1:49:16
  Linus Neumann: Den Braten haben die Amis gerochen. Ja, und muss man mal sagen,
• 1:49:19
  Linus Neumann: hätte ich jetzt gar nicht gedacht, dass es in Amerika noch so viel kritisches Denken gibt.
• 1:49:24
  Linus Neumann: Auf jeden Fall wunderschön, dass dir als Firma deinen Superbowl-Spot schief
• 1:49:28
  Linus Neumann: geht und um die Ohren fliegt.
• 1:49:32
  Linus Neumann: Da gibt es sicherlich wunderschöne Beispiele, auch historischer Natur,
• 1:49:35
  Linus Neumann: aber da wird schon jemand seinen Job verlieren.
• 1:49:40
  Tim Pritlove: Ja, ich glaube, in den USA, in den USA beginnt jetzt mit Trump 2,
• 1:49:45
  Tim Pritlove: auch so langsam sensibel zu werden für diese Privatsphäre und Überwachungsthemen.
• 1:49:51
  Tim Pritlove: Das sind, sagen wir mal, der deutschen Paranoia noch um Jahrzehnte hinterher,
• 1:49:57
  Tim Pritlove: aber immerhin hat es mal angefangen.
• 1:50:01
  Linus Neumann: Währenddessen versucht Deutschland und Europa irgendwie zu sagen,
• 1:50:05
  Linus Neumann: lass mal gucken, was es noch so für Alternativen gibt, dass wir die haben.
• 1:50:10
  Linus Neumann: War ja auch, hatte ich glaube ich schon erzählt, es war ja wieder DIT und ich
• 1:50:15
  Linus Neumann: war in Portugal, in Lissabon beim DIT und so.
• 1:50:20
  Linus Neumann: Und in Berlin war der Spiegel beim DIT im Ixhain. gibt es einen schönen Artikel, den haben wir verlinkt.
• 1:50:28
  Linus Neumann: Schönen Bericht, wo ja auch behandelt wird, dass da nicht ganz so viele Leute waren.
• 1:50:33
  Linus Neumann: Ich weiß nicht, ob im Artikel auch drin steht, dass irgendwie Minus sonst was
• 1:50:35
  Linus Neumann: gerade war und in Berlin das war zur Zeit, wo man darüber diskutiert hat, Salz zu streuen und so.
• 1:50:42
  Linus Neumann: Also wo dann, wie heißt der, dieser FDP-Typ dann da irgendwie noch gesagt hat,
• 1:50:50
  Linus Neumann: hier, ich streue jetzt hier Salz und so.
• 1:50:52
  Linus Neumann: Das war wirklich bitterlich kalt und gemessen daran waren dann doch relativ viele Leute da.
• 1:50:57
  Linus Neumann: Hier ist also ein Artikel drüber. Im Tagesspiegel wird das Thema behandelt und
• 1:51:03
  Linus Neumann: ich habe im Rahmen der Berlinale bei so einem an einer Fachhochschule in Berlin
• 1:51:08
  Linus Neumann: auch noch einen Vortrag dazu gehalten.
• 1:51:12
  Linus Neumann: Worauf ich eigentlich hinaus will, ist.
• 1:51:18
  Linus Neumann: Jetzt gehen Unis hin und sagen, ja, okay,
• 1:51:23
  Linus Neumann: vielleicht könnten wir ja von Microsoft 365 uns lösen und vielleicht könnten
• 1:51:31
  Linus Neumann: wir ja dieses Open Desk mal verwenden.
• 1:51:39
  Linus Neumann: Haben wir uns mal darüber Gedanken gemacht, ob wir vielleicht nicht unsere Unis dafür nutzen,
• 1:51:46
  Linus Neumann: Menschen an Microsoft-Produkte direkt zu gewöhnen da kann man jetzt unterschiedlich
• 1:51:52
  Linus Neumann: drauf blicken, man kann auch sagen, naja, wenn die kein Microsoft lernen,
• 1:51:55
  Linus Neumann: was sollen sie dann in der Arbeitswelt, aber irgendwo muss man ja anfangen so,
• 1:51:59
  Linus Neumann: wenn die sagen, wir wollen,
• 1:52:03
  Linus Neumann: OpenDesk verwenden, dann sagt OpenDesk, ja, das kostet 45 Euro netto pro Nutzer
• 1:52:09
  Linus Neumann: und ja und natürlich auch für die Studierenden.
• 1:52:12
  Linus Neumann: Und was sagt Microsoft? Die Studierenden sind natürlich kostenlos. Also.
• 1:52:24
  Linus Neumann: Ich kann nur sagen, es ist eine Sache von Subventionen.
• 1:52:28
  Linus Neumann: Und wenn du als Staat sagst, das kostet aber was, das ist eindeutig,
• 1:52:34
  Linus Neumann: das braucht man gar nicht anzugucken, um zu wissen, dass Open Desk natürlich
• 1:52:38
  Linus Neumann: das unterlegene Produkt ist.
• 1:52:41
  Linus Neumann: Aber wenn du dann auch noch sagst, naja, wenn ihr jetzt hier die europäische
• 1:52:46
  Linus Neumann: Alternative, die ist halt scheiße, aber dafür teurer, die kostet halt Geld.
• 1:52:51
  Linus Neumann: So wirst du es ja nicht schaffen, mit diesem Open Desk Ding mit Microsoft zu konkurrieren.
• 1:52:56
  Linus Neumann: Die lachen sich doch ins Fäustchen und sagen, ey super, die schreiben da auch
• 1:53:00
  Linus Neumann: noch einen Preis dran, die Vollidioten.
• 1:53:02
  Linus Neumann: Was Schöneres können wir gar nicht haben. Wir schenken das den Studierenden
• 1:53:05
  Linus Neumann: und die sind irgendwann fertig, die sind dann schon Microsoft-Kunden,
• 1:53:10
  Linus Neumann: die haben schon unsere T-Shirts an und die nächsten 40 Berufsjahre machen die nichts anderes mehr.
• 1:53:15
  Tim Pritlove: Also was finanzieren die denn daraus?
• 1:53:20
  Linus Neumann: Wahrscheinlich die Entwicklung und den Betrieb. Also das Entscheidende ist einfach nur,
• 1:53:24
  Linus Neumann: die wirtschaftliche vorherrschende Stellung, die kriegst du ja nicht dadurch,
• 1:53:32
  Linus Neumann: dass du von Beginn an einen fairen Preis machst.
• 1:53:40
  Linus Neumann: Die gewinnst du dadurch, dass
• 1:53:41
  Linus Neumann: du halt einen Preis machst, der für jede andere Konkurrenz ruinös ist.
• 1:53:47
  Linus Neumann: Überhaupt die Idee, Studierenden Geld abzunehmen oder den Unis für die Anzahl
• 1:53:52
  Linus Neumann: ihrer Studierenden Geld abzunehmen, wenn sie auf eine Microsoft-Alternative
• 1:53:56
  Linus Neumann: gehen, die kannst du doch nur haben, wenn du wirklich,
• 1:54:01
  Linus Neumann: richtig lange nicht geatmet hast. So richtig lange.
• 1:54:07
  Tim Pritlove: Das ist schon wirklich ziemlich blöd. Also ich meine, das ist vor allem der
• 1:54:11
  Tim Pritlove: beste Weg überhaupt, so ein System mal ins Spiel zu bringen.
• 1:54:16
  Linus Neumann: Ja, genau. Ja, wir haben 20 Jahre aufzuholen und der Abstand nimmt exponentiell zu.
• 1:54:24
  Linus Neumann: Aber dafür kosten wir halt 45 Euro statt Knoppis.
• 1:54:30
  Tim Pritlove: Du weißt doch, wenn es nichts kostet, ist es auch nichts wert.
• 1:54:34
  Linus Neumann: Ja.
• 1:54:37
  Tim Pritlove: So wie unser Podcast.
• 1:54:44
  Linus Neumann: Unser Podcast ist was wert.
• 1:54:47
  Tim Pritlove: Unser Podcast ist kostenlos für Studenten, auf jeden Fall.
• 1:54:50
  Linus Neumann: Ich hoffe, du warst auch, genau, wir sind kostenlos für Studenten.
• 1:54:54
  Linus Neumann: Wir konkurrieren mit, mit wem konkurrieren wir?
• 1:54:57
  Linus Neumann: Ich weiß nicht, gibt es Bezahl-Podcasts? Keine Ahnung.
• 1:55:01
  Linus Neumann: Ich habe diese Dreisat-Dinge noch nicht angeguckt.
• 1:55:07
  Linus Neumann: Da waren ja andere Podcasts drin.
• 1:55:09
  Linus Neumann: Ich habe nur gesehen, du warst in einer Dreisat-Doku mit Markus Lanz.
• 1:55:14
  Tim Pritlove: Ja, das stimmt. Mit Markus Lanz und auch noch so ein paar Helden meiner Jugend,
• 1:55:21
  Tim Pritlove: wie zum Beispiel Kalkofer und Oliver Welke und andere Leute, die Podcasts machen.
• 1:55:29
  Tim Pritlove: Das war eine Doku für Dreisaat über Podcasts.
• 1:55:33
  Tim Pritlove: Die halt diesen Podcast-Boom aufgreift jetzt 20 Jahre nach dem Podcast.
• 1:55:40
  Linus Neumann: Du den gelauncht hast.
• 1:55:43
  Tim Pritlove: Ja, weiß nicht. Ich bin ja schon länger als 20 Jahre unterwegs mit Podcasts
• 1:55:49
  Tim Pritlove: und kann jetzt lange darüber diskutieren, wann das jetzt wirklich angefangen hat.
• 1:55:52
  Tim Pritlove: Das haben sie halt versucht, da abzubilden.
• 1:55:57
  Tim Pritlove: Ja, so.
• 1:55:59
  Linus Neumann: Versucht abzubilden klingt?
• 1:56:01
  Tim Pritlove: Naja, wie willst du denn so ein Thema im Fernsehen behandeln?
• 1:56:06
  Tim Pritlove: Das musst du im Podcast behandeln.
• 1:56:11
  Linus Neumann: Der Podcast-Woo, wir schreiben wie so ein Zeitungsartikel übers Internet.
• 1:56:17
  Tim Pritlove: Ich war so ein bisschen,
• 1:56:20
  Tim Pritlove: ich weiß nicht, ich habe zu wenig geschlafen vor diesem Interview.
• 1:56:24
  Tim Pritlove: Ich war nicht so gut in Form.
• 1:56:25
  Linus Neumann: Warst du so aufgeregt?
• 1:56:26
  Tim Pritlove: Die Fragen, aufgeregt nicht, aber ich war so ein bisschen unausgeschlafen und
• 1:56:30
  Tim Pritlove: dann sind einfach diese, du kennst das ja auch, wie so Fernsehinterviews so laufen,
• 1:56:35
  Tim Pritlove: dann, keine Ahnung, ich bin es halt gewohnt und das ist ja auch der Grund,
• 1:56:40
  Tim Pritlove: warum ich Podcasts mache,
• 1:56:42
  Tim Pritlove: den Gedanken aus dem Gespräch heraus zu entwickeln.
• 1:56:47
  Tim Pritlove: Und Fernsehen ist halt immer noch sehr viel mehr auf vorsortierte,
• 1:56:52
  Tim Pritlove: zack, zack, zack, jetzt hast du ja irgendwie die Antworten und das funktioniert
• 1:56:55
  Tim Pritlove: ja gut, wenn du so ein Thema,
• 1:56:57
  Tim Pritlove: was weiß ich, wenn du dich darauf vorbereitest und so weiter,
• 1:57:01
  Tim Pritlove: ich wusste jetzt gar nicht so richtig, was für Fragen mich da so treffen,
• 1:57:05
  Tim Pritlove: wenn das hat irgendwie nicht so richtig gut gepasst.
• 1:57:06
  Tim Pritlove: Am Ende ist es schon alles nicht so schlimm, aber es ist jetzt auch kein Meisterwerk.
• 1:57:11
  Linus Neumann: Also die anderen, die ganzen Fernsehstars haben bessere Fernsehbeiträge über
• 1:57:18
  Linus Neumann: ihren Podcast gemacht als du.
• 1:57:21
  Linus Neumann: Ist dein Fazit.
• 1:57:23
  Tim Pritlove: Nee, das wollte ich damit nicht sagen. Jeder hat ja irgendwas anderes gesagt
• 1:57:31
  Tim Pritlove: und in der Gänze würde ich sagen, hat der,
• 1:57:37
  Tim Pritlove: sagen wir mal, so die wesentlichen Aussagen, die man so über Podcasts sagen
• 1:57:41
  Tim Pritlove: muss, kamen insgesamt so zusammen.
• 1:57:45
  Tim Pritlove: Ich glaube, ich hätte gerne noch ein paar klügere Sachen gesagt,
• 1:57:48
  Tim Pritlove: aber entweder habe ich nicht die richtigen Fragen bekommen oder nicht die richtigen
• 1:57:52
  Tim Pritlove: Antworten gegeben, ist ja jetzt sozusagen auch nur ein Bruchteil von dem,
• 1:57:55
  Tim Pritlove: was man da im Dialog aufnimmt,
• 1:57:59
  Tim Pritlove: landet am Ende ja in so einem Ding, weil das ja immer alles so zeitlich so beschränkt ist.
• 1:58:04
  Linus Neumann: Also ich würde das ja nie sagen, wenn ein Mikrofon läuft, aber es ist ein Fehler,
• 1:58:08
  Linus Neumann: Tim, in die Nähe einer TV-Kamera zu gehen und darauf zu warten,
• 1:58:14
  Linus Neumann: dass jemand was fragt und dann darauf zu antworten.
• 1:58:18
  Tim Pritlove: Ja. du meinst, ich muss einfach selber reden.
• 1:58:22
  Linus Neumann: Du musst einfach vorher wissen, was du sagen willst und dann die Frage einfach ignorieren.
• 1:58:28
  Tim Pritlove: Das habe ich auch versucht, aber ich war halt nicht ausgeschlossen.
• 1:58:34
  Linus Neumann: Also das lernt man ja auch, wenn man im Fernsehen guckt, deswegen kriegt man
• 1:58:36
  Linus Neumann: auch Kopfschmerzen, wenn man im Fernsehen guckt, weil die ganze Zeit Gespräche
• 1:58:39
  Linus Neumann: stattfinden, wo man immer denkt, hä, der hat ja keine Idee.
• 1:58:44
  Tim Pritlove: Ist ja nur Fernsehen. Ist ja nur Fernsehen, guckt ja keiner.
• 1:58:47
  Tim Pritlove: Was ich im Podcast sage, das ist viel wichtiger.
• 1:58:50
  Linus Neumann: Das ist entschuldigung. Es gilt das gesprochene Wort.
• 1:58:52
  Tim Pritlove: So sieht es aus.
• 1:58:55
  Linus Neumann: Und Epicenter Works suchen einen Junior Policy Advisor für eine unbefristete
• 1:59:03
  Linus Neumann: Anstellung im Ausmaß von 30 Wochenstunden in Gleitzeit.
• 1:59:08
  Linus Neumann: Die Position richtet sich bewusst an Menschen am Anfang ihrer beruflichen Laufbahn,
• 1:59:13
  Linus Neumann: die Interesse an juristischer und netzpolitischer Arbeit haben und sich in diesem
• 1:59:18
  Linus Neumann: Bereich weiterentwickeln möchten.
• 1:59:19
  Linus Neumann: Also zum Meta-Lobbyisten und dann zum Berichterstatter.
• 1:59:26
  Linus Neumann: Du arbeitest von Beginn inhaltlich mit, wirst dabei aber eng begleitet.
• 1:59:30
  Linus Neumann: Gemeinsam mit erfahrenen KollegInnen beschäftigst du dich mit aktuellen Fragen
• 1:59:34
  Linus Neumann: rund um Digitalisierung, Grundrechte und Netzpolitik,
• 1:59:37
  Linus Neumann: unterstützt bei Stellungnahmen und Positionen und lernst Schritt für Schritt,
• 1:59:40
  Linus Neumann: wie zivilgesellschaftliche Policy-Arbeit in der Praxis funktioniert.
• 1:59:45
  Linus Neumann: Und diese Praxis befindet sich in Wien.
• 1:59:49
  Linus Neumann: Je nach Interesse bekommst du Einblicke in Öffentlichkeit, in Medienarbeit,
• 1:59:52
  Linus Neumann: vom Text für die Website bis hin zum Interview.
• 1:59:54
  Linus Neumann: Interview, vorher wissen wir, was man sagt, nicht von den Fragen ablenken lassen.
• 2:00:01
  Linus Neumann: Genau, Epicenter Works natürlich die Organisation für die Thomas viel unterwegs
• 2:00:07
  Linus Neumann: ist, der ja hier vor zwei Sendungen zu Gast war,
• 2:00:11
  Linus Neumann: oder was heißt zu Gast, der hier vor zwei Sendungen wieder war und seit vielen
• 2:00:16
  Linus Neumann: Jahren immer wieder hier in der Sendung ist und ich glaube auch bei Logbuch Netzpolitik unter Team,
• 2:00:22
  Linus Neumann: geführt wird Ja.
• 2:00:26
  Linus Neumann: Was braucht ihr? starkes Interesse an Digitalisierung, Netzpolitik und Grundrechten
• 2:00:32
  Linus Neumann: und ein abgeschlossenes oder fortgeschrittenes Studium mit juristischem Schwerpunkt.
• 2:00:38
  Linus Neumann: Zum Beispiel Jura oder Wirtschaftsrecht oder Master of Human Rights.
• 2:00:44
  Linus Neumann: Ich wusste nicht, dass es das gibt als Studium, aber das wäre,
• 2:00:47
  Linus Neumann: das ist schon ein schöner Titel.
• 2:00:51
  Linus Neumann: Ja, also wenn ihr Bock habt bei Epicenter zu arbeiten, Link in den Shownotes.
• 2:01:03
  Tim Pritlove: Damit sind wir durch. Ja, okay, gut, super.
• 2:01:09
  Tim Pritlove: Eine lange Sendung. Gut.
• 2:01:15
  Tim Pritlove: Mir fällt jetzt gar nicht mehr so sehr viel ein, was ich jetzt am Schluss noch
• 2:01:19
  Tim Pritlove: sagen kann. Ich frage mal meinen AI-Agent.
• 2:01:24
  Linus Neumann: Und was sagt er?
• 2:01:26
  Tim Pritlove: Ich weiß nicht, schläft gerade.
• 2:01:29
  Tim Pritlove: Damit beschäftigt, das Internet zu zerstören.
• 2:01:35
  Linus Neumann: Ja, weißt du, wir haben ja früher ein Buch gelesen, sind auf dem Baum geklettert.
• 2:01:42
  Linus Neumann: Mit Super Mario sind wir auf dem Baum geklettert, am Gameboy.
• 2:01:48
  Tim Pritlove: Ich bin wirklich auf dem Baum geklettert, ich bin sogar runtergefallen.
• 2:01:51
  Linus Neumann: Ja, klar, das habe ich mir fast gedacht, dass du mal irgendwas scheinbar vom Baum gefallen hast.
• 2:01:57
  Tim Pritlove: Man muss auch vom Baum runtergefallen sein.
• 2:01:59
  Linus Neumann: Even monkeys fall from trees.
• 2:02:03
  Linus Neumann: Jetzt verstehe ich es endlich.
• 2:02:09
  Tim Pritlove: Oh Mann, du findest auch alles raus.
• 2:02:14
  Linus Neumann: So, tschüss. Genießt das Internet, solange ihr es noch habt.
• 2:02:19
  Tim Pritlove: Das langst du auch stehst.
• 2:02:20
  Linus Neumann: Sonst müssen wir zurück auf die Bäume. Auch scheiße.
• 2:02:23
  Tim Pritlove: Naja, aber könnte dann auch wieder runterfallen, wenn ihr Spaß dran habt. Bis bald.
• 2:02:29
  Linus Neumann: Ciao, ciao.