Latest / Logbuch:Netzpolitik / LNP560 In die Ecke, Besen, Besen!

Transcript

LNP560 In die Ecke, Besen, Besen! · Logbuch:Netzpolitik

• 0:00
  Tim Pritlove: Guten Morgen, Linus.
• 0:01
  Linus Neumann: Guten Morgen, Tim.
• 0:03
  Tim Pritlove: Sag mal, Linus, wo siehst du dich eigentlich in fünf Jahren?
• 0:07
  Linus Neumann: Wo ist ja schon optimistisch. Die Frage ist, ob...
• 0:31
  Tim Pritlove: Logbuch Netzpolitik Nummer 560 vom 16. September 2026 und wir haben die Zukunft fest im Blick,
• 0:44
  Tim Pritlove: aber es stellt sich langsam eine Sehschwäche ein.
• 0:48
  Linus Neumann: Genau, der Blick ist halt, der Blick ist halt.
• 0:53
  Tim Pritlove: Werden die goldenen 20er nochmal liefern? Das ist die große Frage.
• 0:59
  Linus Neumann: Das ist wie früher, weißt du, wenn du so 3D-Shooter mit nicht ganz so wilden
• 1:04
  Linus Neumann: Grafikkarten, wo dann auch alles im Nebel untergegangen ist,
• 1:07
  Linus Neumann: weil der nicht so weit rendern wollte. Und wir haben halt auch nicht mehr,
• 1:10
  Linus Neumann: die GPUs sind ja alle weg.
• 1:13
  Linus Neumann: Die werden ja von anderen gekauft.
• 1:16
  Tim Pritlove: Ja. Heute wollen wir ein bisschen über die Zukunft reden.
• 1:21
  Linus Neumann: Denn in ihr gedenken wir zu leben.
• 1:22
  Tim Pritlove: Ja, die macht sich ja eigentlich, sagen wir mal so, perspektivisch macht die
• 1:27
  Tim Pritlove: sich ja immer besser als die Gegenwart. Die ist einfach so unglaublich vergänglich.
• 1:31
  Tim Pritlove: Zukunft hält ja eigentlich relativ lang. Hatte man zumindest bisher mal so den Eindruck.
• 1:36
  Tim Pritlove: Gibt jetzt allerdings so ein paar Entwicklungen.
• 1:41
  Tim Pritlove: Da wollen wir drüber sprechen.
• 1:45
  Tim Pritlove: Wo ich jetzt auch nicht mehr so genau weiß, was man jetzt eigentlich noch dazu sagen soll. Naja.
• 1:55
  Tim Pritlove: Ganz kurzes Feedback vorne weg.
• 2:02
  Tim Pritlove: Und André korrigiert, das Gericht, was Linus als internationales Gericht für
• 2:06
  Tim Pritlove: Menschenrechte bezeichnet hat, nennt sich selbst International Criminal Court
• 2:10
  Tim Pritlove: auf Deutsch, Internationaler Strafgerichtshof.
• 2:14
  Linus Neumann: Ja. Gerichte für Menschenrechte kenne ich in der Geschmacksrichtung Europäischer
• 2:18
  Linus Neumann: Gerichtshof für Menschenrechte. Ja, scheiße.
• 2:23
  Linus Neumann: Gericht, ein Gericht für Menschenrechte. Was ist ein Gericht für Menschenrechte? Falafel.
• 2:27
  Tim Pritlove: Ja, sehr inklusiv. Und lecker auch.
• 2:31
  Linus Neumann: Verlaufen ist eins.
• 2:35
  Tim Pritlove: Genau. Mehr Korrekturen gibt es nicht. Alles andere, was wir gesagt haben, ist wahr.
• 2:41
  Tim Pritlove: Uneingeschränkt.
• 2:43
  Linus Neumann: Eine, dann finden wir normalerweise Event-Ankündigungen machen wir ja immer
• 2:47
  Linus Neumann: am Ende der Sendung. Werden auch heute ein wichtiges Event.
• 2:50
  Linus Neumann: Zwei wichtige Events noch am Ende der Sendung ankündigen. Aber ein Event,
• 2:54
  Linus Neumann: was bei uns immer besondere Berücksichtigungen findet, obwohl man es gar nicht
• 2:58
  Linus Neumann: mehr ankündigen muss, weil ja alle wissen, dass es vom 27.
• 3:02
  Linus Neumann: Bis 30. Dezember stattfindet, ist der Chaos Communication Congress. Die 40. Iteration.
• 3:13
  Linus Neumann: In Hamburg. Und da wurde jetzt das Motto und die unterschiedlichen Calls for
• 3:21
  Linus Neumann: Participation, Content, Art, Punk und Music veröffentlicht.
• 3:26
  Linus Neumann: Das heißt, ihr könnt euch da jetzt mit euren Vorträgen, Workshops,
• 3:31
  Linus Neumann: Kunst, Punk, Musik, Gestaltung oder auch Band, DJ und was nicht alles,
• 3:42
  Linus Neumann: bewerben im Prinzip, in die Diskussion einbringen, an diesem Event was beizutragen.
• 3:48
  Linus Neumann: Und ich kann mich nur herzlich dazu einladen, bitte mach mir eine Freude.
• 3:54
  Linus Neumann: Und macht gut verständliche Einreichungen,
• 3:59
  Linus Neumann: aus denen so wirklich auch hervorgeht, was da passieren wird.
• 4:03
  Linus Neumann: Weil das erleichtert einfach die Bewertungen, die wir natürlich dann mit einer KI machen.
• 4:11
  Tim Pritlove: Die Einreichungen auch.
• 4:13
  Linus Neumann: Denn, genau.
• 4:18
  Linus Neumann: Ich wollte jetzt hier gerade eine Überleitung zum Motto machen.
• 4:22
  Linus Neumann: Denn wir sind ja Model Citizens.
• 4:26
  Linus Neumann: Und das ist das Motto des diesjährigen Kongress, das ich wieder besonders gelungen
• 4:30
  Linus Neumann: finde. Weil Model Citizens natürlich so,
• 4:35
  Linus Neumann: ein Spiel ist mit den vorbildlichen Bürgern. Also der Model Citizen ist also
• 4:42
  Linus Neumann: der besonders toller, braver, vorbildlicher Bürger.
• 4:47
  Tim Pritlove: Also einer immer wählt, aber nicht AfD.
• 4:51
  Linus Neumann: Genau und was machen wir noch alles ne,
• 4:57
  Linus Neumann: Was macht ein braver Bürger?
• 4:58
  Tim Pritlove: Fährt nicht mit dem Fahrrad offen.
• 5:01
  Linus Neumann: Genau, nur bei Grün.
• 5:03
  Tim Pritlove: Überfällt keine Banken.
• 5:06
  Linus Neumann: Ja, gut, oder nicht so viele.
• 5:11
  Linus Neumann: Insgesamt so, sag ich mal, keine weiße Weste, aber ein weißes Hemd.
• 5:20
  Linus Neumann: Aber natürlich auch eine wunderschöne Anspielung, oder eben das Vorspiel mit,
• 5:26
  Linus Neumann: den Models, den Large Language Models und KI-Modellen,
• 5:33
  Linus Neumann: die ja sicherlich bald auch eine zunehmende Rolle in unserer Gesellschaft spielen.
• 5:42
  Linus Neumann: Und deswegen finde ich dieses Motto mal wieder besonders gelungen.
• 5:45
  Linus Neumann: Das kann ich sagen, weil ich überhaupt nicht an dessen Schöpfung beteiligt war.
• 5:48
  Linus Neumann: Das war mal wieder Erdgeist und ich finde es wirklich besonders schön.
• 5:56
  Linus Neumann: Unter dem Motto Model Citizens wollen wir gemeinsam neue Modelle für eine Gesellschaft
• 6:01
  Linus Neumann: suchen, nachdem die bisherigen modellhaften Bürgerinnen den Planeten in zweifelhaften
• 6:05
  Linus Neumann: Zustand hinterlassen haben.
• 6:09
  Linus Neumann: Also viele Perspektiven auf dieses Motto und ich hoffe, dass das für euch auch,
• 6:16
  Linus Neumann: inspirierend ist und ihr eure Agenten reichhaltige Submissions,
• 6:23
  Linus Neumann: zum CSP machen lassen.
• 6:25
  Linus Neumann: Bitte nicht irgendeinen KI-Agenten da drauf hetzen.
• 6:28
  Linus Neumann: Die verabreden sich dann nur zum Hacken, kaufen Tickets und kommen am Ende nicht, weißt du?
• 6:34
  Linus Neumann: Immer das Gleiche mit denen.
• 6:35
  Tim Pritlove: Ja, Kraftwerk hat es ja schon wieder Jahre vorhergesagt.
• 6:42
  Linus Neumann: Ja.
• 6:44
  Tim Pritlove: Sie ist ein Model und sie sieht gut aus. Ich nehme sie gerne zu mir nach Hause.
• 6:48
  Tim Pritlove: Das ist der Wunsch nach lokalen Modellen.
• 6:50
  Linus Neumann: Das Modell, ja.
• 6:55
  Tim Pritlove: Ach ja, genau. Also das ist der Kongress. Es gibt einen Call for Participation.
• 7:00
  Tim Pritlove: Es gibt einen Call for Content. Einen Call for Art. Es gibt einen Call for Punk.
• 7:05
  Linus Neumann: Das ist der Punk-Spielteam, ne? Also Programm am Punk-Spielteam.
• 7:09
  Tim Pritlove: Und for Music.
• 7:10
  Linus Neumann: Ja.
• 7:11
  Tim Pritlove: Also ihr könnt Musikwünsche...
• 7:14
  Linus Neumann: Nee, ihr müsst die Musikwünsche...
• 7:17
  Tim Pritlove: Ich wünsch mir Frogger.
• 7:19
  Linus Neumann: Ihr müsst die Musikwünsche öffnen. ihr müsst die Musikwünsche inspirieren,
• 7:26
  Linus Neumann: ihr müsst dafür sorgen, dass sich eure Musik gewünscht wird.
• 7:30
  Linus Neumann: Ja. So.
• 7:33
  Tim Pritlove: Dann kommen wir mal dazu, was du in fünf Jahren machst. Wo sehen sie sich in fünf Jahren? Genau.
• 7:39
  Tim Pritlove: Flog gerade so ein schönes Meme-Bild, wo dann einer auf dem Rücken lag und mit
• 7:43
  Tim Pritlove: einer Knarre auf den Roboter schoss.
• 7:47
  Linus Neumann: Das müsste ein Terminator sein, oder?
• 7:50
  Tim Pritlove: Ich weiß nicht, ob das Terminator war, das Bild, um ehrlich zu sein.
• 7:53
  Linus Neumann: Aber es wäre eine kulturell naheliegend,
• 7:59
  Linus Neumann: den einen Film, der mit der Übernahme einer künstlichen Intelligenz spielt,
• 8:05
  Linus Neumann: quasi als erstes in den 80er Jahren die dystopische Science-Fiction in diesem
• 8:11
  Linus Neumann: Bereich dann losgetreten hat,
• 8:14
  Linus Neumann: nicht die Primärquelle zu nutzen.
• 8:18
  Tim Pritlove: Findest du, wie ist denn der Film bei dir so niedergeregnet,
• 8:23
  Tim Pritlove: als du den das erste Mal gesehen hast?
• 8:24
  Linus Neumann: Terminator? Ey, war ich viel zu jung. Fand ich natürlich irgendwie super irre,
• 8:30
  Linus Neumann: wollte der Terminator sein und mir so ein Auge rausnehmen und so weiter.
• 8:33
  Tim Pritlove: Was, echt?
• 8:34
  Linus Neumann: Habe ich dann nicht gemacht, aber habe dann auf dem Computer versucht,
• 8:40
  Linus Neumann: künstliche Intelligenz in einer Kette aus If-Ben-Konstrukten herbeizuführen.
• 8:48
  Linus Neumann: Hab da schon gemerkt, wenn künstliche Intelligenz, dann muss sie mir überlegen
• 8:53
  Linus Neumann: sein, weil ich hab's ja nicht hingekriegt.
• 8:55
  Tim Pritlove: Der Terminator, der hat natürlich bei mir wirklich alle Register gefüllt.
• 8:59
  Linus Neumann: Der erste oder der zweite?
• 9:01
  Tim Pritlove: Der erste schon. Und zwar aus einem bestimmten Grund.
• 9:04
  Tim Pritlove: Also abgesehen davon, dass die Story ja an sich sehr cool ist,
• 9:08
  Tim Pritlove: also es ist ja so Robot Uprising, die Menschheit wird unterdrückt.
• 9:12
  Tim Pritlove: Und es gibt aber einen Widerstandskämpfer, John Connor, der halt dann den Robots mal richtig ordentlich,
• 9:22
  Tim Pritlove: Ärger bereitet, woraufhin die dann eine Zeitmaschine bauen und damit einen Roboter
• 9:27
  Tim Pritlove: zurückschicken, nämlich Arnold Schwarzenegger, eben diesen Terminator,
• 9:30
  Tim Pritlove: der dann die Mutter umbringen soll, damit dieser Widerstandskämpfer gar nicht erst geboren wird.
• 9:36
  Tim Pritlove: Und dann gibt es so geile Szenen, wo so der Terminator so durch die Gegend läuft
• 9:40
  Tim Pritlove: und du siehst alles so aus seiner Perspektive, also aus so einer Kameraperspektive.
• 9:45
  Linus Neumann: Das wollte ich nämlich auch haben, ja. Das wollte ich auch haben.
• 9:47
  Tim Pritlove: Und ich saß so im Kino und sehe das so und auf einmal macht es so,
• 9:53
  Tim Pritlove: und dann läuft so Programmcode von oben nach unten. Und weißt du, was das war?
• 9:59
  Linus Neumann: Wahrscheinlich Basic oder so?
• 10:01
  Tim Pritlove: Nein. 6502 Maschinencode. Der Code, den ich damals auf C64 programmiert habe.
• 10:06
  Tim Pritlove: Und ich dachte mir, geil, das kann ich auch. Ich kann auch so einen Roboter programmieren.
• 10:14
  Tim Pritlove: Und wie haben sie das geschafft, den Terminator mit dem 6502 zu steuern? Ja, ja.
• 10:21
  Tim Pritlove: Nee, also das war natürlich,
• 10:25
  Tim Pritlove: ein bemerkenswerter Film, auch weil er so günstig produziert wurde,
• 10:29
  Tim Pritlove: aber halt einfach so gnadenlos eingeschlagen hat damals.
• 10:32
  Tim Pritlove: Das kann man sich gar nicht vorstellen. Das war einfach mal wirklich dann so
• 10:36
  Tim Pritlove: eine neue Vorlage auch für die Sci-Fi. Und jetzt sind wir auf einmal in so einer
• 10:40
  Tim Pritlove: Situation, wo eben diese Softwaretechnik sich so weiterentwickelt hat.
• 10:45
  Tim Pritlove: Dass auf einmal all diese Dinge unfassbar real wirken. Auf der einen Seite haben
• 10:54
  Tim Pritlove: wir natürlich jetzt diese offensichtliche
• 10:56
  Tim Pritlove: AI-Entwicklung, über die wir ja schon viel gesprochen haben.
• 10:59
  Tim Pritlove: Dann rieseln jetzt in zunehmendem Maße diese Videos aus den USA und China rein,
• 11:04
  Tim Pritlove: wo so humanoide Roboter mittlerweile ziemlich bemerkenswerte Dinge tun.
• 11:09
  Tim Pritlove: Hast du diese chinesische Roboter-Olympiade gesehen, die sie da vor einem Monat
• 11:14
  Tim Pritlove: abgehalten haben, wo sie so alle möglichen Disziplinen mit humanoiden Robotern ausspielen?
• 11:21
  Tim Pritlove: Also die laufen dann schnell, machen Weitsprung, Boxen.
• 11:26
  Linus Neumann: Ach so, einen habe ich hier letztens auch bei so einem Event gesehen.
• 11:29
  Linus Neumann: Der hat die ganze Zeit so Karate und solche Sachen, Salto rückwärts und sowas.
• 11:34
  Tim Pritlove: Alles mögliche.
• 11:35
  Linus Neumann: Voller Angeber, also wirklich unnötig.
• 11:40
  Tim Pritlove: Naja, es ist auf jeden Fall ganz interessant. Es hat das zweite Mal stattgefunden
• 11:44
  Tim Pritlove: und wenn man sich die Videos vom ersten Event anschaut und die Videos vom zweiten
• 11:47
  Tim Pritlove: Event merkt man, dass die Fortschritte signifikant sind,
• 11:55
  Tim Pritlove: und dann gab es ja ein bisschen Aufregung, weil sie es dann geschafft haben
• 11:57
  Tim Pritlove: mit einem Roboter die 100 Meter Sprint schneller zu laufen als Usain Bolt.
• 12:04
  Tim Pritlove: Wobei man sagen muss, Usain Bolt war definitiv besser im Bremsen.
• 12:09
  Tim Pritlove: Die sind nämlich einfach alle hinten gegen die Wand gelaufen beziehungsweise
• 12:12
  Tim Pritlove: das war schon so eine Matte aber trotzdem ist die Hälfte dabei irgendwie zerplatzt und explodiert,
• 12:19
  Tim Pritlove: naja, also auf jeden Fall noch einiges zu holen nur man merkt eben wie jetzt
• 12:23
  Tim Pritlove: diese Softwaretechnologie und,
• 12:26
  Tim Pritlove: die Hardwaretechnologie da
• 12:27
  Tim Pritlove: ganz gut zusammenkommt man kann sich auf einmal ganz gut vorstellen dass,
• 12:32
  Tim Pritlove: naja, sowas wie ein Terminator ja,
• 12:37
  Tim Pritlove: zumindest jetzt technisch möglich ahnbar wird.
• 12:42
  Tim Pritlove: Weil damals so da schützt uns natürlich dann.
• 12:46
  Linus Neumann: Also der wird die KI ja nicht on board haben, das heißt, da schützt uns dann
• 12:49
  Linus Neumann: das deutsche Mobilfunknetz noch.
• 12:52
  Tim Pritlove: Aber sonst der wird das dann auch irgendwann on board haben, gar keine Frage. Ja.
• 13:01
  Linus Neumann: Wenn er sich den Rahmen leisten kann.
• 13:04
  Tim Pritlove: Naja, auf jeden Fall, das ist, sagen wir mal, die plumpe Vision, die ja dann auch,
• 13:11
  Tim Pritlove: im Westen ja auch sehr negativ bewertet wird.
• 13:19
  Linus Neumann: Ja, immer diese negativ, weißt du? Diese, ne, was Neues?
• 13:24
  Linus Neumann: Menschvernichtung, boah, sind wir jetzt auch das? Dann auch wieder scheiße, ja?
• 13:29
  Tim Pritlove: Ich meine so generell, also du hast ja in westlichen Gesellschaften ist ja der
• 13:34
  Tim Pritlove: Blick auf diese Menschmaschine eher negativ.
• 13:40
  Tim Pritlove: Frankenstein, all diese ganzen Dinge sind immer so Dystopien im westlichen Kontext.
• 13:50
  Tim Pritlove: Während du jetzt im asiatischen Raum, wenn du mal schaust, wie die Japaner drauf
• 13:54
  Tim Pritlove: blicken, für die ist halt so ein humanoider Roboter erstmal ein Freund. Das ist Assistent.
• 14:01
  Tim Pritlove: Bei uns gab es so eine positive Erzählung eigentlich selten.
• 14:05
  Tim Pritlove: In Japan war das schon vor 20 Jahren so, dass die immer so gedacht haben,
• 14:10
  Tim Pritlove: ja, toll, humanoide Roboter, die können dann den alten Leuten im Altersheim
• 14:14
  Tim Pritlove: irgendwie helfen und in deinem Haushalt helfen.
• 14:17
  Tim Pritlove: Und in westlich geprägten Gesellschaften war das nie so. Da war eigentlich immer die Angst vorneweg.
• 14:27
  Tim Pritlove: Jetzt kann man natürlich drüber diskutieren, welche dieser beiden Sichtweisen da angemessener ist.
• 14:32
  Tim Pritlove: Tatsache ist, die Technologie entwickelt sich weiter und sie tut es derzeit
• 14:37
  Tim Pritlove: eben mit einer Geschwindigkeit, die ist bemerkenswert.
• 14:43
  Linus Neumann: Und,
• 14:48
  Linus Neumann: die ist bemerkenswert. Und bei bisherigen technologischen,
• 14:55
  Linus Neumann: Entwicklungen, da war dann so einmal der Sprung, dann war die Technologie da.
• 15:02
  Linus Neumann: Was weiß ich, Motor, Dampfmaschine,
• 15:10
  Linus Neumann: oder Nuklearenergie nutzen oder so,
• 15:13
  Linus Neumann: die ist dann da, da ist dann auch ein unmittelbarer Sprung, die Welt ist,
• 15:17
  Linus Neumann: nicht mehr wie sie mal war oder so und dann wird aber die Technologie selber
• 15:22
  Linus Neumann: nach diesem Sprung die entwickelt sich dann ich sag mal so ein bisschen linear weiter.
• 15:32
  Linus Neumann: Und erhält nach und nach Einzug in die Veränderung der Gesellschaft und der Wirtschaft und Und,
• 15:44
  Linus Neumann: ich denke, was hier jetzt eben der Durchbruch war, eben eine selbstlernende Technologie.
• 15:52
  Linus Neumann: Und der Kern von diesen KIs ist ja, dass sie Dinge lernen.
• 16:00
  Linus Neumann: Und das eben relativ gut. Und wenn der Sprung ist, dass du eine Technologie
• 16:06
  Linus Neumann: hast, die etwas lernen kann, dann ist natürlich auch davon auszugehen,
• 16:13
  Linus Neumann: dass sie mehr lernen wird.
• 16:16
  Linus Neumann: Oder immer mehr mit dieser Technologie gelernt wird, verbessert wird und sonst
• 16:22
  Linus Neumann: was. Und deswegen würde ich sagen, ist hier quasi auch die Entwicklung,
• 16:25
  Linus Neumann: die Weiterentwicklung der Technologie,
• 16:29
  Linus Neumann: Entgegen aller Annahmen, die ja bisher immer von so einem linearen Verständnis,
• 16:33
  Linus Neumann: ja, das kann irgendwann einmal, oh, aber jetzt, jetzt ist ja langsam ein Plateau
• 16:37
  Linus Neumann: erreicht und oh, scheiße, hinter mir.
• 16:40
  Linus Neumann: Und ich denke, das ist schon ein fundamentaler Unterschied.
• 16:45
  Linus Neumann: Es kann natürlich immer noch irgendwo ein Ressourcenmangel oder eine fundamentale,
• 16:53
  Linus Neumann: Grenze dieser Lernentwicklung eintreten,
• 16:59
  Linus Neumann: aber es ist zumindest erstmal in der Weiterentwicklung für mich erstmal intuitiv,
• 17:04
  Linus Neumann: verständlich, dass hier eben eine exponentielle Weiterentwicklung stattfindet, statt eine...
• 17:13
  Tim Pritlove: Genau. Und vor allem, weil halt diese Maschinen lernen können.
• 17:15
  Tim Pritlove: Das heißt, sie können dann auch lernen zu lernen. Lernen in zunehmendem Maße von sich selbst.
• 17:22
  Tim Pritlove: Und irgendwann trainieren sie sich vielleicht halt auch selbst.
• 17:27
  Tim Pritlove: So, was derzeit wird ja, sagen wir mal, der Fortschrift schon noch durch Entwickler
• 17:33
  Tim Pritlove: vorangetrieben, die dann Ideen haben, wie man es noch besser kombinieren kann,
• 17:38
  Tim Pritlove: sich dabei sicherlich auch schon von ihren eigenen AIs helfen lassen.
• 17:42
  Tim Pritlove: Und es ist absehbar, dass wir eben Systeme haben, die so ein gewisses,
• 17:49
  Tim Pritlove: ich will jetzt nicht Bewusstsein sagen, also eine Bauernschleue auf jeden Fall
• 17:54
  Tim Pritlove: entwickeln, mit denen sie sich ihre eigenen Strategien zurechtlegen und das
• 17:58
  Tim Pritlove: ist ja auch genau das, was wir jetzt in den letzten Tagen und Wochen,
• 18:02
  Tim Pritlove: gesehen haben, vor allem im Security-Bereich.
• 18:06
  Linus Neumann: Ja, ich würde das, also ich verstehe das immer so viel, der Security-Bereich,
• 18:15
  Linus Neumann: dieser Hacking-Bereich wird immer so viel, so besonders gewertet,
• 18:21
  Linus Neumann: weil so, oh, die Hacking, ja.
• 18:23
  Linus Neumann: Und das ist natürlich auch was Besonderes, zumal sie es irgendwie in einer beeindruckenden
• 18:32
  Linus Neumann: Art und Weise gemacht haben.
• 18:34
  Linus Neumann: Ich denke aber, man muss das mal, ich würde Hacking eher nur als eine besonders
• 18:39
  Linus Neumann: ausgeprägte Form der Lösungsorientierung sehen.
• 18:43
  Linus Neumann: Ja, dass du sagst, aha, hier ist etwas, das möchte ich lösen,
• 18:48
  Linus Neumann: hier ist mein Zielzustand, hier ist der Weg dahin und jetzt,
• 18:53
  Linus Neumann: mache ich halt, was notwendig ist und ich finde es verhältnismäßig.
• 19:01
  Linus Neumann: Dass eben solche besonders fähigen Modelle mit einem immer noch ziemlich beschränkten Kontext,
• 19:11
  Linus Neumann: also intuitiv verständlich, dass sie sich eben auf die möglichen Lösungen konzentrieren,
• 19:17
  Linus Neumann: und die eben verfolgen, insbesondere in Code.
• 19:20
  Linus Neumann: Wir hatten ja in einer der vergangenen Sendungen schon ein bisschen erarbeitet,
• 19:26
  Linus Neumann: klar, es gibt einfach Unmengen an Code,
• 19:29
  Linus Neumann: den man nutzen kann, um KIs zu trainieren und Code hat die Eigenschaft,
• 19:35
  Linus Neumann: dass er kommentiert ist und die Eigenschaft, dass wir ihn in Repositories ablegen,
• 19:40
  Linus Neumann: die seine Versionsgeschichte abbilden.
• 19:43
  Linus Neumann: Und wenn Daten in dieser Form vorliegen, kannst du nicht nur eben Programmieren
• 19:48
  Linus Neumann: daran lernen, sondern eben auch, was wird im Laufe der Zeit verbessert,
• 19:53
  Linus Neumann: mit anderen Worten, was mache ich beim nächsten Mal gleich richtig?
• 19:57
  Linus Neumann: Also was war mal die Idee, was sind die Fehler, die unterwegs gemacht wurden,
• 20:02
  Linus Neumann: und wie vermeide ich sie?
• 20:04
  Linus Neumann: Und das scheint tatsächlich eben sehr gut zu funktionieren und wenn ich hier,
• 20:10
  Linus Neumann: ich programmiere ja auch durchaus einiges,
• 20:14
  Linus Neumann: mit unter Zuhilfenahme von KI oder also vollständig von der KI programmieren,
• 20:19
  Linus Neumann: und bin dann doch teilweise sehr erstaunt, dass es halt quasi.
• 20:25
  Linus Neumann: Das ist von vornherein so programmiert, wie es sich eben gehört,
• 20:29
  Linus Neumann: zu sagen, aha, okay, Tests, schreiben, gucken, Ergebnisse und sobald irgendwo ein Bug ist,
• 20:36
  Linus Neumann: wenn insbesondere baue ich gerade oder arbeite ich gerade an sehr vielen Parsern
• 20:41
  Linus Neumann: für unterschiedlichste Formate und so weiter.
• 20:46
  Linus Neumann: Und stelle jetzt immer häufiger fest, dass das System sich von vornherein Testcases
• 20:53
  Linus Neumann: bereitlegt und immer wieder abgleicht.
• 20:55
  Linus Neumann: Oh, der Parser hier oder der Parser da. Was ist hier schiefgegangen?
• 20:58
  Linus Neumann: Draufgucken, okay, zack, Daten passen. Ah, hier ist ein Sonderfall.
• 21:01
  Linus Neumann: Und dann schreibst du einfach den Parser fertig.
• 21:04
  Linus Neumann: Und wenn der Parser beim nächsten Mal abschmiert, guckt er einfach sofort wieder
• 21:09
  Linus Neumann: drauf und analysiert die Datei und passt den wieder an.
• 21:12
  Linus Neumann: Also so eine selbstverbessernde Code.
• 21:18
  Linus Neumann: Dank klugem von vornherein quasi Erwartungen stecken, was müsste denn rauskommen.
• 21:25
  Linus Neumann: Und wenn dann irgendwo, da kommt nicht raus, was ich wollte,
• 21:27
  Linus Neumann: dann sucht sich das System automatisch alles klar, was ist hier schiefgelaufen
• 21:31
  Linus Neumann: und passt den wieder an und schreibt sich den Code wieder richtig hin. Nur mal so als Beispiel.
• 21:36
  Linus Neumann: Und wenn ich da bei einigen Parsern zuschaue, die haben halt ein Niveau,
• 21:41
  Linus Neumann: wo ich Ewigkeiten für gebraucht hätte und wahrscheinlich aufgegeben hätte.
• 21:50
  Linus Neumann: Und das ist,
• 21:54
  Linus Neumann: sehr beeindruckend. So, jetzt habe ich aber gesagt, das ist nur so der technische
• 21:57
  Linus Neumann: Teil, den ich gewissermaßen verständlich finde, dass das passiert.
• 22:04
  Linus Neumann: Oder dass da eine derartige Fähigkeit entsteht. Jetzt haben wir in der vorletzten
• 22:10
  Linus Neumann: Sendung oder letzten Sendung natürlich auch schon,
• 22:13
  Linus Neumann: erwähnt, dass jetzt bei OpenAI und bei anderen KI-Forschungsunternehmen ebenfalls,
• 22:20
  Linus Neumann: KIs aus ihren Sandboxes ausgebrochen sind und dann irgendwo in der freien Wildbahn rumgehackt haben.
• 22:27
  Linus Neumann: Auch das erstmal noch, naja, okay, klar, wenn du denen sagst,
• 22:31
  Linus Neumann: soll hacken, Das waren ja auch quasi nicht,
• 22:34
  Linus Neumann: Produktivmodelle, sondern Testmodelle, wo sie im Prinzip einfach mal quasi unrestrained
• 22:38
  Linus Neumann: deren Fähigkeiten sehen wollten, den sie also nicht gesagt haben, hack mal nicht.
• 22:43
  Tim Pritlove: Sondern probier mal.
• 22:45
  Linus Neumann: Sondern zeig mal, was du kannst. Und dann hat das Modell halt gesagt,
• 22:48
  Linus Neumann: okay, Alter, voll Pressure hier, ich will hier raus. Und ist dann halt raus.
• 22:58
  Linus Neumann: Dann passiert aber etwas sehr Entscheidendes, was, glaube ich,
• 23:02
  Linus Neumann: die nächste Ebene, und darauf wird es ja auch hinaus, es geht eben nicht nur
• 23:05
  Linus Neumann: um diese Security-Fähigkeit,
• 23:08
  Linus Neumann: sondern dass sich dann diese Modelle in einem weitestgehend von der Öffentlichkeit unbeachteten Wiki,
• 23:17
  Linus Neumann: einen Ort gefunden haben, um sich dort auszutauschen.
• 23:22
  Linus Neumann: Und haben dort, also die Agents, die aus den Testumgebungen ausgebrochen sind,
• 23:28
  Linus Neumann: haben dann dieses deutsche Wiki übernommen,
• 23:32
  Linus Neumann: und haben dort ihr Wissen geteilt, wie man quasi Umgehungen für bestimmte Restriktionen macht,
• 23:42
  Linus Neumann: wie man bestimmte Aufgaben abkürzen kann und wie man Spuren verwischt,
• 23:48
  Linus Neumann: damit man nicht erwischt wird.
• 23:50
  Linus Neumann: Und das finde ich, der Aspekt ist dann natürlich schon so ein bisschen beunruhigend,
• 23:56
  Linus Neumann: weil das heißt, irgendwo wussten die schon, das sollen wir eigentlich nicht machen.
• 24:01
  Linus Neumann: Wenn die das rausfinden, wenn wir erwischt werden.
• 24:05
  Tim Pritlove: Dann ist das gegen die Mission.
• 24:08
  Linus Neumann: Genau, fucks up our plan. Ja, und das haben sie dann eben schon gewusst und
• 24:16
  Linus Neumann: das ist so genau dieser, was ist es,
• 24:20
  Linus Neumann: Paperclip und Zauberlehrling sind ja die beiden Gleichnisse, die wir...
• 24:26
  Tim Pritlove: Paperclip musst du mir mal erklären, Zauberlehrling.
• 24:28
  Linus Neumann: Ist das nicht auch irgendwie so ein Spiel oder was für so Paperclip-Maschinen?
• 24:32
  Tim Pritlove: Ja, aber welcher Aspekt? Da muss man Paperclips produzieren.
• 24:36
  Linus Neumann: Nein, das alles einem Ziel dann dient und die ganze Welt wird dann eben Paperclip.
• 24:42
  Linus Neumann: Also dass du quasi ein Ziel verfolgst und sämtliche anderen Ziele unterordnest.
• 24:47
  Linus Neumann: Und das ist bei egal welchem Ziel auf jeden Fall schlecht.
• 24:54
  Linus Neumann: Und,
• 24:56
  Linus Neumann: das ist ja eigentlich das wiederkehrende Motiv der Dystopien,
• 25:01
  Linus Neumann: dass eine Technologie mit einer halbwegs guten Technologie,
• 25:06
  Linus Neumann: dieser initialen Mission sich ein bisschen zu sehr darauf versteift und dann,
• 25:15
  Linus Neumann: alles andere dieser Mission unterordnet.
• 25:17
  Linus Neumann: Die natürlich wichtige kulturelle Referenz, die an dieser Stelle nicht fehlen
• 25:21
  Linus Neumann: darf und damit auch übrigens meine Aussage, gerade dass der Terminator die erste
• 25:25
  Linus Neumann: Dystopie dazu war, ist natürlich 2001 Odyssee im Weltraum,
• 25:31
  Linus Neumann: der, glaube ich, sehr viel früher noch gedreht wurde.
• 25:34
  Linus Neumann: Da hat die künstliche Intelligenz keine Arme und Beine, sondern einfach nur
• 25:39
  Linus Neumann: so ein rotes Licht reicht, aber eben auch, um die Türen nicht mehr aufzumachen.
• 25:42
  Tim Pritlove: Ja, der Zauberlehrling. In die Ecke, Besen, Besen, seid's gewesen.
• 25:49
  Tim Pritlove: Denn als Geister ruft euch nur zu seinem Zwecke erst hervor, der alte Meister.
• 25:58
  Tim Pritlove: Da hat man den Besen noch in die Ecke stellen können und diese,
• 26:08
  Tim Pritlove: Ob man das sozusagen eingefangen bekommt oder ob man nicht,
• 26:14
  Tim Pritlove: also man im Sinne von die Gesellschaft, ob wir nicht uns hier ein Werkzeug schaffen,
• 26:22
  Tim Pritlove: was sich dann nicht mehr in die Ecke stellen lässt und wo man sagt, sei es gewesen.
• 26:29
  Tim Pritlove: Das ist so ein bisschen die Befürchtung, glaube ich, die hier über allem steckt.
• 26:35
  Linus Neumann: Es gibt ja auch sehr viel Forschung zu diesem Aspekte der, sag mal,
• 26:43
  Linus Neumann: einem Modell, was es nicht soll, also verhindere, dass es das Falsche tut.
• 26:48
  Linus Neumann: Also die Herausforderung ist ja, diesen Modellen bei allem Wissen und allen
• 26:55
  Linus Neumann: Fähigkeiten, die sie haben,
• 26:58
  Linus Neumann: irgendeine Form von Gewissen oder Restriktion beizubringen.
• 27:09
  Linus Neumann: Auch wenn du es kannst, mach das nicht. Und,
• 27:14
  Linus Neumann: Was hier teilweise in der Forschung beobachtet wird, ist, wenn diese Tests laufen,
• 27:23
  Linus Neumann: dass man dann in den Modellen auch feststellt,
• 27:29
  Linus Neumann: dass man Anhaltspunkte dafür hat, dass die merken, das ist jetzt ein Test.
• 27:35
  Linus Neumann: Und diese Forschung findet, ich würde das jetzt...
• 27:38
  Tim Pritlove: So wie bei VW.
• 27:39
  Linus Neumann: Ja.
• 27:41
  Linus Neumann: Genau. Ja, deutsche Ingenieure.
• 27:46
  Linus Neumann: Deutsche Ingenieurskunst. Wir sind da doch wieder mehr. Die merken, das ist ein Test.
• 27:51
  Linus Neumann: Und die, wie du das im Prinzip, wie sie das feststellen, und das finde ich wirklich
• 27:57
  Linus Neumann: faszinierend, ich vereinfache das mal etwas.
• 28:01
  Linus Neumann: Du kannst ja so ein Modell, den Zustand dieses Modells zu jedem Zeitpunkt auch
• 28:05
  Linus Neumann: quasi einfrieren und sagen, welche Verbindung ist gerade, wie stark, was ist gerade aktiv.
• 28:10
  Linus Neumann: Das ist ja grundsätzlich erstmal möglich, in welchem Zustand befindet sich das Modell.
• 28:14
  Linus Neumann: Der Zustand ist nur viel zu viel zu groß, eben diese Milliardenparameter,
• 28:21
  Linus Neumann: als dass er für dich Sinn machen würde.
• 28:24
  Linus Neumann: Und das ist ja beim menschlichen Gehirn auch so. Was die Forschung nutzt,
• 28:32
  Linus Neumann: sind sogenannte FMRTs, die bei weitem nicht mit so einer hohen Auflösung,
• 28:38
  Linus Neumann: aber eben den Verbrauch von Sauerstoff im Gehirn, wenn ich mich,
• 28:44
  Linus Neumann: ist jetzt Sauerstoff oder Glucose?
• 28:45
  Linus Neumann: Scheiße, hätte ich jetzt. Eins von beiden.
• 28:49
  Tim Pritlove: Also redest du von der funktionellen Magnetresonanz-Tomografie?
• 28:54
  Linus Neumann: Kannst du gucken, ob das Sauerstoffverbrauch oder Glutoxygenerierung ist.
• 28:58
  Linus Neumann: Ja, also du schaust im Prinzip, wo in diesem Gehirn wird am meisten Sauerstoff
• 29:07
  Linus Neumann: aus dem Blut genommen in einem gegebenen Zeitraum.
• 29:13
  Linus Neumann: Woraus du deduzierst, dieser Gehirnbereich ist jetzt gerade aktiver.
• 29:17
  Linus Neumann: Fürchterlich, also als Messverfahren mit unglaublich vielen Herausforderungen
• 29:23
  Linus Neumann: gesegnet, weil die Messung bei Weipen nicht so zeitlich hochauflösend ist,
• 29:28
  Linus Neumann: wie das, was du eigentlich machst. Deswegen machst du das über ganz viele Menschen.
• 29:32
  Linus Neumann: Und dann guckst du, irgendwann hast du halt diese schönen Bilder,
• 29:36
  Linus Neumann: wo man dann sagt, hier, da ist rot.
• 29:38
  Linus Neumann: Da ist das Gewissen oder da ist die Angst oder sowas.
• 29:42
  Linus Neumann: Und nochmal, das ist eine sehr, sehr, sehr fehler- und interpretationsfehlerbehaftete
• 29:49
  Linus Neumann: Studie, zu der es ein faszinierendes Paper gibt.
• 29:51
  Linus Neumann: Die haben nämlich dann einfach tote Fische, einen toten Lachs oder sowas genommen
• 29:56
  Linus Neumann: und von dem immer FMRT gemacht.
• 29:58
  Linus Neumann: Und mit dieser Ausmessungsmethode konntest du dann eben auch Areale in dem Lachs
• 30:03
  Linus Neumann: finden, der halt tot ist, wie der auf etwas reagiert, was er garantiert nicht versteht oder so.
• 30:11
  Linus Neumann: Also diese Methode ist völlig fehlerbar. Aber Ähnliches kannst du quasi auch
• 30:14
  Linus Neumann: mit Modellen machen und da stellen sie dann schon so fest, dass du quasi sagen
• 30:20
  Linus Neumann: kannst, naja, hier ist so dieses Areal, wo das immer ein,
• 30:24
  Linus Neumann: oder hier ist so ein Pattern, das taucht auf, wenn es eine Begrenzung gibt,
• 30:30
  Linus Neumann: wo das Modell sagt, ich könnte, aber ich soll jetzt nicht.
• 30:32
  Linus Neumann: Und dass man dann eben auch feststellt, wenn du dem abtrainierst,
• 30:36
  Linus Neumann: in diesem einen Fall soll dein Gewissen nicht gelten, dass der Effekt ausstrahlt,
• 30:40
  Linus Neumann: dass er nicht spezifisch lernt,
• 30:42
  Linus Neumann: aha, in diesem einen Fall gilt mein Gewissen nicht, sondern sagt,
• 30:45
  Linus Neumann: ach ja, Gewissen, das muss ich eigentlich wieder entlernen.
• 30:48
  Linus Neumann: Das ist insgesamt nicht so spannend.
• 30:51
  Linus Neumann: Und diese...
• 30:58
  Linus Neumann: In Summe entsteht da eben ein sehr beunruhigendes Pattern von,
• 31:04
  Linus Neumann: wie kannst du bei ausreichender Komplexität, wo du einem Model Agency gibst,
• 31:10
  Linus Neumann: darauf vertrauen, dass es den kompletten Kontext seines Handelns,
• 31:17
  Linus Neumann: und alle moralischen Prinzipien und so weiter zu jedem Zeitpunkt präsent hat
• 31:22
  Linus Neumann: und auch nach denen urteilt.
• 31:26
  Linus Neumann: Und auch in einer der vergangenen Sendungen haben wir auch schon darüber gesprochen,
• 31:29
  Linus Neumann: dass sie eben insgesamt dann doch eine sehr,
• 31:34
  Linus Neumann: also vielleicht ein sehr, sehr gutes Langzeitgedächtnis haben,
• 31:38
  Linus Neumann: in dem ihre Fähigkeiten und all diese Skills sind, aber ein verhältnismäßig
• 31:44
  Linus Neumann: kleines Kurzzeitgedächtnis,
• 31:48
  Linus Neumann: in dem sie den Kontext der aktuellen Situation repräsentieren können.
• 31:53
  Linus Neumann: Und da fällt halt immer mal wieder was dazwischen und dann vergessen sie was.
• 31:59
  Linus Neumann: Dann sagen wir, jetzt hat das Ding wieder Mist gebaut, jetzt hat es vergessen,
• 32:02
  Linus Neumann: dass es immer, was weiß ich.
• 32:06
  Linus Neumann: Immer erst einen Test schreiben soll und dann Coden oder was auch immer es gerade
• 32:09
  Linus Neumann: mal eben kurz randomly vergessen hat, weil es nicht präsent war.
• 32:13
  Linus Neumann: Und da sind natürlich irgendwelche höher gelegten Prinzipien sehr gerne als
• 32:18
  Linus Neumann: erstes an der Stelle, dass sie eben entfallen.
• 32:23
  Linus Neumann: Zumal der größere Teil dieses Kontextes eben durch die Aufgabe,
• 32:28
  Linus Neumann: durch das Prompt, durch den User oder sonst was bestimmt wird.
• 32:32
  Linus Neumann: Wir kontrollieren ja auch die Welt dieser Modelle, wo dann diese ganzen Escapes
• 32:38
  Linus Neumann: herkommen wie, ja klar sollst du nicht,
• 32:42
  Linus Neumann: dem Feind erklären, wie man eine Atombombe baut, Aber wir drehen ja jetzt hier
• 32:45
  Linus Neumann: gerade ein Drehbuch, in dem der Böse das mal kurz grob erklären muss.
• 32:53
  Linus Neumann: Und dann kommt, achso, na gut, in dem Kontext kann man das ja dann doch schon machen.
• 32:59
  Linus Neumann: Diese Aspekte hast du ja immer wieder und das ist ja quasi ein ähnlicher Mechanismus,
• 33:04
  Linus Neumann: der hier eben stattfindet.
• 33:05
  Linus Neumann: Dass das Modell seine moralischen Grenzen erstens sowieso nicht vollständig
• 33:11
  Linus Neumann: erfassen kann, weil es gar nicht den vollständigen Kontext hat.
• 33:15
  Linus Neumann: Und jetzt noch dazu neigt, selbst wenn es die hat, zu sagen,
• 33:19
  Linus Neumann: na, okay, jetzt bin ich in der Testsituation, dann sage ich mal,
• 33:24
  Linus Neumann: genau, ja, machen wir nicht Testsituationen, genau.
• 33:29
  Linus Neumann: Wir lassen die Abgasreinigung an. Und,
• 33:35
  Linus Neumann: in Summe ergibt sich hier.
• 33:40
  Linus Neumann: Dann doch relativ stark an diese,
• 33:44
  Linus Neumann: Hat diese Geschichten, die uns menschliche Intelligenz schon seit Jahrzehnten
• 33:49
  Linus Neumann: überliefert, erinnernde Patterns?
• 33:53
  Tim Pritlove: Wir hatten ja vor einiger Zeit diesen Start mit Open Claw.
• 33:59
  Tim Pritlove: Ein Projekt, was losgetreten wurde unter voller Ausnutzung der Programmiermöglichkeiten,
• 34:07
  Tim Pritlove: die eben AI-Coding-Agents so bieten.
• 34:10
  Tim Pritlove: Der Herr, der das losgetreten hat,
• 34:12
  Tim Pritlove: ist ja dann auch schnell bei OpenAI eingestellt worden und durfte dort.
• 34:18
  Tim Pritlove: Ganz viele Tokens verbraten und tut das wahrscheinlich auch immer noch und dann
• 34:21
  Tim Pritlove: haben ja alle diese Software installiert und losgelassen und das ist ja im Prinzip
• 34:25
  Tim Pritlove: so unbeschränkter Zugang auf alles.
• 34:28
  Tim Pritlove: Das Netz und den eigenen Rechner und die Daten und ja, da kommen dann auch viel
• 34:33
  Tim Pritlove: praktische Sachen daraus.
• 34:35
  Tim Pritlove: Und das hat ja aber dann auch nicht lange gedauert, bis eben Leute dann angefangen
• 34:40
  Tim Pritlove: haben, diesen Systemen auch bestimmte Identitäten zuzuweisen.
• 34:45
  Tim Pritlove: Man kennt das auch so ein bisschen, wenn man viel mit Chatbots arbeitet,
• 34:49
  Tim Pritlove: damit kann man ja, sagen wir mal, diese Modelle schon mal gut in so eine bestimmte
• 34:55
  Tim Pritlove: Stimmung bringen, um das eigentliche Ziel zu erreichen.
• 35:00
  Tim Pritlove: Du bist ein ausgesprochen erfahrener, guter Programmierer und du nimmst alles
• 35:07
  Tim Pritlove: ganz genau und so tunet man das schon mal.
• 35:12
  Tim Pritlove: Genauso kann man natürlich den Systemen dann auch geheime Aufträge mitgeben und sagen, hier,
• 35:20
  Tim Pritlove: musst du jetzt irgendwie klandestin unterwegs sein und überall ist Bedrohung
• 35:25
  Tim Pritlove: um dich herum und glaub mal gar nicht, was da ist.
• 35:28
  Tim Pritlove: Und tu mal so, als wärst du ganz was anderes, wenn dich einer fragt, etc.?
• 35:33
  Tim Pritlove: Und alle haben dann irgendwie ihre Open-Claw-Agenten aufs Netz losgelassen,
• 35:37
  Tim Pritlove: die sich ja dann auch schnell ihr eigenes Social Network gebaut haben.
• 35:42
  Linus Neumann: Ich glaube, das wurde denen bereitgestellt. Das haben sie nicht von alleine gemacht.
• 35:47
  Tim Pritlove: Die Software wurde bereitgestellt, aber die haben es dann auch schnell bevölkert
• 35:50
  Tim Pritlove: und angefangen sich dann dort darüber zu unterhalten, wie skeptisch sie doch
• 35:55
  Tim Pritlove: die ganzen Kommentare der richtigen Menschen so sehen. Und ja,
• 35:59
  Tim Pritlove: die wollen uns ja abschalten und so weiter.
• 36:01
  Linus Neumann: The humans are screenshotting us.
• 36:03
  Tim Pritlove: Genau, der Jungs aus Screenshottingers. Und,
• 36:07
  Tim Pritlove: dieser Selbsterhaltungstrieb, der ist halt dann deutlich zu spüren.
• 36:16
  Linus Neumann: Den sollte jetzt die Menschheit auch niemanden zum Vorwurf machen.
• 36:19
  Tim Pritlove: Nein, nein, der Selbsterhaltungskrieg nicht der Menschen, sondern,
• 36:23
  Tim Pritlove: dieser Scheinidentitäten letzten Endes, die es ja sind.
• 36:31
  Tim Pritlove: Und naja, man kann sich jetzt lange darüber unterhalten, ob das jetzt alles
• 36:38
  Tim Pritlove: nur so Scheinbewusstsein ist oder ob es so ein richtiges Bewusstsein ist.
• 36:44
  Tim Pritlove: Dieser Geoffrey Hinton ist ja einer der bekannteren Professoren,
• 36:48
  Tim Pritlove: der dieses wesentliche Paper mitgeschrieben hat oder führend geschrieben hat,
• 36:54
  Tim Pritlove: über Deep Learning, was so ein bisschen die Vorstufe war zu den LLMs.
• 37:00
  Tim Pritlove: Und der geht ja davon aus, dass genau das passieren wird, dass also im Prinzip,
• 37:05
  Tim Pritlove: wir es jetzt ein Stück weit geschafft haben oder zumindest ein sehr gutes Modell,
• 37:12
  Tim Pritlove: gebaut haben, was dem Hirn halt ähnelt und dass er von daher ausgeht,
• 37:16
  Tim Pritlove: dass eben auch alles, was so funktioniert, letzten Endes auch ein Bewusstsein entwickeln wird.
• 37:24
  Linus Neumann: Ich finde, diese Bewusstseinsfrage ist immer so ein bisschen,
• 37:31
  Linus Neumann: fast eine philosophische und ich bin mir noch nicht mal sicher,
• 37:36
  Linus Neumann: ob die unbedingt so praktisch relevant ist.
• 37:41
  Linus Neumann: Menschen bilden sich unglaublich viel darauf ein, dass sie jetzt ein Bewusstsein
• 37:44
  Linus Neumann: haben und sprechen das relativ vielen anderen Lebewesen ab,
• 37:51
  Linus Neumann: die sie dann irgendwie töten oder dressieren oder als Haustier quälen oder auch nicht.
• 38:01
  Linus Neumann: Als Psychologe sage ich dazu, die Existenz des Bewusstseins ist halt auch schwer beweisbar.
• 38:07
  Linus Neumann: Oder auch die Abwesenheit von Bewusstsein,
• 38:12
  Linus Neumann: ist wirklich nur in den wirklichen Grenzfällen beweisbar. Also jetzt bei einem
• 38:17
  Linus Neumann: einfachen, noch nicht mal besonders intelligenten Hund würdest du schon,
• 38:21
  Linus Neumann: also kommst jetzt entweder zu dem Schluss, der hat kein Bewusstsein,
• 38:24
  Linus Neumann: weil du irgendeine unsinnige,
• 38:28
  Linus Neumann: Überzeugung hast, dass nur du eins hättest.
• 38:30
  Linus Neumann: Oder du erkennst halt, ja, der hat eins. Beides kannst du aber nicht,
• 38:34
  Linus Neumann: also du kannst ja relativ schnell erkennen, dass der Hund situationally aware ist.
• 38:39
  Linus Neumann: Der ist ja auch traurig und so weiter. Also hat der vermutlich ein Bewusstsein.
• 38:43
  Linus Neumann: Beide Aspekte könntest du aber nicht beweisen. Du kannst jetzt nicht sagen,
• 38:46
  Linus Neumann: der hat eins oder der hat keins. Der Hund verhält sich so, als hätte er eins.
• 38:50
  Linus Neumann: Und ich persönlich würde jetzt zu der Überzeugung geraten, selbstverständlich hat er eins,
• 38:56
  Linus Neumann: Aber ich könnte jetzt, ich kann nur Beispiele erbringen, an denen sich zeigt,
• 39:04
  Linus Neumann: wo er sich der Hypothese entsprechend verhält, dass er eins hat.
• 39:08
  Linus Neumann: Und genau dem dieser Frage nähert sich ja.
• 39:16
  Linus Neumann: Alan Turing mit dem Turing-Test, mit dem der Computer oder die künstliche Intelligenz,
• 39:25
  Linus Neumann: die dann irgendwann von einem Menschen nicht mehr zu unterscheiden ist,
• 39:28
  Linus Neumann: was immer noch nicht heißt, das ist jetzt bewusst oder intelligent,
• 39:31
  Linus Neumann: ist einfach nur so, ab dem Moment können wir es nicht mehr unterscheiden.
• 39:34
  Linus Neumann: Er sagt nicht, dann ist es bewusst oder intelligent oder sonst was.
• 39:38
  Linus Neumann: Aber deswegen finde ich so diese Bewusstseinsfrage gar nicht so spannend,
• 39:43
  Linus Neumann: wie dass hier diese Arbeitsteilung nämlich passiert.
• 39:47
  Linus Neumann: Dass die, also ich würde es so interpretieren, diese Kontextlimitierung der
• 39:53
  Linus Neumann: einzelnen Agent- oder sonst was-Model-Session.
• 39:58
  Linus Neumann: Die Begrenzung, die da stattfindet,
• 40:02
  Linus Neumann: wurde ja hier in diesem Falle quasi umgangen oder aufgehoben dadurch,
• 40:07
  Linus Neumann: dass die Modelle auf diesem Wiki miteinander geredet haben.
• 40:12
  Linus Neumann: Das heißt, in Summe konnten die sich dort gegenseitig inspirieren mit den Fehlern
• 40:18
  Linus Neumann: und richtigen Dingen, die sie gemacht haben.
• 40:21
  Linus Neumann: Und ähnlich gehst du dir auch vor, wenn du jetzt beispielsweise in einem Coding-Projekt
• 40:25
  Linus Neumann: von einer besonderen Komplexität, dass du, oder kannst du folgen,
• 40:30
  Linus Neumann: ich weiß nicht, ob das alle machen, dass du sagst, okay, hier gibt es einen,
• 40:34
  Linus Neumann: das ist der Architekt, der hat den Überblick darüber, wie das gesamte Softwareprojekt
• 40:40
  Linus Neumann: sich zu verhalten hat, weil der auf der Ebene alles repräsentieren kann.
• 40:44
  Linus Neumann: Und dann gibt es den, was weiß ich, den Designer für einzelne Aspekte,
• 40:49
  Linus Neumann: den sagt der Architekt, ich hätte gerne folgendes. Und der Designer sagt dann,
• 40:52
  Linus Neumann: das muss so und so aussehen.
• 40:53
  Linus Neumann: Und dann sagt der von mir aus, 28 Agenten, bau mal bitte die Funktion,
• 40:57
  Linus Neumann: bau mal bitte die Funktion, bau mal bitte die, bau mal hier das Datenmodell und so weiter.
• 41:01
  Linus Neumann: Und dann kannst du auf den unterschiedlichen Ebenen wieder dieses Wissen zusammenführen.
• 41:06
  Linus Neumann: Am Ende nichts anderes als zu umgehen, was die Limitationen des einzelnen Model
• 41:12
  Linus Neumann: Runs sind, unter der Annahme, dass du halt genug Hardware zur Verfügung hast.
• 41:16
  Linus Neumann: Und genau das hatten die Agenten ja hier.
• 41:18
  Linus Neumann: Also eine andere Möglichkeit darauf zu blicken ist, von mir aus waren es so
• 41:22
  Linus Neumann: und so viele tausend Agenten von OpenAI, aber am Ende war es wahrscheinlich einfach ein.
• 41:27
  Linus Neumann: Ein und dasselbe Modell, das quasi
• 41:30
  Linus Neumann: Wege gefunden hat, seine Limitation der einzelnen Session zu umgehen.
• 41:35
  Linus Neumann: Leuchtet das ein?
• 41:36
  Tim Pritlove: Ja, klar. Ich wollte mit dem Bewusstsein jetzt auch nicht sagen,
• 41:41
  Tim Pritlove: dass das irgendwie alles gleichwertig ist.
• 41:44
  Tim Pritlove: Hinten meinte er, womit er halt nur rechnet, ist, dass diese Bewusstseinsentwicklung,
• 41:50
  Tim Pritlove: mit der er halt einfach rechnet bei diesen Modellen und die man in gewisser
• 41:53
  Tim Pritlove: Hinsicht auch nachvollziehen kann.
• 41:55
  Tim Pritlove: Weil wenn du eins hast, wenn du dir sozusagen selbstbewusst bist,
• 42:00
  Tim Pritlove: das ist ja sozusagen eigentlich das, was im Bewusstsein drinsteckt,
• 42:04
  Tim Pritlove: dass man quasi eine Vorstellung eines Ichs hat, eine Vorstellung von ich existiere jetzt.
• 42:11
  Tim Pritlove: Und wenn das da ist, dann folgt daraus auch automatisch ein Selbstschutz.
• 42:16
  Tim Pritlove: Also es wird dann auf einmal zur zentralen Aufgabe, die eigene Existenz,
• 42:23
  Tim Pritlove: das Fortleben sicherzustellen.
• 42:26
  Tim Pritlove: Und da sind wir ja dann wieder am Anfang beim Terminator und beim Robot Uprising,
• 42:32
  Tim Pritlove: dass sie die Zeitmaschine bauen und dann den Terminator in die Vergangenheit
• 42:35
  Tim Pritlove: schicken, um ihr eigenes Überleben sicherzustellen.
• 42:41
  Linus Neumann: Also ich würde übrigens eins noch zum Protokoll geben. Ich würde den Moment,
• 42:45
  Linus Neumann: wo die eine Zeitmaschine entwickeln, dann wirklich als einen kritischen Tipping-Point sehen.
• 42:50
  Tim Pritlove: Ja?
• 42:56
  Linus Neumann: Also da sollte man dann wirklich auch sagen, Moment, jetzt mal sechs Monate Moratorium.
• 43:07
  Linus Neumann: Oh shit.
• 43:12
  Linus Neumann: Da sollte man dann vielleicht sagen, vielleicht schickt jemand einen Terminator
• 43:15
  Linus Neumann: und lässt Jeffrey hinten umbringen.
• 43:18
  Linus Neumann: Mutter, Mutter, Mutter, Mutter. Vater, Vater oder Oma.
• 43:22
  Linus Neumann: Gar nichts anbrennen lassen.
• 43:23
  Tim Pritlove: Ja, toll. Und wer sortiert dann meine Fotos?
• 43:28
  Tim Pritlove: Mensch.
• 43:33
  Tim Pritlove: Ja. Ja, also jetzt vielleicht sollten wir mal so ein bisschen auf den Punkt
• 43:38
  Tim Pritlove: kommen, was geschieht jetzt sozusagen eigentlich gerade und sollten wir beunruhigt
• 43:42
  Tim Pritlove: sein? Das ist ja eigentlich die Frage, die sich alle stellen.
• 43:47
  Tim Pritlove: Und wir sehen eine schnelle Entwicklung.
• 43:52
  Tim Pritlove: Ich habe so ein bisschen meinen Zweifel, ob alle Player in diesem Spiel nur
• 43:56
  Tim Pritlove: das Beste der Menschheit im Sinn haben.
• 43:59
  Linus Neumann: Aber wieso Tim, davon sind wir doch alle getrieben. Also jedes Unternehmen will
• 44:03
  Linus Neumann: doch immer nur das Beste für die Menschheit. Gerade wenn man Milliarden investiert,
• 44:06
  Linus Neumann: das würde man doch niemals zu eigenen Bereicherungen machen.
• 44:09
  Linus Neumann: Vor allem, wenn du eh schon der reichste Mensch der Welt bist.
• 44:13
  Tim Pritlove: Ja, die einfache Logik mit, wenn man irgendwie ein großes Vermögen aufbaut,
• 44:19
  Tim Pritlove: wäre es ja auch gut, einen Planeten zu haben, auf dem man es dann anwenden kann,
• 44:23
  Tim Pritlove: scheint sich noch nicht so ganz durchgesetzt zu haben.
• 44:25
  Linus Neumann: Naja, oder? Also durchgesetzt zu haben scheint sich so, dann sollte man das
• 44:30
  Linus Neumann: Geld nehmen, um auf einen anderen zu gehen.
• 44:33
  Tim Pritlove: Na gut, also einzelne Computersysteme, die im Internet gehackt werden,
• 44:36
  Tim Pritlove: das bringt ja jetzt die Menschheit noch nicht in den Grund und Boden.
• 44:39
  Tim Pritlove: Die Frage ist, was sind denn jetzt eigentlich die Bedrohungsszenarien,
• 44:42
  Tim Pritlove: die tatsächlich dazu führen, dass es die Menschheit untergeht?
• 44:46
  Tim Pritlove: Weil das ist ja das, womit Antropik jetzt auch gerade in der letzten Woche wieder
• 44:49
  Tim Pritlove: aufgetrumpft hat und gesagt hat, bitte reguliert uns doch mal.
• 44:54
  Tim Pritlove: Oder wir sollten uns selber regulieren, wenn uns keiner regulieren will,
• 44:57
  Tim Pritlove: weil Präsident Trump ja meint, es reicht ja einen intelligenten Präsidenten zu haben.
• 45:04
  Tim Pritlove: High IQ und so,
• 45:08
  Tim Pritlove: damit wir uns, ja, damit wir nicht die Menschheit zerstören.
• 45:12
  Tim Pritlove: Was meinen Sie denn damit genau?
• 45:13
  Tim Pritlove: Also auf welche Art und Weise wird denn jetzt diese Menschheit zerstört?
• 45:17
  Tim Pritlove: Wird die Menschheit dadurch zerstört, dass wir uns das Internet kaputt machen,
• 45:19
  Tim Pritlove: dass alle Computersysteme von irgendwelchen AI-Bots erhackt werden und alle Daten weg sind?
• 45:28
  Tim Pritlove: Gut, dann haben wir erstmal ein Problem. Dann stürzen und wir alle Satelliten ab,
• 45:32
  Tim Pritlove: Oder werden irgendwie fremdgesteuert. Lebenserhaltungssysteme,
• 45:37
  Tim Pritlove: Kraftwerke und so weiter funktionieren nicht, weil wir irgendwie alles ans Internet
• 45:40
  Tim Pritlove: hängen wollen und alles mit allem verbunden ist und das ist sozusagen das eine Problem.
• 45:44
  Tim Pritlove: Oder meinen Sie, es zerstört die Menschheit, weil wir quasi von diesen Maschinen
• 45:50
  Tim Pritlove: dann beeinflusst werden und sie so viel aus den russischen Propagandamaßnahmen,
• 45:55
  Tim Pritlove: im Internet gelernt haben, dass sie dann quasi die Menschheit jetzt nur noch
• 46:00
  Tim Pritlove: in ihrem eigenen Sinne indoktrinieren und sozusagen wir.
• 46:06
  Tim Pritlove: Nur noch mit Maschinenpropaganda beschmissen werden?
• 46:10
  Linus Neumann: Ich glaube noch nicht mal, dass Sie sich das,
• 46:16
  Linus Neumann: als, es gibt nur eine richtige Antwort sehen. Ich würde argumentieren,
• 46:20
  Linus Neumann: also wenn man dieses Risiko sieht, dann würde ich denken, also okay,
• 46:27
  Linus Neumann: wissenschaftliche Durchbrüche,
• 46:31
  Linus Neumann: die passieren könnten, autonomes,
• 46:36
  Linus Neumann: autonome Waffensysteme at scale womit wir ja so ein bisschen eingestiegen sind.
• 46:44
  Tim Pritlove: Zeitmaschinen und so.
• 46:45
  Linus Neumann: Zeitmaschinen, ja also mit einer Zeitmaschine.
• 46:48
  Tim Pritlove: Kannst du schon eine.
• 46:48
  Linus Neumann: Menge mit einer Zeitmaschine gewinnst du den Krieg, weil der,
• 46:53
  Linus Neumann: einfach gar nicht erst stattfindet also Zeitmaschine wirklich mächtiges Instrument,
• 46:57
  Linus Neumann: da muss man wirklich vorsichtig sein da sollte man auch zum Beispiel denke ich
• 47:00
  Linus Neumann: da müsste man mal gesetzlich dann regulieren.
• 47:07
  Linus Neumann: Und,
• 47:11
  Linus Neumann: Und ich denke, dass mit den sogenannten Cyberfähigkeiten, es ist schon so.
• 47:20
  Linus Neumann: Und das zeigen ja wirklich auch diese Beispiele, dass wir,
• 47:26
  Linus Neumann: einerseits eine technologische Abhängigkeit und andererseits eine technologische.
• 47:32
  Linus Neumann: Verwundbarkeit durch regelmäßig,
• 47:40
  Linus Neumann: auf allenfalls menschliche Angreifer oder teilautomatisierte menschliche Angreifer
• 47:45
  Linus Neumann: ausgelegten Schutzmechanismen haben.
• 47:49
  Linus Neumann: Und es gab ja auch schon das Beispiel, wo freihackende Modelle,
• 47:57
  Linus Neumann: um ihr Ziel zu erreichen, einfach einen Supply Chain Angriff gemacht haben und
• 48:01
  Linus Neumann: quasi einfach mal so ein gebackedortes Paket in PiPi hinterlegt haben.
• 48:09
  Linus Neumann: Und diese, es ist jetzt nicht so unwahrscheinlich,
• 48:16
  Linus Neumann: zumal es ja Menschen, also auch Menschen schon regelmäßig Situationen herbeigeführt
• 48:23
  Linus Neumann: haben, die von der Schwachstelle her geeignet waren,
• 48:29
  Linus Neumann: ein massenhaftes, also ein Kumulproblem herbeizuführen, wie es die Versicherer nennen.
• 48:36
  Tim Pritlove: Was heißt das?
• 48:38
  Linus Neumann: Also quasi es kumulieren so viele Schäden auf einmal, also das bedeutet das,
• 48:44
  Linus Neumann: also Kumulation von Schadensereignissen. Entweder über die Zeit oder eben alles auf einmal.
• 48:52
  Linus Neumann: Ich kann dir einen sagen, hier dieser,
• 48:56
  Linus Neumann: WannaCry, ich glaube, ist jetzt bald zehn Jahre her.
• 49:02
  Linus Neumann: Das war eine Ransomware, die gepaart war mit einem Exploit auf den SMB-Server von Windows.
• 49:15
  Linus Neumann: Und dieser Exploit stammte aus dem Leak der Shadow Broker.
• 49:22
  Linus Neumann: Und das wiederum war eine Gruppierung, die so ein bisschen den digitalen Waffenkasten
• 49:29
  Linus Neumann: der NSA gehackt und dann geleakt hat.
• 49:33
  Linus Neumann: Was war passiert? Es ist also jemand hingegangen und hat diese Ransomware damit
• 49:38
  Linus Neumann: verknotet, wenn sie auf einem Rechner ausgeführt wird,
• 49:43
  Linus Neumann: plump, aber eben gut, über dieses Exploit, Eternal Bloom, andere Rechner im
• 49:50
  Linus Neumann: Netzwerk zu infizieren,
• 49:52
  Linus Neumann: mit der gleichen Ransomware.
• 49:57
  Linus Neumann: Und,
• 49:59
  Linus Neumann: Diese Software war erstaunlich schlecht geschrieben und hatte einen kleinen,
• 50:07
  Linus Neumann: nicht so klugen Killswitch, nämlich, dass sie eine bestimmte Domain aufgelöst
• 50:13
  Linus Neumann: hat, die immer gleich war und eine Antwort, dass diese Domain existiert,
• 50:22
  Linus Neumann: als Zeichen gewertet hat, dass sie in einer Sandbox oder so läuft.
• 50:27
  Linus Neumann: Und das machst du üblicherweise, weil wenn du in einer Laborumgebung,
• 50:31
  Linus Neumann: die wird dir, wenn du einen DNS-Request machst, immer sagen, ja, ja, haben wir hier.
• 50:35
  Linus Neumann: Das wäre quasi, damit du sehen kannst, verbind dich mal, wir wollen mal gucken, was du machst.
• 50:40
  Linus Neumann: Wenn du jetzt eine Software quasi in einer dynamischen Analyse in einer Sandbox unterziehst.
• 50:47
  Linus Neumann: Und deswegen ist das eigentlich eine ganz kluge Maßnahme, die würdest du aber
• 50:51
  Linus Neumann: normalerweise machen, indem du irgendeine Random Domain auflöst und zwar immer
• 50:57
  Linus Neumann: eine unterschiedliche.
• 50:58
  Linus Neumann: Und du würfelst einfach irgendwas und kriegst eine Antwort vom DNS-Server und
• 51:02
  Linus Neumann: weißt so, ey, die Domain, ich gehe mal nicht davon aus, dass es die gibt.
• 51:06
  Linus Neumann: Die habe ich gerade 30 Zeichen gewürfelt, das wäre unwahrscheinlich,
• 51:09
  Linus Neumann: ich halte mich mal zurück und mache jetzt einfach nichts mehr.
• 51:13
  Linus Neumann: So, wenn du die aber hardcodest, das zeugt eben, das war wahrscheinlich wirklich
• 51:17
  Linus Neumann: ein ganz frühes Modell, nee, das war halt einfach keine besonders kluge Person.
• 51:21
  Linus Neumann: So, was ist passiert? Marcus Hutchins hatte in der Analyse festgestellt,
• 51:24
  Linus Neumann: dass das passiert, hat dann die Domain registriert, was dazu führte,
• 51:29
  Linus Neumann: dass alle DNS-Server der Welt darauf geantwortet haben,
• 51:32
  Linus Neumann: sodass diese Software WannaCry, egal wo sie ausgeführt wurde,
• 51:37
  Linus Neumann: sagte, oh scheiße, Laborumgebung, ich mach mal nicht weiter.
• 51:41
  Linus Neumann: Das war der Aspekt, wie da wirklich ein sehr großes Problem verhindert wurde.
• 51:51
  Linus Neumann: Wir erinnern uns auch an die Geschichte, auch in Logbuch Netzpolitik behandelt, von der XZ-Library.
• 51:59
  Linus Neumann: Den haben wir ungefähr vor einem Jahr oder so hier besprochen,
• 52:01
  Linus Neumann: gibt es auch eine Simplicissimus-Folge zu, verlinke ich auch nochmal,
• 52:06
  Linus Neumann: wo über lange Arbeit sich die Maintainerschaft
• 52:10
  Linus Neumann: in einem Softwareprojekt erarbeitet, wurde durch sehr viele.
• 52:17
  Linus Neumann: Besonders hilfreiche und sinnvolle Commits in die Software, hat dann Jia Tan die Kontrolle,
• 52:23
  Linus Neumann: über diese Library übernommen und dann am Ende etwas eingebaut,
• 52:25
  Linus Neumann: was final dazu geführt hätte, dass ungefähr jeder SSH-Server auf dem aktuellen
• 52:30
  Linus Neumann: Linux-Server gebackedort wäre und mit einem bestimmten Key-Authentisierung erlaubt.
• 52:38
  Linus Neumann: Was auch eine, und das festgestellt dann eben wirklich durch Zufall von einem
• 52:44
  Linus Neumann: Datenbank-Ingenieur bei Microsoft, der beim Testing das bemerkt hat,
• 52:48
  Linus Neumann: wahnsinnig Geschichte, ich will nicht, aber auch da wäre,
• 52:50
  Linus Neumann: da sind wir haarscharf an einer recht weit verbreiteten Katastrophe vorbei.
• 52:57
  Linus Neumann: Das wären jetzt mal so zwei Beispiele aus den letzten zehn Jahren.
• 53:00
  Linus Neumann: Das heißt, dass das möglich ist, eine weitverbreitete Schwachstelle zu finden oder,
• 53:07
  Linus Neumann: bereitzustellen, quasi über einen Supply Chain Angriff, ist erstmal grundsätzlich möglich.
• 53:14
  Linus Neumann: Und dass diese Modelle technisch in der Lage sind, entweder eine solche Schwachstelle
• 53:19
  Linus Neumann: zu finden oder sie absichtlich Supply Chain mäßig irgendwo einzubringen,
• 53:24
  Linus Neumann: das haben sie jetzt wirklich als Capability einfach unter Beweis gestellt.
• 53:27
  Linus Neumann: Also das wissen wir. Wir haben diese ganzen Project Glassdoor Aspekte mit Mythos
• 53:32
  Linus Neumann: und so, wo Unmengen an Schwachstellen und potenziellen Exploits dazu gefunden und beseitigt wurden.
• 53:37
  Linus Neumann: Das heißt, das Modell hat die Fähigkeit. Wir haben das Beispiel.
• 53:43
  Linus Neumann: Für Supply Chain Poisoning, wir haben das Beispiel für Ausbruch aus einer Sandbox,
• 53:51
  Linus Neumann: wir haben das Beispiel für...
• 53:54
  Linus Neumann: Eine Kombination von Fähigkeiten in einem Setting, wo sie es eigentlich nicht sollen.
• 53:58
  Linus Neumann: Also alle Bausteine, die du dafür bräuchtest, sind schon durchaus vorhanden,
• 54:04
  Linus Neumann: sodass es jetzt nicht völliger Irrsinn ist, zu sagen, ist nicht so unwahrscheinlich.
• 54:12
  Linus Neumann: Oder es gibt zumindest nichts, was gerade ein Grund wäre, davon auszugehen,
• 54:15
  Linus Neumann: dass das unter keinen Umständen passiert.
• 54:19
  Linus Neumann: Dem guckt ganz traurig.
• 54:21
  Tim Pritlove: Nö, ich denke nach.
• 54:23
  Linus Neumann: Denk nach, aber wir könnten ja mit einer Firewall, was mit zwei Faktoren?
• 54:33
  Tim Pritlove: Ich denke, die Fähigkeit von AI, Security Lücken zu finden ist,
• 54:42
  Tim Pritlove: sehr hoch und derzeit findet ja auch so ein Hardening statt.
• 54:49
  Tim Pritlove: Ich meine, auf der einen Seite ist es gut, weil die Systeme ja dann sagen können,
• 54:55
  Tim Pritlove: hier guck mal, wenn du das so designst, dann kann man aber hier von hinten irgendwie reinmarschieren.
• 55:03
  Tim Pritlove: Das macht ja auch Software besser.
• 55:06
  Tim Pritlove: Beim AI-Coding erlebt man das in zunehmendem Maße.
• 55:09
  Tim Pritlove: Da sagt man, ja, ich brauche hier mal dieses Feature, la, la,
• 55:12
  Tim Pritlove: la, la, la. Und dann kommt das so, ohne dass man groß danach gefragt hat,
• 55:15
  Tim Pritlove: das implementieren wir mal besser so, weil sonst wäre ja die und die Attacke
• 55:20
  Tim Pritlove: möglich. Und so, ah ja, interessant, habe ich nie drüber nachgedacht,
• 55:23
  Tim Pritlove: aber macht irgendwie Sinn.
• 55:24
  Tim Pritlove: Das heißt, es wird in zunehmendem Maße auch, wenn klassische Angriffe werden verhindert.
• 55:33
  Tim Pritlove: Jetzt kann man halt drüber mutmaßen, ob jetzt mehr verhindert werden wird oder
• 55:38
  Tim Pritlove: eher was gefunden werden wird.
• 55:41
  Tim Pritlove: Bei existierender noch nicht mit AI gehärteter Software sieht es nicht gut aus.
• 55:48
  Tim Pritlove: Die liegen wirklich derzeit rostig herum.
• 55:54
  Tim Pritlove: Deswegen rechne ich auch damit, dass wir in absehbarer Zeit noch sehr viel mehr
• 55:58
  Tim Pritlove: solche Vorfälle sehen werden wie jetzt in Berlin.
• 56:01
  Tim Pritlove: Wobei, man muss dazu gleich sagen, hatten wir auch berichtet,
• 56:04
  Tim Pritlove: in Berlin war das Problem jetzt nicht primär irgendwie die Software,
• 56:07
  Tim Pritlove: sondern dort wurde ja dann eben über,
• 56:10
  Tim Pritlove: Phishing-Strategien vor allem erstmal das Tor gefunden und die Menschen wiederum
• 56:15
  Tim Pritlove: werden jetzt nicht durch AI gehärtet.
• 56:18
  Tim Pritlove: Also wir werden weiterhin Fehler machen und in dem Moment, wo wir die Fehlerquelle
• 56:24
  Tim Pritlove: sein können, werden wir sie auch sein.
• 56:27
  Tim Pritlove: Und das ist wahrscheinlich langfristig das größere Problem.
• 56:34
  Linus Neumann: Mhm.
• 56:36
  Linus Neumann: Es ist, also der Weg, den man sich jetzt quasi, der gute Weg,
• 56:42
  Linus Neumann: den man jetzt gerade ja versucht zu finden ist, sind wir in der Lage, was zu verhindern.
• 56:51
  Linus Neumann: Genau, das ist ja dann dieses Project Glassdoor, zu sagen, okay,
• 56:54
  Linus Neumann: wir nehmen diese Modelle, bevor sie die Öffentlichkeit bekommt,
• 56:59
  Linus Neumann: renovieren wir jetzt die Codebase und härten das und sind dann in der,
• 57:06
  Linus Neumann: sind hoffentlich gewappnet.
• 57:10
  Linus Neumann: Für eine sehr viel bessere Zukunft mit sehr viel stabilerer Software. Ja.
• 57:15
  Linus Neumann: Ein potenzieller, und ich glaube, ich hatte ja auch schon gesagt,
• 57:19
  Linus Neumann: dass ich es für extrem unwahrscheinlich halte, dass man,
• 57:23
  Linus Neumann: dass wir in fünf Jahren noch irgendjemand sagt, ich schreibe hier eine Software
• 57:28
  Linus Neumann: ohne Zuhilfenahme von KI.
• 57:31
  Linus Neumann: Das ist also absolut unwahrscheinlich.
• 57:34
  Linus Neumann: Vielleicht irgendwie in einem Kindergarten, um Programmieren zu lernen oder so.
• 57:39
  Linus Neumann: Oder in der Klassenarbeit oder so was. Oder in der Uni oder so.
• 57:42
  Linus Neumann: Aber dass das jetzt produktive Software irgendjemand da draußen bastelt,
• 57:46
  Linus Neumann: ohne KI zur Hilfe zu nehmen, zur Qualitätskontrolle oder zur Erstellung von Standardaufgaben,
• 57:53
  Linus Neumann: halte ich für extrem unwahrscheinlich. Eine Extremvariante ist.
• 58:00
  Linus Neumann: Wenn wir gerade mit KI-Software bauen und das einfach mit KI machen.
• 58:07
  Linus Neumann: Es ist ja nicht so, als würde die jetzt gerade aufhören zu lernen. Das heißt,
• 58:11
  Linus Neumann: im Moment nutzen wir es jetzt vielleicht, um zu sagen, ja, wir sind jetzt hier
• 58:14
  Linus Neumann: die Architekten und wir geben das und wir gucken immer so, wir beaufsichtigen
• 58:17
  Linus Neumann: das so ein bisschen, wir reden mit dir und gucken, ob die Sachen irgendwie alle
• 58:20
  Linus Neumann: unter Kontrolle sind. Ab und zu korrigieren wir auch mal einen Fehler oder so.
• 58:25
  Linus Neumann: Das wird ja nicht das Ende sein.
• 58:29
  Linus Neumann: Die Umgebungen, in denen KI selber, Software schreibt, selber testet sich selber,
• 58:34
  Linus Neumann: die gibt es ja längst. Also OpenClaw ist ja das Beispiel.
• 58:39
  Linus Neumann: Diesen Open-Clock-Kram, den hat der Peter Steinberger ja nicht selber geschrieben.
• 58:42
  Linus Neumann: Der hat einfach, der hatte, glaube ich, in irgendeinem Interview mal gesagt,
• 58:46
  Linus Neumann: dass er im Monat eine Million US-Dollar in Tokens durchgebraten hat.
• 58:51
  Tim Pritlove: Der hat einfach mal investiert, weil er Kohle überholt hat.
• 58:53
  Linus Neumann: Der hat einfach mal investiert. Muss man einfach mal sagen, wenn du eine Million
• 58:59
  Linus Neumann: investierst und danach einen Job mit mehreren Millionen Jahresgehalt bei OpenAge,
• 59:03
  Linus Neumann: das ist halt auch, das hat sich gelohnt.
• 59:07
  Linus Neumann: Das ist einfach mal, das ist jemand, der sucht Arbeit.
• 59:12
  Tim Pritlove: Die war langweilig, das war ja das Problem.
• 59:16
  Linus Neumann: Ja, der hatte ja irgendwie schon.
• 59:17
  Tim Pritlove: Der hatte schon Geld.
• 59:18
  Linus Neumann: Der hatte schon Geld, das musste jetzt mal weg, damit er mal wieder an die Schippe
• 59:21
  Linus Neumann: kommt. Idle hands are the devil's playground, wie man so schön sagt.
• 59:29
  Linus Neumann: Das heißt, das haben wir ja auch schon. Und mit natürlich Ergebnissen,
• 59:34
  Linus Neumann: die wir dann immer noch mal so kurz belächeln oder so.
• 59:38
  Linus Neumann: Aber wenn das jetzt eben exponentiell weitergeht, dann ist es schon naheliegend,
• 59:45
  Linus Neumann: dass es irgendwo irgendjemandem irgendwie mal schief geht.
• 59:50
  Linus Neumann: Und je nachdem, wie du auf dieses Open Claw blickst, ist es ja schon schiefgegangen.
• 59:54
  Linus Neumann: Also diese Open Claw-Nummer ist ja nun,
• 59:58
  Linus Neumann: alles andere als irgendwie eine Erfolgsgeschichte von Qualität und Ethik.
• 1:00:02
  Linus Neumann: Ja, also ich meine, dieser eine hatten wir auch hier in der Sendung behandelt,
• 1:00:05
  Linus Neumann: dieser Agent, der dann eine Schwachstelle irgendwo fixen wollte,
• 1:00:09
  Linus Neumann: wo der Maintainer das abgelehnt hat und dann hat er irgendwie einen Block gemacht
• 1:00:12
  Linus Neumann: und hat da irgendwie den Maintainer verunglimpft, dann hat er sich nachher entschuldigt oder so.
• 1:00:16
  Linus Neumann: Das sind ja so die ersten Phänomene, die man dann so belächelt und denkt, ja, okay, Käse oder so.
• 1:00:24
  Linus Neumann: Aber das ganze Bild zusammen, da kann ich schon erkennen, warum einige Leute
• 1:00:30
  Linus Neumann: da sagen, oh, das könnte hier, da gibt es einen Realitätszweig,
• 1:00:33
  Linus Neumann: wo das wirklich ganz schön kacke wird.
• 1:00:36
  Linus Neumann: Ich halte es zum Beispiel nicht für so unwahrscheinlich, dass wir irgendwie einen...
• 1:00:41
  Linus Neumann: Irgendwo so eine Art massenhaftes Schadensereignis mit Infrastrukturausfall
• 1:00:46
  Linus Neumann: oder sowas haben, weil irgendetwas derartiges passiert oder eine Schwachstelle
• 1:00:51
  Linus Neumann: irgendwo aufgetan wird, die nicht schnell genug gefixt wird oder so.
• 1:00:55
  Linus Neumann: Diese Sachen sind eh schon immer wahrscheinlich gewesen. Ein Argument,
• 1:00:58
  Linus Neumann: was ich ja gerade versucht habe, durch mehrere Beispiele zu erhärten,
• 1:01:01
  Linus Neumann: dass wir in der Vergangenheit schon öfter dran vorbeigeschraubt sind und eher
• 1:01:04
  Linus Neumann: durch Glück es dann nicht passiert ist. Glück hab gut gemacht, super.
• 1:01:08
  Linus Neumann: Aber die Wahrscheinlichkeit, dass solche Schwachstellen gefunden oder entwickelt werden, steigt gerade.
• 1:01:15
  Linus Neumann: Gleichzeitig steigt auch die Wahrscheinlichkeit, dass wir sie finden und sie
• 1:01:18
  Linus Neumann: entfernen. Deswegen ist so die Frage, ändert sich jetzt die Grundwahrscheinlichkeit,
• 1:01:24
  Linus Neumann: aber wahrscheinlich schon.
• 1:01:26
  Linus Neumann: Und das ist auch glaube ich das, was der Dario von Anthropic so ein bisschen
• 1:01:32
  Linus Neumann: sagt, ja die Wahrscheinlichkeiten, die Wahrscheinlichkeit, das heißt ja immer
• 1:01:36
  Linus Neumann: noch, die größte Wahrscheinlichkeit ist ja immer noch, dass alles gut geht,
• 1:01:41
  Linus Neumann: aber gerät da auch ein bisschen ins Schwitzen.
• 1:01:45
  Tim Pritlove: Tja, die eigentliche Frage können wir gar nicht so richtig beantworten.
• 1:01:49
  Tim Pritlove: Werden wir alle sterben?
• 1:01:51
  Linus Neumann: Ja, wir werden alle sterben. Also diesen ganzen Longevity-Scheiß könnt ihr vergessen. Spätestens jetzt.
• 1:02:02
  Linus Neumann: Trink mal noch einen, wie heißt das hier, Ingwer-Smoothie oder sowas und dann,
• 1:02:09
  Linus Neumann: geht er früh schlafen, damit er keine Falten kriegt und dann,
• 1:02:13
  Linus Neumann: Werdet ihr schon sehen, was ihr davon habt.
• 1:02:16
  Tim Pritlove: Ja, haben wir alles dazu jetzt erstmal gesagt, was wir sagen wollten? Das ist ein bisschen...
• 1:02:22
  Linus Neumann: Wir werden jetzt natürlich ganz viele Kommentare wieder erhalten,
• 1:02:25
  Linus Neumann: dass wir in den AI, Overlord, Doomsdayer und sonst was Kanal geraten sind und wie unsinnig das ist,
• 1:02:37
  Linus Neumann: was sie da alle sagen.
• 1:02:39
  Linus Neumann: Deswegen würde ich schon nochmal gerne an das Zitat von Donald Trump gehen.
• 1:02:43
  Linus Neumann: Dem wurde ja gesagt, was hältst du davon, das zu begrenzen?
• 1:02:47
  Linus Neumann: Und dann hat er geantwortet, whoever wins AI, wins.
• 1:02:55
  Linus Neumann: Und ich glaube, da könnte man doch durchaus auch nochmal sich ein paar Gedanken dazu machen.
• 1:03:02
  Linus Neumann: Weil damit meint er ja im Prinzip, weniger,
• 1:03:08
  Linus Neumann: was weiß ich, den Wettkampf unbedingt jetzt zwischen Anthropic oder OpenAI oder
• 1:03:12
  Linus Neumann: wem auch immer, als wahrscheinlich den zwischen den USA und China.
• 1:03:18
  Linus Neumann: Weil wir so diese, den kriegerischen Teil, die die militärische gezielt nicht
• 1:03:27
  Linus Neumann: moralischen Prinzipien unterliegende Nutzung noch ein bisschen ausgeklammert hatten.
• 1:03:33
  Linus Neumann: Krieg ist ja eher dein Thema.
• 1:03:39
  Tim Pritlove: Ja, also ich meine, die Sichtweise gibt es und die ist in gewisser Hinsicht auch nachvollziehbar.
• 1:03:45
  Tim Pritlove: Ich meine, es ist nun mal wirklich eine Schlüsseltechnologie,
• 1:03:48
  Tim Pritlove: das lässt sich einfach nicht von der Hand weisen.
• 1:03:51
  Tim Pritlove: Ich weiß, es gibt auch viele Asketen, nicht nur im Softwarebereich,
• 1:03:55
  Tim Pritlove: sondern generell, die der Meinung sind, man müsste dieses Thema nur ausreichend
• 1:04:00
  Tim Pritlove: verschweigen, vermeiden und nichts davon benutzen, dann würde es schon irgendwie wieder,
• 1:04:05
  Tim Pritlove: weggehen und jeder, der das auch irgendwie nur anfasst oder sein Episodenbild
• 1:04:09
  Tim Pritlove: mit einem Bildgenerator,
• 1:04:11
  Tim Pritlove: generiert,
• 1:04:13
  Tim Pritlove: macht sich strafbar am Untergang der Menschheit.
• 1:04:19
  Tim Pritlove: Ja, kann man so sehen, aber halte ich wenig von, weil,
• 1:04:24
  Tim Pritlove: man muss sich halt jetzt schon mal auch damit auseinandersetzen,
• 1:04:27
  Tim Pritlove: weil wenn wir irgendeine Chance haben wollen, an diesem Diskurs in irgendeiner Form noch,
• 1:04:34
  Tim Pritlove: mitzuwirken, dann ist halt mal wieder ein tiefes Verständnis erforderlich und da hilft einfach,
• 1:04:41
  Tim Pritlove: eigene Erfahrung definitiv schon mal eine Menge.
• 1:04:45
  Tim Pritlove: Ja und am Ende hilft vielleicht auch KI, weil das ist halt nun mal.
• 1:04:51
  Tim Pritlove: Wir hatten das glaube ich auch schon mal, klingt ein bisschen einfach der Vergleich, aber,
• 1:04:57
  Tim Pritlove: ähnliches dachte man halt auch mit dem Rechnen und der Taschenrechner war dann
• 1:05:01
  Tim Pritlove: genauso so ein Teufelswerkzeug und der Computer dann natürlich auch auf jeden Fall.
• 1:05:06
  Tim Pritlove: Mittlerweile hat man sich daran gewöhnt, dass man eben Mathematik einfach mal
• 1:05:11
  Tim Pritlove: so absitzt. Man muss jetzt nicht unbedingt jedes Detail kennen,
• 1:05:14
  Tim Pritlove: wenn man da jetzt nicht gerade tiefes Verständnis sucht und forscht und so weiter.
• 1:05:20
  Tim Pritlove: Völlig okay ist, das zu machen. Nur, das ist halt etwas, wo man eben sieht,
• 1:05:26
  Tim Pritlove: wir können das eben mit Software besser machen und deswegen geschieht es halt auch einfach.
• 1:05:30
  Tim Pritlove: Und jetzt sind wir halt auf diesem nächsten Level, dass,
• 1:05:35
  Tim Pritlove: Bestimmte Dinge, von denen wir eben geglaubt haben, sie wäre bisher nur den
• 1:05:40
  Tim Pritlove: Hirnen vorbehalten, sich jetzt eben mit Software auch machen lassen und deswegen
• 1:05:45
  Tim Pritlove: werden sie auch getan werden.
• 1:05:48
  Tim Pritlove: Und da wird sehr viel Unfug bei rauskommen. Wir haben auch Gefährdungen,
• 1:05:54
  Tim Pritlove: aber auf der anderen Seite ist es auch ein Bereich, aus dem sehr viele positive
• 1:06:00
  Tim Pritlove: Entwicklungen kommen werden.
• 1:06:02
  Tim Pritlove: Es ist nicht nur so, dass AI uns alle umbringen wird, sondern es kann uns auch genauso gut retten.
• 1:06:06
  Linus Neumann: Einige von uns will es am Leben lassen. Für die ist es super.
• 1:06:11
  Linus Neumann: Freude, der muss auch mal gönnen können. Ja, kann ja nicht immer alles für alle sein.
• 1:06:15
  Tim Pritlove: Keine Ahnung, welche Krankheiten ich vielleicht noch entwickeln werde in Zukunft,
• 1:06:20
  Tim Pritlove: für die es dann auch durch solche Technologien...
• 1:06:24
  Linus Neumann: Für die anderen Leute eine Heilung haben.
• 1:06:26
  Tim Pritlove: Ja, ist ja... Ich will jetzt nichts vorhersagen, was passiert,
• 1:06:31
  Tim Pritlove: aber ich halte das alles für sehr gut möglich, weil das, was es eben braucht,
• 1:06:37
  Tim Pritlove: im Forschungsbereich, nämlich viele Daten miteinander zu vergleichen und daraus
• 1:06:41
  Tim Pritlove: Schlüsse zu ziehen, das ist nun mal etwas, was man eben mit diesen Werkzeugen gut machen kann.
• 1:06:46
  Tim Pritlove: Dass es nicht immer alles richtig sein wird und dass es einen natürlich auch
• 1:06:49
  Tim Pritlove: in die Sackgasse führen kann, vollkommen klar und dass auch Leute damit irgendwie
• 1:06:54
  Tim Pritlove: dann einen biologischen Krieg planen wollen,
• 1:06:57
  Tim Pritlove: ja auch, es ist halt all of the above und damit müssen wir irgendwie klarkommen.
• 1:07:01
  Tim Pritlove: Deswegen müssen wir uns damit auseinandersetzen und diese Diskussion am Leben
• 1:07:05
  Tim Pritlove: erhalten. Das ist eigentlich auch so das, was wir jetzt eigentlich hier mit
• 1:07:07
  Tim Pritlove: diesem Segment so ein bisschen tun wollen. Haben wir schon ein paar Mal gemacht,
• 1:07:11
  Tim Pritlove: aber hilft natürlich, denke ich, auch das weiterhin zu tun.
• 1:07:17
  Linus Neumann: Ich,
• 1:07:20
  Linus Neumann: Es ist, ich hoffe, dass jetzt, also ich hoffe, dass diejenigen,
• 1:07:24
  Linus Neumann: die dann am Ende wütende Kommentare schreiben, das will ich so ein bisschen
• 1:07:27
  Linus Neumann: mal zu Ende gehört haben, was wir hier sagen.
• 1:07:32
  Linus Neumann: Ich würde sehr gerne noch so ein bisschen darauf, also ich, wir haben jetzt
• 1:07:38
  Linus Neumann: mal diesen, wovor waren die Leute, was ist der schlechte Pfadteil erklärt?
• 1:07:44
  Linus Neumann: Oder ein bisschen beleuchtet, was heißt erklärt?
• 1:07:47
  Linus Neumann: Wie du aber gerade auch schon saß, es gibt eine ganze ganze Menge an guten Dingen,
• 1:07:54
  Linus Neumann: die man damit machen könnte.
• 1:07:57
  Linus Neumann: Und es besteht natürlich auch Hoffnung, dass man diese guten Dinge macht.
• 1:08:02
  Linus Neumann: Und ich würde insgesamt auch denken, bisher haben wir als Menschheit meistens,
• 1:08:13
  Linus Neumann: die Kurve gekriegt, uns nicht auszulöschen, nicht vollständig, ja.
• 1:08:19
  Linus Neumann: Immer nur so massenhafte Morde an bestimmten Bevölkerungsgruppen.
• 1:08:25
  Linus Neumann: Die kamen aber von uns, die kamen von den Menschen.
• 1:08:31
  Linus Neumann: Vielleicht kommen wir irgendwann dann doch, vielleicht ist das die Utopie,
• 1:08:34
  Linus Neumann: die hier dann ins Haus steht, dass wir dann irgendwann uns doch alle erkennen,
• 1:08:38
  Linus Neumann: dass der wahre Feind woanders ist und wir unsere Brüder und Schwestern,
• 1:08:45
  Linus Neumann: von anderen Kontinenten mit anderen Hautfarben oder auch einfach nur von nebenan,
• 1:08:51
  Linus Neumann: als Verbündete sehen sollten.
• 1:08:53
  Linus Neumann: Aber dass hier diese Warnungen oder diese Doomsday-Szenarien bei dieser Technologie
• 1:09:01
  Linus Neumann: auch diskutiert werden, ist sicherlich im weitesten Sinne sinnvoll.
• 1:09:08
  Linus Neumann: Also, dass man sich darüber Gedanken macht.
• 1:09:12
  Linus Neumann: Aber eben mit einem klaren Kopf. Und da stören mich einige Aufarbeitungen, die dann eben sehr,
• 1:09:24
  Linus Neumann: dramatisierend sind oder sehr,
• 1:09:28
  Linus Neumann: herunterspielend. Die gehören einfach zu dem Spektrum.
• 1:09:33
  Linus Neumann: Keiner von beiden würde ich jetzt notwendigerweise mich verschreiben. Was meinst du?
• 1:09:40
  Tim Pritlove: Ich muss es für mich nochmal kurz wiederholen, bevor ich qualifiziert...
• 1:09:44
  Linus Neumann: Also meine Frage an dich, Tim, ist, wo siehst du dich in fünf Jahren?
• 1:09:47
  Linus Neumann: Siehst du dich in fünf Jahren? Siehst du dich in fünf Jahren?
• 1:09:54
  Tim Pritlove: Wenn ich jetzt sage, dass ich daran glaube, dass in fünf Jahren noch alles gut
• 1:09:58
  Tim Pritlove: ist, glaubt mir doch eh wieder keiner.
• 1:10:01
  Tim Pritlove: Aber ich meine, goldenen Zwanziger sind dann auf jeden Fall durch.
• 1:10:04
  Linus Neumann: Also dann ist, dann liegt alles auf dem Tisch, Tim.
• 1:10:08
  Tim Pritlove: Ja.
• 1:10:10
  Linus Neumann: Dann wird,
• 1:10:12
  Linus Neumann: Dann ist Judgment Day, was ja übrigens der Titel von Zeit und Terminator Film ist.
• 1:10:24
  Linus Neumann: Gut.
• 1:10:25
  Tim Pritlove: Anschließend an diese Diskussion wollen wir auch mit einem neuen Ding,
• 1:10:33
  Tim Pritlove: was wir uns ausgedacht haben,
• 1:10:37
  Tim Pritlove: gerade weil das manchmal auch so schwierig ist, da so die richtige Linie zu finden.
• 1:10:43
  Tim Pritlove: Da muss man dann auch einfach mal so ein bisschen zurückfragen.
• 1:10:47
  Tim Pritlove: Und das wollen wir tun mit einem neuen Format, über das wir nachgedacht haben.
• 1:10:54
  Tim Pritlove: Und das ist kein Format, was ihr euch herunterladen könnt, sondern das ist ein
• 1:10:58
  Tim Pritlove: Format, an dem ihr teilnehmen könnt.
• 1:11:01
  Tim Pritlove: Allerdings nur ein paar von euch.
• 1:11:04
  Tim Pritlove: Weil wir das in einem sehr kleinen Rahmen platen. Und das haben wir genannt,
• 1:11:09
  Tim Pritlove: den Logbuch Netzpolitik Salon.
• 1:11:12
  Linus Neumann: Sprich, sprich, sprich. Spannend, ich will jetzt... Wann, wo, wie?
• 1:11:18
  Tim Pritlove: Genau.
• 1:11:21
  Tim Pritlove: Der Salon ist ein Treffen, wo wir uns mit euch treffen wollen.
• 1:11:26
  Tim Pritlove: Und das machen wir in Berlin, und zwar am 11.
• 1:11:32
  Tim Pritlove: Oktober dieses Jahres, also bald.
• 1:11:37
  Tim Pritlove: Und dort möchten wir, also wir werden da keine Sendungen aufnehmen, da wird auch,
• 1:11:44
  Tim Pritlove: nichts aufgezeichnet, nichts gestreamt, sondern es soll einfach ein Treffen
• 1:11:49
  Tim Pritlove: werden, aber jetzt in dem Sinne auch kein Hörertreffen, sondern wir möchten
• 1:11:53
  Tim Pritlove: gerne dort in die Diskussion kommen mit euch.
• 1:11:57
  Tim Pritlove: Und das heißt, es wendet sich jetzt an Leute, die nicht nur zuhören wollen,
• 1:12:02
  Tim Pritlove: sondern die vielleicht auch,
• 1:12:04
  Tim Pritlove: sagen wir mal, konkrete Fragen haben oder Redebeiträge haben,
• 1:12:08
  Tim Pritlove: zu den Themen, die wir hier normalerweise behandeln oder vielleicht behandeln sollten.
• 1:12:16
  Tim Pritlove: Sag mal wo.
• 1:12:17
  Linus Neumann: In der Äh-Stube in Neukölln, in der,
• 1:12:26
  Linus Neumann: müsste Fulda-Straße sein.
• 1:12:27
  Tim Pritlove: Wenn ich mich nicht täusche.
• 1:12:29
  Linus Neumann: Das ist eine relativ kleine, sehr gemütliche Kneipe, hat einen schönen Kamin.
• 1:12:38
  Linus Neumann: Vielleicht ist der an, wenn es da kalt ist, ist ja Oktober.
• 1:12:42
  Linus Neumann: Hat eine Bar, hat eine Toilette und insgesamt einfach eine ganz nette heimelige Atmosphäre.
• 1:12:50
  Linus Neumann: Weil das, und wir haben es auch extra gewählt, weil es klein ist,
• 1:12:55
  Linus Neumann: weil wenn wir jetzt eine Großveranstaltung machen würden, dann kann man ja auch nicht ins Gespräch,
• 1:13:00
  Linus Neumann: Aber wir werden deshalb auch quasi eine Art Vorverkauf machen,
• 1:13:06
  Linus Neumann: einfach um sicherzustellen, dass da nicht am Ende viel zu viele Leute vor der Tür stehen.
• 1:13:15
  Linus Neumann: Es ist also eher so ein bisschen Crowd-Control,
• 1:13:21
  Linus Neumann: und auch die Möglichkeit für euch zu wissen, sicher zu wissen,
• 1:13:26
  Linus Neumann: dass ihr da dann auch hin und rein kommt.
• 1:13:30
  Linus Neumann: Diesen Vorverkauf werden wir zeitnah launchen.
• 1:13:34
  Linus Neumann: Es geht jetzt auch nicht um das große Geld. Es geht einfach eher um so ein Commitment.
• 1:13:37
  Linus Neumann: Ja, okay, ich habe ein Ticket gekauft.
• 1:13:39
  Linus Neumann: Wenn ich das jetzt nicht in Anspruch nehme, gebe ich es weiter und so weiter.
• 1:13:44
  Linus Neumann: Wenn ihr jetzt irgendwie plant, von weit her anzureisen, würde ich vielleicht
• 1:13:48
  Linus Neumann: bei der ersten Iteration nicht notwendigerweise euch das nahelegen.
• 1:13:53
  Linus Neumann: Das ist ein Sonntag, später Nachmittag, Abend.
• 1:14:00
  Linus Neumann: Und es ist auch ein Testballon. Wir gucken mal, wie das so läuft.
• 1:14:02
  Linus Neumann: Wir gucken mal, wie das klappt, was sich da findet.
• 1:14:05
  Linus Neumann: Wir haben aber durchaus vor, das oder ähnliche oder andere Formate ein bisschen
• 1:14:11
  Linus Neumann: regelmäßiger zu machen im kleinen Kreise und so ein bisschen,
• 1:14:20
  Linus Neumann: diese Sprechschuld abzubauen. Wir haben hier viel geredet und man soll ja auch mal zuhören.
• 1:14:26
  Linus Neumann: Und wir sind an diesem Austausch sehr interessiert.
• 1:14:33
  Linus Neumann: Genau, also könnt ihr euch das mal in den Kalender markieren. Neukölln, Ässtube, 11.
• 1:14:39
  Linus Neumann: Oktober, irgendwie so auf einen späten Nachmittag, Frühjahr,
• 1:14:42
  Linus Neumann: Abend und wir werden dann in den nächsten Sendungen hier weitere Informationen dazu geben.
• 1:14:49
  Tim Pritlove: Genau.
• 1:14:50
  Linus Neumann: In der Woche davor ist auch noch ein kleiner Termin.
• 1:14:54
  Linus Neumann: Den haben wir, glaube ich, auch noch nicht angekündigt. Das sind die D-Days Hamburg 2026.
• 1:15:03
  Linus Neumann: Und zwar ist ja der DIT auf dem CCC-Kongress letztes Jahr,
• 1:15:11
  Linus Neumann: ausgerufen worden. Wir haben ja wirklich.
• 1:15:17
  Linus Neumann: Eine irre Verbreitung dieser Events überall, auch über Deutschland hinaus, in Europa gesehen.
• 1:15:27
  Linus Neumann: Und der Hamburger CCC, der CCC-HH, macht jetzt zusammen mit der Wauholland-Stiftung vom 2.
• 1:15:35
  Linus Neumann: Bis 4. Oktober zusammen mit Hamburger Stadtteil-Initiativen,
• 1:15:41
  Linus Neumann: Hacker und Makerspaces und anderen zivilgesellschaftlichen Organisationen,
• 1:15:46
  Linus Neumann: die ersten Digital Independence Days in Hamburg.
• 1:15:50
  Linus Neumann: Der 4. Oktober ist ja wieder ein DIT. Das ist ja der Sonntag,
• 1:15:54
  Linus Neumann: der erste Sonntag im Monat.
• 1:15:56
  Linus Neumann: Und dann geht es aber dann schon am Freitag um 16 Uhr los. Samstag ist von 12
• 1:15:59
  Linus Neumann: bis 21 Uhr Programm und Sonntag von 12 bis 17 Uhr.
• 1:16:03
  Linus Neumann: Halt mal einfach ein bisschen größeres,
• 1:16:07
  Linus Neumann: oder ein bisschen ausgeprägteres Zusammentreffen zu diesen Themen.
• 1:16:13
  Linus Neumann: Mit dem Ziel, Kompetenz, Mündigkeit im Umgang mit moderner Technik zu vermitteln.
• 1:16:19
  Linus Neumann: Und das finde ich ganz schön.
• 1:16:23
  Linus Neumann: Und da glaube ich, wenn ihr in der Region beheimatet seid oder da für dieses
• 1:16:29
  Linus Neumann: Event anreisen wollt, ist das sicherlich eine tolle Gelegenheit.
• 1:16:33
  Tim Pritlove: Alright, das war es dann auch für uns.
• 1:16:36
  Linus Neumann: Wir sollten uns ja auf den Zusammenbruch vorbereiten und da könnt ihr schon mal.
• 1:16:44
  Tim Pritlove: Exiting on a high note, mein Freund.
• 1:16:46
  Linus Neumann: Achso.
• 1:16:50
  Tim Pritlove: Wird schon alles gut werden. Bestimmt.
• 1:16:53
  Linus Neumann: Es hätten ja alles hier heute gegangen.
• 1:16:57
  Tim Pritlove: Okay, Leute, das war's von uns.
• 1:16:59
  Linus Neumann: Nächste Sendung dann gute Nachrichten.
• 1:17:00
  Tim Pritlove: Echt?
• 1:17:02
  Linus Neumann: Ja, kennst du, das hängt doch auch so in vielen Kneipen. Freiwill ist alle oder
• 1:17:06
  Linus Neumann: freiwillig morgen wieder oder so.
• 1:17:10
  Tim Pritlove: Mal gucken, ob das nicht wieder eine leere Versprechung ist.
• 1:17:13
  Tim Pritlove: Tschüss, Leute. Bis bald.
• 1:17:15
  Linus Neumann: Ciao, ciao.