Latest / Ausgeglaubt: ein RefLab-Podcast / Die grosse Angst vor der KI

Transcript

Die grosse Angst vor der KI · Ausgeglaubt: ein RefLab-Podcast

• 0:00
  Speaker 0: Der CEO des KI-Unternehmens Entropic hat vor wenigen Tagen gefordert, die Entwicklung von künstlichen Intelligenzsystemen zu verlangsamen.
• 0:10
  Speaker 0: Und seine rivalen von OpenAI, Sam Altman sowie Elon Musk und andere KI-Konzernchefs haben ihm zugestimmt in dieser Forderung weil sie die Sorge teilen das KI zunehmend unkontrollierbar werden und zur Bedrohung für die Menschheit werden könnte.
• 0:31
  Speaker 0: Ich spreche mit Stefan in dieser Folge von Ausgeglaubt über diese Ängste auch über ganz konkrete Gefahren, die drohen beim Einsatz von künstlicher Intelligenz in der Arbeitswelt, auch in der Welt von News- und Videos, die gefaked werden können – auch im militärischen Einsatz!
• 0:52
  Speaker 0: Und wir fragen uns wie steht es um unsere Angstskala im Blick auf künstliche Intelligenz und welche Möglichkeiten zur Einwirkung, zur Gestaltung dieses neuen digitalen Zeitalters haben wir noch.
• 1:29
  Speaker 1: Herzlich willkommen bei AusGeglaubt.
• 1:31
  Speaker 1: Wir widmen uns heute einem brandaktuellen Thema und es geht um die große Angst vor KI, wer hat Angst vor der KI?
• 1:41
  Speaker 1: Und wie viel und wer schon nicht!
• 1:45
  Speaker 1: Das wird heute unser Thema sein aber vorher haben wir noch ein paar Ankündigungen.
• 1:53
  Speaker 1: Pause machen und zwar weil wir in den Herbstferien sind.
• 1:56
  Speaker 1: Manu, wo geht's hin?
• 1:58
  Speaker 0: Nach Südfrankreich eine Woche.
• 2:00
  Speaker 0: Du bist ja länger weg eigentlich als ich.
• 2:03
  Speaker 0: Ich habe nach der Südfrankreichwoche noch einen Rom-Trip vor mir allerdings nicht Ferienhalber sondern im Auftrag des Herrn gehe ich da an die Waldenser Fakultät.
• 2:16
  Speaker 0: Ich spreche dort auch über KI, wie
• 2:19
  Speaker 0: z.B.,
• 2:20
  Speaker 0: in eingeladen da etwas zur ethischen, theologischen ... Beurteilung oder Einschätzung von KI und ihren Potenzialen und Risiken zu sagen.
• 2:31
  Speaker 0: Da freue ich mich sehr drauf, vor allem weil ich noch gar nicht in Rom war... ...und du ja so als Romeliebhaber.
• 2:37
  Speaker 1: Ist das so schade dass du das erste Mal Rom ohne mich hast?
• 2:41
  Speaker 0: Ja eigentlich habe ich nämlich... Ich
• 2:42
  Speaker 1: hätte es so gerne gesehen wie deine Augen groß
• 2:44
  Speaker 0: waren, wie du
• 2:45
  Speaker 1: Freude hast die Straße.
• 2:46
  Speaker 0: Und wir haben das auch schon öfter angedacht, dass sie eigentlich zusammen mal dorthin gehen.
• 2:50
  Speaker 0: Das können wir immer noch machen.
• 2:51
  Speaker 0: dann kannst du mir die besten Restaurants und was auch immer die Hotspots von Rom abschreiten ist.
• 2:57
  Speaker 0: Da
• 2:58
  Speaker 1: müssen wir dann unbedingt Franzi auch mitnehmen!
• 3:01
  Speaker 1: Wichtig ist aber, ihr hört uns nicht in zwei Wochen wieder sondern in zwei wochen und einem Tag.
• 3:09
  Speaker 0: Ja genau weil wir
• 3:10
  Speaker 1: kommen nämlich neu nach den Herbstferien nicht mehr am Mittwoch sondern immer am Donnerstag raus.
• 3:18
  Speaker 0: Genau, da wurden bei RefLab verschiedene Podcasts verschoben und es gibt das auch die Möglichkeit.
• 3:26
  Speaker 0: einen Tag mehr Zeit zu haben, um die Aufnahmen hinzukriegen.
• 3:30
  Speaker 0: Das ist auch eine Entlastung und wir hoffen natürlich dass nicht für allzu viele Hörerinnen und Hörern jetzt der Wochenrhythmus komplett auseinander fällt weil sie immer am Mittwoch im Fitness ausgeglaubt hören und jetzt quasi oder jetzt
• 3:45
  Speaker 1: wird Donnerstag zum Wäschetag
• 3:49
  Speaker 0: verklagen, weil ihre körperliche Erdüchtigung leidet durch die Verschiebung.
• 3:55
  Speaker 0: Aber ja wir werden weiterhin wöchentlich Aufnehmen, aber Veröffentlichung des Podcasts ist von jetzt an Donnerstag.
• 4:06
  Speaker 1: Genau Mannu und jetzt muss ich dich an was erinnern?
• 4:08
  Speaker 1: Du wolltest noch Werbung machen!
• 4:10
  Speaker 0: Unbedingt unbedingt.
• 4:12
  Speaker 0: wir sprechen ja heute auch über KI und das ist ja nicht nur ein Trendthema sondern wirklich eine... Ich würde sagen disruptive Veränderung oder Entwicklung in unserer Gesellschaft.
• 4:27
  Speaker 0: Und wir werden eine Fachtagung durchführen vom KTE aus, vom Kompetenzzentrum Theologie und Ethik das ich hier im Haus leite.
• 4:38
  Speaker 0: Wir haben die Tagung mit langer Hand vorbereitet und organisiert.
• 4:42
  Speaker 0: Das war quasi mein erstes Projekt als ich hier in Januar angefangen habe und wir haben richtig tolle Gastrainerinnen Gasträdner eingeladen.
• 4:53
  Speaker 0: Es gibt ein Keynote-Referat von Sarah Spiekermann und von Thilo Stadelmann am Vormittag, und am Nachmittag gibt es sieben verschiedene Workshops zu ganz... praktischen Fragen der KI-Anwendung als auch zu mehr theologischen, theoretischen Metareflexiven Themen rund um KI.
• 5:16
  Speaker 0: Was macht KI mit unserem Menschenbild?
• 5:18
  Speaker 0: Mit unserem Gottesbild und so weiter.
• 5:20
  Speaker 0: also herzliche Einladungen an alle die in erreichbarer Nähe sind.
• 5:25
  Speaker 0: Die Tagung findet in Zürich statt am zwanzigsten Oktober.
• 5:30
  Speaker 0: das ist ein Dienstag.
• 5:32
  Speaker 0: Also wenn es euch möglich ist, da einen freien Tag einzugeben.
• 5:40
  Speaker 0: Dann lohnt sich das auf jeden Fall und ich würde mich natürlich sehr freuen wenn eine ganze Reihe von Teilnehmenden auch am ausgeglaubt Hörerinnen und Hörern sind.
• 5:53
  Speaker 1: Wir könnten jetzt zum Beispiel alle einfach rote Socken tragen, dann würde man merken wer herausgekommt.
• 5:58
  Speaker 1: Ja genau!
• 6:00
  Speaker 0: Nur so viel noch.
• 6:01
  Speaker 0: wir werden.
• 6:02
  Speaker 0: in der Episodenbeschreibung werden wir den Link auch zur Tagungsprogramm und zur Anmelde Seite einfügen.
• 6:10
  Speaker 0: die Tagung heißt Ghost In The Machine kirchliche Verantwortung und Gestaltungschancen im Zeitalter der künstlichen Und eigentlich sind wir damit schon sehr nah an unserem heutigen Thema dran.
• 6:26
  Speaker 0: Die Zuhörerinnen und Hörereaktionen lassen wir für diesmal aus, zugunsten dieser beiden Ankündigungen.
• 6:35
  Speaker 0: Stefan du hast das Thema schon genannt – wer die große Angst vor der KI haben jetzt genannt?
• 6:42
  Speaker 0: Genau!
• 6:44
  Speaker 1: Am zwölften September, als sich Dario Amodei von Entropix gemeldet hat.
• 6:51
  Speaker 1: Also wenn Entropics nicht kennt vielleicht kennt ihr Claude das ist dieses LLM was wahnsinnig beliebt auch ist und er hat gesagt hey wir müssen dass mit dieser Entwicklungsgrenze die wir ständig gegen oben verschieben dringend verlangsamen.
• 7:08
  Speaker 1: Das geht zu schnell.
• 7:09
  Speaker 1: es gibt mittlerweile generative KI die so dermaßen leistungsfähig ist, dass sie sich selbst trainiert und verbessern kann.
• 7:20
  Speaker 1: Und das entgleitet uns langsam aber sicher.
• 7:25
  Speaker 1: Es ist ja nicht der Einzige, der davor gewarnt hat.
• 7:28
  Speaker 1: schon lange haben Elon Musk, Sam Altman gesagt hey vielleicht wir es mal Zeit für einen Entwicklungsstopp?
• 7:35
  Speaker 1: Das geht alles doch ziemlich rasch!
• 7:37
  Speaker 1: Der Grund liegt eben nicht einfach darin dass viele Forscherinnen und Forscher wahnsinnig schnelle Fortschritte machen, sondern dass die KI mittlerweile in der Lage ist selbst neue LLAMS quasi zu erzeugen.
• 7:52
  Speaker 1: Also Large Language Models ohne dass sie dafür eine Anleitung oder eine Überwachung oder ein spezielles Training braucht, sondern die Leistungsfähigkeit liegt gerade darin.
• 8:05
  Speaker 1: Dass Sie sich eigentlich – würde man in der Biologie sagen – selbst reproduzieren kann!
• 8:11
  Speaker 0: Und es gab ja einige Geschichten, die auch Schlagzeilen gemacht haben in denen neue KI-Modelle Sicherheitslücken ausgenutzt haben und quasi aus dem Labor entkommen sind.
• 8:27
  Speaker 0: Dieser bekannte Vorfall bei OpenAI wo die KI... Es hat sich dann herausgestellt dass sie dazu auch angewiesen wurde von den Entwicklern einen Weg aus dem Labort zu finden.
• 8:41
  Speaker 0: von daher ist es nicht ganz so, wie soll ich sagen?
• 8:44
  Speaker 0: Nicht ganz so erstaunlich oder skandalös dass das dann tatsächlich gelungen ist.
• 8:49
  Speaker 0: Aber doch die haben eigentlich eine abgeschirmte Arbeitsumgebung gemacht für dieses KI-Modell und dieses... Wie
• 8:55
  Speaker 1: dieses KI Modell dann auch verlassen sollte!
• 8:57
  Speaker 0: Genau, dies aber wirklich hat einen quasi einen Schlupfweg gefunden aus diesem System heraus Klodmodell auf den Markt gebracht, dieses Fable das dann wieder zurückgezogen werden musste auch auf Anweisung der amerikanischen Regierung weil es gerade im Bereich von Coding und von Sicherheitsarchitektur durchschauen so ausgeklügelt war dass man damit verschiedene Websites hacken konnte oder sich Zugang verschaffen konnte zu Sicherheitssystemen.
• 9:40
  Speaker 0: Das ist eines der ganz virulenten Probleme im Moment, dass die Entwicklung der KI schneller voranschreitet wie die Entwicklung des Sicherungssystems, die hinter allen möglichen Websites und Portalen und Zugängen usw.
• 9:56
  Speaker 0: stehen.".
• 9:57
  Speaker 1: ist die eigentlich ein ziemlich altes Problem, dass das so läuft.
• 9:59
  Speaker 1: Aber warte mal noch kurz bevor wir jetzt auf die konkreten Sicherheitsbedenken also auf das was uns Angst machen könnte eingehen.
• 10:09
  Speaker 1: lasst uns vielleicht ja bisschen anders mal einsteigen.
• 10:12
  Speaker 1: ich habe Jan Blockbeitrag geschrieben auch zum Thema das wird gewarnt werden und dass wir vielleicht Angst haben Da gemerkt, wir haben quasi so drei bis vier ganz unterschiedliche Haltungen wie wir mit KI im Moment umgehen.
• 10:28
  Speaker 1: Was für unser Verhältnis dazu bestimmt?
• 10:30
  Speaker 1: Es gibt die Gruppe der Warner, die sagen hey Leute jetzt brauchen wir eine Pause.
• 10:36
  Speaker 1: in zehn Jahren könnten wir alle tot sein.
• 10:38
  Speaker 1: das könnte quasi die nächste Evolutionsstufe sein.
• 10:42
  Speaker 1: kann gut passieren dass uns das auslöschen wird oder mindestens so weit.
• 10:47
  Speaker 1: wir verstehen nicht mehr, welche Prozesse dahinter ablaufen.
• 10:51
  Speaker 1: Passt auf!
• 10:52
  Speaker 1: Es braucht jetzt einen Stopp.
• 10:54
  Speaker 1: Besonders beunruhigend ist es die Gruppe der Warner zu einem ganz großen Teil aus den Entwickler selbst besteht.
• 11:02
  Speaker 1: Also sind eben prominente Entwickler, die zu den Warnangehörnissen sogar die prominenten Köpfe, die hinter diesen LLAMS stehen.
• 11:12
  Speaker 1: Die wir nutzen, die diese Warnungen aussprechen und das gibt dem Ganzen natürlich nochmal ein ganz anderes Gewicht und auch eine Trinnlichkeit.
• 11:21
  Speaker 1: Und dann gibt es auf der ganz anderen Seite des Spektrums so die Leute, die in einer großen KI euphorie sind.
• 11:29
  Speaker 1: Das reicht so von.
• 11:30
  Speaker 1: es ist gar nicht mehr schwierig Sitzungsprotokolle zu schreiben biszu KI wird sämtliche Ressourcenprobleme und Nachhaltigkeitsproblemen, die wir auf der Welt haben lösen.
• 11:43
  Speaker 1: Es steht kurz bevor das hier ein Paradies entsteht indem wir alle in Wohlstandssicherheit und ganz ökologisch nachhaltig leben werden.
• 11:55
  Speaker 0: Und Gesundheit, ja.
• 11:56
  Speaker 0: Also viele
• 11:57
  Speaker 1: Hoffnungen mit KI sind ganz
• 11:58
  Speaker 0: wichtig auch auf die Überwindung von Krankheiten, weil die KI Datenmengen und Geninformationen so verarbeiten kann oder analysieren kann wie das bisher mit Manpower gar nicht möglich war.
• 12:13
  Speaker 1: Vielleicht der größte Teil bewegt sich irgendwo zwischen diesen beiden Bohlen?
• 12:17
  Speaker 1: Dass man so ein bisschen Hoffnung hat seit es jetzt auf Arbeitserleichtungen ein bisschen Angst hat vielleicht einen Job zu verlieren dass vielleicht ein bisschen übertrieben findet und sich denkt, ja es ist vielleicht auch einfach ein Marketing Gag jetzt vor der Gefahr dieser KI zu wahren.
• 12:33
  Speaker 1: Damit sagt man ja immer, dass sie ungeheuer potent ist, das sie was kann.
• 12:37
  Speaker 1: Und ich glaube irgendwo da drin verorten sich die allermeisten Menschen, die schon mal etwas davon gehört haben und es ist echt schwer nichts davon gehört zu haben.
• 12:47
  Speaker 1: Manu jetzt mal... Nicht aus der Perspektive, weißt du das Ethikers?
• 12:52
  Speaker 1: Der sich damit beschäftigt.
• 12:53
  Speaker 1: Sondern Du als Person!
• 12:56
  Speaker 1: Wo würdest Du sagen, stehst Du bei diesen Dreifeldern?
• 12:59
  Speaker 1: Eins zwei oder
• 13:00
  Speaker 1: drei?!
• 13:03
  Speaker 0: Ich bin ein sehr neugieriger Mensch und ich war... ...als die ersten LMS auf den Markt kamen und ChatGPT allgemein zugänglich wurde.
• 13:13
  Speaker 0: Ich war sehr schnell, sehr begeistert von den Möglichkeiten immer mal wieder richtig enttusiastisch wahrgenommen, was mit KI alles möglich wurde.
• 13:26
  Speaker 0: Ich war ein früher Nutzer von Mitjourney, von diesem Bildgenerationsprogramm oder Plattform und habe da hunderte von Bildern erstellt und war wirklich hin- und weg von den Möglichkeiten.
• 13:40
  Speaker 0: Und ich muss sagen, bis heute kann ich meine Begeisterung über die Leistungsfähigkeit von KI Modellen und Systemen schlecht verbergen und schlecht unterdrücken.
• 13:53
  Speaker 0: also ich finde es schon phänomenal was da möglich geworden ist Und hab auch jetzt eben von meiner Art her, habe ich hier einen sehr neugierigen explorativen Zugang und denke immer zuerst mal probieren wir das mal ausschauen was möglich ist.
• 14:10
  Speaker 0: Gleichzeitig sind mir natürlich Die Gefahren des Missbrauchs auch bewusst.
• 14:16
  Speaker 0: Und da habe ich ja schon darüber geschrieben und nachgedacht, wir haben ja zehn Leitlinien zum Umgang mit KI entwickelt die jetzt kumänisch mit der Unterstützung wirklich der großen Kirchen in der Schweiz.
• 14:31
  Speaker 0: Die Katholiken sind dabei, die Christkatholiken, die Freikirchen sind mit dabei die das Papier unterstützen Leitlinien zu einem ethischen Umgang mit KI.
• 14:43
  Speaker 0: In diesen Leitlinen habe ich versucht immer beides deutlichzumachen, einerseits das Potenzial dass in der Nutzung von KI steckt in allen möglichen Lebens- und Anwendungsbereichen und andererseits schon auch die Gefahren die damit einhergehen.
• 15:00
  Speaker 0: Wir werden darauf wahrscheinlich noch zu sprechen kommen, meine Angst im Blick auf die KI beziehen sich allerdings sehr viel stärker oder fast exklusiv.
• 15:11
  Speaker 0: Auf den Missbrauch der KI in falschen menschlichen Händen, auf die Machtkonzentration, die mit KI-Konzernen einhergeht und praktisch gar nicht auf dem Terminator-Szenario das jetzt die KI, die Kontrolle übernimmt und die Auslöschung der Menschen plant.
• 15:32
  Speaker 0: Ich weiß nicht wie realistisch dieses Szenario wirklich ist!
• 15:37
  Speaker 0: Und ich befürchte dass der Mensch sich selber unter Verwendung der KI viel mehr zur Gefahr oder viel unmittelbarer zur Gefahre werden kann als eine entfesselte KI-Sache... Ja
• 15:48
  Speaker 1: aber man, das finde ich jetzt noch spannend.
• 15:51
  Speaker 1: Damit sagst du eigentlich nur naja dir macht NICHT Das generative Moment per se bei der KI.
• 15:58
  Speaker 1: Dass die sich selbst trainieren und entwickeln kann, sagen wir mal so.
• 16:02
  Speaker 1: Wirklich Angst?
• 16:04
  Speaker 1: Sondern ihr macht Angst was Menschen mit diesen Möglichkeiten tun.
• 16:08
  Speaker 1: Könnte man ja sagen in dem Sinne sind auch Atombomben nicht besonders gefährlich.
• 16:14
  Speaker 1: also wenn kein Mensch sie abwirft und zündet dann sind die eigentlich ganz harmlos.
• 16:22
  Speaker 0: Der Vergleich hinkt natürlich insofern als Atom, also es eigentlich... keinen konstruktiven, produktiven lebensförderlichen Anwendungsfall von Atombomben gibt.
• 16:35
  Speaker 0: Es gibt aber sehr viele konstruktive lebens förderliche Anwendungspfälle für KI.
• 16:41
  Speaker 0: Also das ist ... Okay,
• 16:42
  Speaker 1: aber dann nehmen wir Hand-Atomtechnologie oder?
• 16:45
  Speaker 1: Dann kann man sagen Atomkraftwerke.
• 16:47
  Speaker 1: Superanwendungsvall, oder?
• 16:49
  Speaker 1: Inwiefern Strom?
• 16:50
  Speaker 1: praktisch ohne ... dass wir damit einen CO²-Fußabdruck produzieren, ganz schrecklicher Anwendungsanfall wäre dann Hiroshima.
• 17:00
  Speaker 1: Ja
• 17:00
  Speaker 0: genau!
• 17:02
  Speaker 1: Aber der Unterschied ist ja nur die Frage was tut der Mensch damit?
• 17:05
  Speaker 1: Und würdest du sagen KI ist auch ein Problem auf dieser Ebene?
• 17:09
  Speaker 0: Absolut würde ich sagen KI lässt sich nicht ernsthaft die These vertreten das künstliche Intelligenz oder diese Modelle die jetzt entwickelt werden in rein niederträchtiger, lebensfeindlicher Absicht entwickelt werden.
• 17:25
  Speaker 0: Da ist ein Potenzial im ganz vielerlei Hinsicht... drin das Leben von Menschen zu erleichtern und sogar Probleme zu lösen, die man bisher nicht lösen konnte.
• 17:37
  Speaker 0: Aber mit der Leistungsfähigkeit dieser KIs – wenn du sagst generative KI-Modelle natürlich mit dieser exponentiellen Entwicklung, die darauf hinsteuert dass KI-Systeme sich selbst verbessern und dann quasi iterativ ... eine Explosion, Entwicklungsexplosion.
• 18:02
  Speaker 0: Damit gehen natürlich auch Missbrauchspotenziale einig.
• 18:05
  Speaker 0: Ja schon einigen.
• 18:06
  Speaker 1: Ich frage nur deswegen so penetrant nach weil ich gerade letzte Woche bei Baywatch Berlin reingehört habe und die haben wirklich so über die Techapokalypse gesprochen in der normalen witzig flapsigen Art.
• 18:23
  Speaker 1: aber diese Angst ist eine andere.
• 18:24
  Speaker 1: dort geht es nicht darum dass jemand KI-Technologien einsetzt und zum Beispiel Waffen zu produzieren oder waffen zu lenken.
• 18:33
  Speaker 1: Sondern.
• 18:33
  Speaker 1: da geht es darum, dass KI-Tools ein Eigenleben entwickeln könnten sich verbünden können zusammen Strategie in sich ausdenken könnten um dann quasi die Herrschaft zu gewinnen den Menschen zu knechten etc.
• 18:50
  Speaker 1: Aber ist schon mal gut zu hören du Hast jetzt deine Befürchtungen mal nicht auf dieser Seite, sondern eher bei dem was Menschen damit tun.
• 18:59
  Speaker 1: und vielleicht gehen wir mal so ein bisschen durch wo wir denn Ängste von KI wahrnehmen.
• 19:04
  Speaker 1: Wir haben ja schon eine Folge aufgenommen zum Thema Phobos also the fear of becoming obsolete die Angst überflüssig zu werden, weil KI-Technologien LLMs uns in vielen Bereichen bereit übertroffen haben und auch in denjenigen Bereichen wo man am Anfang noch über KI-Tools gelacht hat innerhalb von ein bis zwei Jahren Fortschritte gemacht haben.
• 19:35
  Speaker 1: Die atemberaubend sind!
• 19:39
  Speaker 0: Ja, also das halte ich natürlich für ein großes auch.
• 19:46
  Speaker 0: Potenzial auch zur Verschlechterung der Lebensbedingungen vieler Menschen.
• 19:51
  Speaker 0: Ich finde das allerdings sehr schwierig abzusehen, also was ich völlig klar finde ist – das seichen sich ja jetzt schon ab – dass die Errungenschaften künstlicher Intelligenz die Möglichkeiten dieser verschiedenen Modelle dazu führen, dass der Arbeitsmarkt wirklich komplett durchgekämmt und die Karten ein Stück weit neu verteilt werden.
• 20:15
  Speaker 0: Also wenn du nur schaust, wie du jetzt mit Hilfe von KI ohne jede Kenntnis von HTML, von Coding.
• 20:23
  Speaker 0: Ohne irgendeine Ahnung zu haben kannst du eine Website erstellen und die sieht auch noch richtig gut aus.
• 20:30
  Speaker 0: vor ein paar Jahren hätte man noch gesagt wenn einer sagt ich studiere IT Ich werde ITler Hätte mal noch gesagt ja gut das ist jetzt wirklich da bist Du an der Cash Cow dran Da kannst Du die braucht's immer Und ich glaube die wird es auch immer brauchen.
• 20:45
  Speaker 0: Aber viele Geschäftszweige im IT-Bereich mit denen man eine Tonne Geld machen konnte, Website-Erstellung usw.
• 20:55
  Speaker 0: Das wird einbrechen oder auf einem ganz anderes Niveau kommen weil sich das durch KI Hilfe so einfach erstellen lässt.
• 21:05
  Speaker 0: und ich glaube da wird eine Bewegung stattfinden.
• 21:09
  Speaker 0: es gibt auch Stimmen die sagen ja gut die verschiedene Arbeitszweige dadurch wegfallen oder durch KI massiv an Attraktivität verlieren.
• 21:25
  Speaker 0: Aber es wird andernorts, wird es noch dafür Leute brauchen also die jetzt nicht die große Arbeitslosigkeit voraussagen.
• 21:34
  Speaker 0: nur der Bedarf an Fachkräften am gesteigerte Bedarf löst ja noch nicht das Problem, dass Fachkräfte an einem anderen Ort weniger gebraucht werden.
• 21:50
  Speaker 0: Weil man kann die ja nicht alle dann rasch mit einem Wochenendkurs umschulen und aus ... keine Ahnung?
• 21:57
  Speaker 0: Aus dem einen berußen Zweig Angehörige des Anderen machen.
• 22:01
  Speaker 0: Also ich glaub Arbeitswelt ist ein Thema!
• 22:03
  Speaker 0: Ja, ich
• 22:04
  Speaker 1: glaube auch, dass Arbeitswelten Thema ist... Ich glaube, dass es gerade dort viel weniger disruptiv, also umstürzend, umwälzend sein wird als ich das jetzt die meisten vorstelle.
• 22:18
  Speaker 1: Ich versuche kurz zu erklären warum ich das behaupte.
• 22:22
  Speaker 1: Ich glaube zum Beispiel dass die Umstellung von einer Gesellschaft deren Wirtschaft primär in der Agrarwirtschaft bestanden hat auf eine industrialisierte Gesellschaft die mittels Maschinen und Motoren dann Dinge herstellen konnte.
• 22:42
  Speaker 1: Das ganze Fabrikwesen, was aufgekommen ist, wahnsinnig viel transformativer war für die Gesellschaft als das, was wir jetzt erleben.
• 22:50
  Speaker 1: Ich glaube auch dass die Umstellung von Industrialisierungswirtschaften auf Dienstleistungssektoren, die wir ausgebildet haben, viel, viel transformativer war.
• 23:03
  Speaker 1: also das, Und ich sage dir mal so ein paar Gründe, weshalb ich das glaube.
• 23:11
  Speaker 1: Ich denke wenn wir uns diese Probleme anschauen wo man fertige gut erhobene Datensätze miteinander vergleichen muss, wo man Strukturen vergleiche kann.
• 23:27
  Speaker 1: Wo man bereits durchdachte Entscheidgrundlagen miteinander vergleichen kann Dann ist KI tatsächlich eine Abkürzung, das glaube ich wirklich.
• 23:37
  Speaker 1: Ich glaube aber dass KI zum Beispiel nicht geeignet ist um in einem Team einen Entscheidprozess voranzubringen.
• 23:47
  Speaker 1: Weil wie nimmst du die Leute mit oder?
• 23:49
  Speaker 1: Also es stellt sich eine wahnsinnig komplexe Frage.
• 23:52
  Speaker 1: Du bekommst eine wahnsinnig ausführliche komplizierte Antwort und was machst du jetzt damit?
• 23:58
  Speaker 1: Also wer entscheidet am Schluss?
• 24:00
  Speaker 1: Du wirst ja nicht dein LLM entscheiden lassen.
• 24:02
  Speaker 1: Das LLm will ja gar nicht entscheiden, das ist gar nicht darauf ausgelegt.
• 24:07
  Speaker 1: Also was du da oft produzierst sind dann fünftigseitige PDFs die kein Mensch mehr liest sondern auch wieder durch ein LM jagt.
• 24:15
  Speaker 1: Und eigentlich könnte es sagen, ja hätten wir uns jetzt von dem Flip-Chart getroffen und mal wirklich zehn Minuten nachgedacht.
• 24:22
  Speaker 1: Wäre vielleicht mehr an Verständigung und Zeitgrundlage passiert als das was wir uns da hin und her schicken auf unseren MS Teams Chat.
• 24:32
  Speaker 1: Und dann gibt's für mich so ein zweites Beispiel, wo ich das wirklich selbst werke.
• 24:36
  Speaker 1: Ich ertrag diese ganzen scheiß KI-Posts nicht mehr!
• 24:40
  Speaker 1: Also sieben Dinge die ihr Unternehmen morgen schon effizienter machen können.
• 24:45
  Speaker 1: und dann diese Elenden Icons, die dahinter stehen... ...und eine generative Sprache, dass du denkst, dass dir nicht mal Mühe gemacht hast zu redigieren, was du da ausgespuckt hast?
• 24:55
  Speaker 0: Das hat der Link den eigentlich
• 24:57
  Speaker 1: kaputtgemacht.
• 25:00
  Speaker 1: überhaupt nicht alle erfasst, aber ich habe mir jetzt das wirklich angewöhnt.
• 25:03
  Speaker 1: Wenn ich solche Post sehe dann folge ich den Leuten nicht mehr oder kündige die Freundschaft auf.
• 25:09
  Speaker 1: Nein wirklich weil es ist nicht etwas womit ich meine Zeit verbringen will dass die da irgendetwas rein wichsen aus LLM wo keine eigene gedankliche Auseinandersetzung besteht.
• 25:22
  Speaker 1: Ich finde es toll, wenn sich jemand Gedanken macht und dann an Formulierungen arbeitet mit KI.
• 25:28
  Speaker 1: Aber wenn ich das Gefühl habe, dass mir jemand einfach Dinge zeigt die er oder sie gepromptet hat, dann find' ich das eigentlich eine Frechheit.
• 25:37
  Speaker 1: Ja
• 25:37
  Speaker 0: ja!
• 25:37
  Speaker 0: Und du kannst das ja... Du kannst das mit so wenig Aufwand machen, du kannst es heute so automatisieren, dass du noch nicht mal mehr überprüfen musst Was da online geht, du kannst eine KI instruieren auf LinkedIn.
• 25:52
  Speaker 0: Jeden Tag eine Zusammenstellung von fünf Tipps zu bringen und die zu posten.
• 25:58
  Speaker 0: Da hast Du gar nichts mehr mitzutun!
• 26:00
  Speaker 0: Und so ließ sich das teilweise.
• 26:02
  Speaker 0: Genau.
• 26:03
  Speaker 0: Das Gefühl hat also dafür muss ich jetzt keine Zeit investieren.
• 26:06
  Speaker 0: Ich glaube
• 26:06
  Speaker 1: wirklich dass es immer solche Wellenbewegungen gibt.
• 26:08
  Speaker 1: Also wenn Du dir vorstellst der Moment wo der Drucker eingeführt wurde in Betrieben?
• 26:14
  Speaker 1: Also wo man Dinge ausdrucken konnte.
• 26:17
  Speaker 1: Und es nicht mehr so teuer war, wie wenn du das zu einer Druckerei bringen musst.
• 26:21
  Speaker 1: Das ist ein Moment, wo die Dokumentation und die Bürokratie in Betrieben enorm zugenommen hat.
• 26:28
  Speaker 1: Weil du eigentlich alles was an komplexen Aufgaben da war einfach in komplizierte Probleme überführt hast.
• 26:36
  Speaker 1: Du hast riesige Aktenordner, Metaanaktenordnen produziert.
• 26:41
  Speaker 0: Aber
• 26:42
  Speaker 1: das hat ja dann zu einer Gegenbewegung geführt, dass man gesagt hat ich will ein One-Pager.
• 26:46
  Speaker 1: Ich will ein Management Cockpit und entscheiden können.
• 26:49
  Speaker 1: Und ich glaube ganz ähnlich wird es auch laufen mit Entwicklungen die wir im Moment mitmachen.
• 26:56
  Speaker 1: Ja es wird sehr viel einfacher eine Webseite zu erstellen.
• 26:59
  Speaker 1: Das glaube ich auch.
• 27:01
  Speaker 1: Und da könnte man sagen, wie früher die Druckkosten gesunken sind singt jetzt der Preis für das Einrichten einer Webseite.
• 27:11
  Speaker 1: Ich glaube aber dass du trotzdem dahinter Mindpower brauchst, die überlegt was diese Webseiten eigentlich tun soll wozu du sie machst?
• 27:21
  Speaker 1: Was eigentlich der Grund ist warum du diese Web-Seite brauchst.
• 27:25
  Speaker 1: und ich denke es wird ganz viele idiotische Entscheidungen geben die dann dazu führen, dass man X Websites herstellt.
• 27:33
  Speaker 1: Die überhaupt nicht gebraucht werden, die genauso wie früher Akten in einem Ordner liegen geblieben sind, dann einfach irgendwo im Universum des World Wide Web's liegen ohne das sie einen wirklichen Nutzen erfüllen?
• 27:46
  Speaker 1: Ja
• 27:46
  Speaker 0: natürlich!
• 27:46
  Speaker 0: Das bläst natürlich die Produkte und das Internet enorm auf aber es verändert schon etwas an den Arbeitsabläuften Bedarf an Arbeitskräften, wenn du Dinge die früher hunderttausend Franken gekostet haben jetzt für zweitausend Franken machen kannst oder wenn Du Dinge, die früher eine Woche in Anspruch genommen haben.
• 28:13
  Speaker 0: Eine Analyse, eine Marktanalyse mit allen Playern und so... Wenn Du die jetzt in einer Stunde mit ein paar Prompts über die du drüber schaust machen kannst.
• 28:23
  Speaker 0: Das ändert ja etwas, das erleichtert die Arbeit vieler aber es macht ja dann absehbar auch die Notwendigkeit, endet ja auch etwas an der Notwendigkeit von Angestellten, die früher damit die Tage zugebracht haben.
• 28:39
  Speaker 0: und vor allem das finde ich, dass wird schon, das hat schon disruptives Potenzial Das macht Verhältnis.
• 28:49
  Speaker 0: Also diese Bank für internationalen Zahlungsausgleich in Basel, die haben ja so Szenarien entworfen im Blick auf die KI-Zukunft und das relativ düster als zwei der wahrscheinlichen Optionen, die sie genannt haben ist entweder das Ganze wird zu einer Blase wie Wie war das damals noch?
• 29:13
  Speaker 0: Diese Big Tech-Blase und so, diese ... wo unglaubliche Investitionen getätigt wurden.
• 29:20
  Speaker 0: Und dann ist das Ganze zusammen gekracht und hat zu einer Wirtschaftskrise geführt im ... Was
• 29:27
  Speaker 1: ist die Dotcom?
• 29:28
  Speaker 0: Ja, die DotCom, genau!
• 29:29
  Speaker 0: Die Dotcom-Blasen.
• 29:32
  Speaker 0: Das gab es ja mit der Immobilienkrise dann in dem Jahr seven acht auch nochmal.
• 29:36
  Speaker 0: Und das könnte sich in einem erhöhten Maße jetzt wiederholen, weil hier Billionengelder investiert werden.
• 29:45
  Speaker 0: Das andere Szenario – das Positiv-Szenario war, dass die Wette aufgeht und KI tatsächlich enorme Erleichterungen in allen möglichen Arbeitsfeldern schafft und sich so auch lohnt.
• 29:57
  Speaker 0: Und dann führt es aber nicht notwendigerweise zu einer Massenarbeitslosigkeit, enormen Machtverschiebung in Richtung dieser KI-Konzerne.
• 30:08
  Speaker 0: Sie haben dann vorgerechnet, dass wenn die Wette aufgeht, wird der Anteil der arbeitenden Bevölkerung am Bruttoinland Produkt von sechzig Prozent auf zwanzig Prozent sinken.
• 30:21
  Speaker 0: Das heißt ... Investitionen und die Gewinne, mit der KI Modellen gemacht werden nehmen einen viel größeren Teil des Brutto-Inland-Produktes ein.
• 30:35
  Speaker 0: Und das bedeutet natürlich eine enorme Schwächung auch der Wirtschaftskraft und auch der Folge dessen, auch der Mitbestimmung der arbeitenden Bevölkerung zugunsten von Techkonzernen die enorme Gewinne abschöpfen enorme Umsätze machen und von allen in Anspruch genommen werden, weil sie so effektiv die Arbeit erleichtern.
• 31:01
  Speaker 0: Das ist schon eine bedenkliche Verschied.
• 31:03
  Speaker 1: Ja ich glaube hat das die Frage ob es wirklich effektif sein wird dann?
• 31:07
  Speaker 1: Also das müsste sich ja dann zeigen!
• 31:10
  Speaker 1: Ich wäre super skeptisch dass das wirklich funktioniert weil ich mir nicht vorstellen kann wie du Entscheidungsprozesse damit umgehen kannst.
• 31:18
  Speaker 1: Oder du hast es so quasi gesagt, ja Marktanalysen das macht alles die KI und so, aber mit welchen Daten?
• 31:25
  Speaker 1: Mit welcher Steuerung?
• 31:27
  Speaker 1: Mit dem Ziel?
• 31:28
  Speaker 1: wohin soll das führen?
• 31:30
  Speaker 1: Alle Analysen, alle Studien und Datenerhebungen die wir machen sind ja immer Interesse geleitet.
• 31:38
  Speaker 1: Und wer soll diese Interessen eingeben?
• 31:41
  Speaker 1: Wenn wir natürlich sagen das sollen Maschinen untereinander klären auf der Ebene, würde ich fragen ist es eigentlich noch Wirtschaft oder ist es einfach ein Motorengeräusch?
• 31:52
  Speaker 1: Also ist das noch etwas, wo wirklich jemand etwas in der Welt realisieren und umsetzen will?
• 32:00
  Speaker 1: Weil wenn es das ist dann ist KI immer ein Tool.
• 32:04
  Speaker 1: Oder ist es etwas was KI selbstständig tut?
• 32:07
  Speaker 1: Dann ist es Umwelt!
• 32:09
  Speaker 1: Aber das würde ich niemals zum Brutto-Sozialprodukt rechnen.
• 32:13
  Speaker 1: Das ist ein Widerspruch für mich aber...
• 32:17
  Speaker 0: Ja also ich finde dass das ist ein wichtiger Punkt.
• 32:22
  Speaker 0: Welche Entscheidungen nehmen uns KI-Systeme zunehmend ab und welche Probleme entstehen dadurch?
• 32:29
  Speaker 0: Und natürlich dahinter liegt auch der Punkt, welche Ergebnisse liefert KI, weil das ist ja nur scheinbar objektive Analyse.
• 32:41
  Speaker 0: Da sind ja ganz viele Vorannahmen gehen in diese Texte und in diese Daten ein die die KI verarbeitet.
• 32:48
  Speaker 0: von daher ist es ja jetzt da.
• 32:51
  Speaker 0: natürlich sind im Englischen sagt man Biasis Voreingenommenheiten mit verbaut KI-Systemen dann noch die Entscheidung abnimmt und sagt, sag mir was ich im nächsten Jahr ändern soll in meiner Firma.
• 33:06
  Speaker 0: Aber die Entscheidungsgrundlagen zu erarbeiten...
• 33:09
  Speaker 1: Ja aber das meine ich eben!
• 33:10
  Speaker 1: Woher hast du diese Grundlagen?
• 33:12
  Speaker 1: Oder lass uns mal einem ganz einfachen Beispiel machen.
• 33:15
  Speaker 1: Warum kannst du dein LLM jetzt fragen, wie groß die Chance ist das dein Fußballverein morgen gewinnt?
• 33:25
  Speaker 1: Warum funktioniert es überhaupt?
• 33:26
  Speaker 1: Das ist ganz entscheidend dass wir uns das mal überlegen was alles dahinter steht.
• 33:30
  Speaker 1: also das kann zugreifen auf Wettbüros die Wettquoten.
• 33:35
  Speaker 1: Es kann zugreifen auf journalistisch-aufbereitete Artikel.
• 33:39
  Speaker 1: Es kann zugreifen auf Webseiten dieser Fußballklubs, die unterhalten werden.
• 33:44
  Speaker 1: Es können auf die Spielhistorie zurückgreifen, die irgendwo auch in einem Medium abgedruckt ist und das bedeutet eigentlich... Das ist zwar sehr gut, darin Informationen zu verarbeiten und miteinander in Beziehung zu setzen und diese Verknüpfungen zu machen.
• 34:05
  Speaker 1: Aber es generiert ja keine Welterfahrung!
• 34:09
  Speaker 1: Also kein LLM generiert selbstständig Wissen.
• 34:15
  Speaker 1: Es kann ja nur wissen, was da ist.
• 34:18
  Speaker 1: Anders aufbereiten und deswegen wäre ich viel, viel skeptischer dass du sowas wie eine Marktforschung überhaupt machen kannst mit KI.
• 34:27
  Speaker 1: also natürlich ist KI ein tolles Tool um dann diese Marktworschung zu präsentieren, zu systematisieren.
• 34:34
  Speaker 1: Du kannst dir ganze Teile davon redigieren und schreiben lassen das bestreite ich nicht.
• 34:38
  Speaker 1: aber wenn du etwas messen willst was real in der Welt passiert dann kann das KI nicht tun.
• 34:46
  Speaker 0: Ja, ich sehe schon wir könnten allein mit dem Thema die ganze Folge füllen Stefan.
• 34:50
  Speaker 0: also ich würg jetzt hier mal ab auch wenn mir noch einiges auf der Zunge liegen würde und wird von dir gerne wissen auf einer Skala von eins bis zehn wie hoch schätzt du die Gefahr ein?
• 35:06
  Speaker 0: dass KI den Arbeitsmarkt disruptiv durcheinanderbringt und zu einem Unhals-Szenario führt.
• 35:17
  Speaker 1: Also nicht nur, dass es sich verendet oder sondern das es sich negativ verendete?
• 35:21
  Speaker 1: Ja.
• 35:21
  Speaker 1: Etwa zwei von zehn!
• 35:24
  Speaker 1: Zwei Punkte von zehn würde ich geben.
• 35:26
  Speaker 1: Gut,
• 35:27
  Speaker 0: also ich werde da eher im Bereich sechs oder sieben.
• 35:30
  Speaker 0: Also ich bin da wesentliche... Oder sage ich fünf oder sechs so?
• 35:34
  Speaker 0: Okay.
• 35:36
  Speaker 1: Ja aber das was wir uns wünschen würden wäre wahrscheinlich bei beiden gleich oder kein.
• 35:42
  Speaker 1: Mensch sollen mehr Dinge tun müssen die KI erledigen kann.
• 35:46
  Speaker 0: Aber
• 35:46
  Speaker 1: KI soll nichts tun was nur Menschen können nämlich Entscheidungen treffen
• 35:51
  Speaker 0: Genau.
• 35:52
  Speaker 0: Oder auch nichts übernehmen, was Menschen eigentlich dann doch noch gerne tun
• 35:58
  Speaker 1: würden?
• 35:58
  Speaker 1: Ja!
• 35:58
  Speaker 1: Das bin ich ein super Kriteriumanum.
• 36:00
  Speaker 1: Das
• 36:00
  Speaker 0: war eine große Diskussion mit KI-Robotern die uns dann kochen und ich mich gefragt habe würde ich mein Essen von einem Roboter zubereiten wollen?
• 36:10
  Speaker 0: oder ist es nicht vielleicht einer der letzten Tätigkeiten in meinem Alltag wo ich noch eine echte Karotte und eine Kartoffel oder irgendwie etwas für sich so in Händen habe Schäle und Zubereite, und irgendwie in Touch komme mit der ganz realen Welt jenseits meines Bildschirms.
• 36:28
  Speaker 0: Und wenn ich das dann auch noch der K.I.
• 36:29
  Speaker 0: abgebe und dafür eine halbe Stunde länger arbeiten kann, habe ich genau gar nichts gewonnen, weißt du?
• 36:35
  Speaker 0: Ja,
• 36:35
  Speaker 1: stimmt!
• 36:36
  Speaker 1: Und jetzt wisst ihr auch Manu besitzt kein Thermomix.
• 36:39
  Speaker 1: Das nächste große Problem was Angst machen kann ist die Desinformation.
• 36:46
  Speaker 1: Und mit des Informationen meine ich jetzt nicht nur so was.
• 36:49
  Speaker 1: Triviales wie LLMs können dir helfen, Texte zu faken.
• 36:54
  Speaker 1: Weiß du quasi ja Artikel zu schreiben die wahnsinnig plausibel klingen.
• 37:00
  Speaker 1: aber eigentlich sind das alles falsche Daten drin.
• 37:04
  Speaker 1: es stimmt überhaupt nichts.
• 37:05
  Speaker 0: Es ist Propaganda,
• 37:07
  Speaker 1: es ist Verschwörungstheorie etc.
• 37:09
  Speaker 1: Sondern ich würde da schon noch das Rad ein Stückchen weiter drehen und sagen Das wirklich gefährliche wäre, dass KI-Fakten kompilieren kann in bestimmte Richtungen und die Quellen dazu im Sinne von Websites etc.
• 37:27
  Speaker 1: selbst konstruieren könnte.
• 37:30
  Speaker 0: Also ich halte das jetzt schon für ein riesiges Problem.
• 37:36
  Speaker 0: Und wenn man jetzt noch dazu nimmt diese ganzen, wir haben ja in anderen Zusammenhang über Colin Fernandez und Christian Ulmen gesprochen.
• 37:45
  Speaker 0: Der ja beschuldigt wird der Ehemann von Colin Fernandes KI Generierte Nacktbilder von ihr oder sogar chronographische Sequenzen verbreitet zu haben unter der Vorgabe, dass es sich um reale Videos handelt.
• 38:02
  Speaker 0: Also solche Dinge werden ja absehbar exponentiell zunehmen.
• 38:07
  Speaker 0: die Möglichkeiten sind jetzt schon wirklich erstauntlich und beängstigend zugleich.
• 38:14
  Speaker 0: Und diese, auch dieses anfängliche überlegene Lächeln mit dem man KI-generierte Bilder und Videos abqualifiziert hat weil da irgendwie Menschen mit sechs oder sieben Fingern an der Hand herum liefen oder sonst irgendwie ganz klar erkennbar Mängel von KI Produktionen aufwiesen das ist ja jetzt im kürzester Zeit so weitgehend ausgemerzt worden, dass du bei KI-generierten Bildern und Videos wirklich in vielen Fällen nicht mehr sagen kannst.
• 38:49
  Speaker 0: Also sogar Spezialisten sagen es lässt sich nicht mehr unterscheiden.
• 38:54
  Speaker 0: Und wenn man das dazu nimmt ... Ich meine, das braucht jetzt keine Fantasie, sich auszudenken, dass die Menge an Videos und Bildern zunehmen werden, Politiker, bekannte Persönlichkeiten in verfänglichen Situationen darstellen oder sogar ihnen letztens
• 39:12
  Speaker 1: gerade mit Trump passiert auf dem Golfplatz wo er rumgeknutscht hat.
• 39:17
  Speaker 1: Und das war natürlich alles Fake!
• 39:19
  Speaker 0: Ah, war das fake?
• 39:20
  Speaker 0: Ja es war auch fake.
• 39:21
  Speaker 0: Und solche Sachen werden zunehmen und du kannst dann die Pandoras...die quasi die Viecher aus der Pandoras Box kriegst du da nicht mehr eingefangen wenn etwas mal die Runde gemacht hat und man hat einen amerikanischen Präsidenten oder sonst jemandem gehört gesehen wie er etwas gesagt hat und dass glaubwürdig verbreitet wurde.
• 39:44
  Speaker 0: und es kommt dann irgendwie aus Es war ein Fake Video.
• 39:48
  Speaker 0: dann erreichst du nicht mal mehr die Hälfte der Leute, die das für Paare Münze nehmen.
• 39:53
  Speaker 0: Das
• 39:53
  Speaker 1: ist ja das Riesenproblem jetzt.
• 39:54
  Speaker 1: oder dass es ganz wenig Aufwand braucht zum irgendeinen Riesenblödsinn zu behaupten, der durch die Art und Weise wie die Algorithmen auf den sozialen Medien gestrickt sind sich natürlich viel besser verbreitet als eine wahre Mitteilung, eine echte Aussage
• 40:15
  Speaker 0: oder eine richtige Stellung.
• 40:16
  Speaker 1: Ja und das ist ja das andere der Aufwand für eine richtig Stellung ist enorm,
• 40:22
  Speaker 0: ist
• 40:22
  Speaker 1: riesig und hat praktisch keine Wirkung mehr.
• 40:27
  Speaker 0: Also ein tiefer liegendes Phänomen noch zu diesem Oberthema.
• 40:33
  Speaker 0: wie hast du es genannt?
• 40:34
  Speaker 0: Kifake Information?
• 40:36
  Speaker 0: Ja
• 40:36
  Speaker 1: Desinformation
• 40:39
  Speaker 0: Ein tiefer liegendes Thema ist ja unter dem Titel AI Grooming vor ein, zwei Jahren schon bekannt geworden.
• 40:47
  Speaker 0: Also da geht es um die Manipulation von künstlichen Intelligenzsystemen und Modellen.
• 40:54
  Speaker 0: Davon kriegen wir gar nichts mit.
• 40:56
  Speaker 0: also das bezieht sich sehr stark auch auf diese LLMs, auf die Sprachmodelle.
• 41:02
  Speaker 0: Da werden in Russland, China aber ganz sicher nicht nur dort Da werden Tausende oder Millionen von Websites erstellt, die wir gar nie zu Gesicht bekommen.
• 41:16
  Speaker 0: Die aussehen oder sich geben wie richtige Newsportale oder Zeitungen.
• 41:25
  Speaker 0: und auch wenn die kein Mensch vielleicht je zu Gesicht bekommt... die LLMs, die das Internet crawlen durch Suchen nach Text und Inhalten.
• 41:34
  Speaker 0: Die stoßen auf diese Seiten und da können dann Fehlinformationen, Verschwörungstheorien was auch immer verbreitet werden und die suggerieren diesen Sprachmodellen dass es sich hierbei um eine ganz legitime Überzeugung oder Meinung handelt die sogar sehr gewichtig vertreten wird von ganz vielen Zeitungen und Newsport-Talen, weil sie natürlich diese Unterscheidung nicht machen können.
• 42:02
  Speaker 0: Und dieses AI-Grooming setzt genau darauf.
• 42:06
  Speaker 0: Wenn ich dann quasi als User von JGBT oder von GROP oder was auch immer eine Frage eingebe wie geht China mit den Uiguren um?
• 42:18
  Speaker 0: Oder was auch?
• 42:22
  Speaker 0: Antwort,
• 42:23
  Speaker 1: die
• 42:24
  Speaker 0: geprägt und auch verfälscht ist durch diese zweifelhaften Seiten.
• 42:30
  Speaker 0: Also das ist ein Problem, das in den Griff zu kriegen.
• 42:33
  Speaker 1: Ja!
• 42:34
  Speaker 1: Und es gibt eine sehr gute Lösung dafür.
• 42:38
  Speaker 1: Die besteht darin dass wir uns wirklich an echten Medien orientieren sollten... ...die Standards haben wie sie KI einsetzen die Fact-Jacking betreiben, das viel komplizierter ist als einfach etwas durch einen LLM durchzulassen.
• 42:58
  Speaker 1: Wo wirklich Menschen mit journalistischen Maßstäben Fakten prüfen und sie auch so aufbereiten.
• 43:07
  Speaker 1: Ich bin überzeugt davon dass Medien die großen Gewinnerinnen und Gewinner sein werden in diesem ganzen KI-Transformationsprozess, weil ich wirklich merke dass seit etwa anderthalb zwei Jahren diese ganzen KI Postings aufgekommen sind.
• 43:26
  Speaker 1: Diese ganzen Grafiken aufgekommen sind, die so täuschend echt aussehen Ich wirklich praktisch kein News Interesse mehr habe in den sozialen Medien Was war früher anders?
• 43:39
  Speaker 1: haben Leute Zeitungsartikel gepostet und ihren Kommentar dazu geschrieben.
• 43:43
  Speaker 1: Das hat mich interessiert, aber diesen Mist nehme ich einfach gar nicht ernst um finde es auch wirklich nur nervig und möchte das gar nicht sehen.
• 43:53
  Speaker 1: also für mich habe soziale Medien als Informationsquelle massiv an Boden verloren.
• 43:59
  Speaker 1: und das Zeitung lesen das Nachrichten hören auch das nachrichten schauen manchmal sogar hat enorm an Bedeutung gewonnen und Ich glaube ich bin nicht alleine damit.
• 44:08
  Speaker 0: Das ist eine sehr spannende Prognose, die auch ein bisschen den... Unheiserzählungen den traditionellen Medien gegenüber entgegensteht.
• 44:18
  Speaker 0: Das zeigt sich im Moment ja jetzt noch nicht wirklich, also die allermeisten traditionellen Zeitungen haben größte Probleme müssen ihre Redaktionen zusammenstreichen und ihre Korrespondenten oder Korrexpondentthemen und Gebiete zusammenlegen weil sie das nicht mehr finanzieren können.
• 44:37
  Speaker 0: Ja wenn
• 44:38
  Speaker 1: Sie ein falsches Modell der Finanzierung haben.
• 44:40
  Speaker 1: Die haben ganz lange von Anzeigen gelebt.
• 44:43
  Speaker 1: Und das funktioniert nicht, der Anzeigemarkt ist tot und das verstehe ich auch.
• 44:48
  Speaker 1: aber ich bin ganz sicher dass es über ein Abo-Modell gehen wird und dass wirklich etwas ist was wir weit über die SRG Medien in der Schweiz also die staatlich finanzierten Medien die gemeinsam finanzierte Medien hinaus so auffangen müssen, dass wir sagen müssen.
• 45:05
  Speaker 1: Schau mal es ist völlig egal ob NCZ in der Grundtendenz deine Meinung oder ob es der Tagesanzeiger ist.
• 45:12
  Speaker 1: Wir brauchen diese Medienvielfalt und müssen sie als Gesellschaft unbedingt erhalten weil das ist die Chance gegen diese Information den Kopf irgendwie über Wasser zu behalten und deswegen meine ich Gewinner too big to fail.
• 45:30
  Speaker 1: Und zwar in dem Sinne, dass sie absolut entscheiden sind dafür das es noch etwas gibt in einer Demokratie über das du dich überhaupt verständigen kannst.
• 45:39
  Speaker 0: Ja und ich glaube das spricht einen Punkt an, auf dem ich vor kurzem gestoßen bin.
• 45:47
  Speaker 0: Also im Podcast Mindmaps habe ich das Buch besprochen von Michael Hampel, Krise der Aufklärung und da hat er ein spannender Gedanken drin wo er sagt auch die ganze Rede auch im Zuge der Aufklärung natürlich der mündige einzelne mündigen Bürger der sich selber eine Meinung bildet.
• 46:03
  Speaker 0: und er sagt wir werden nie dahin kommen dass wir nicht auf Vertrauen angewiesen sind, auf Experten.
• 46:11
  Speaker 0: Weil die Gesellschaft so komplex geworden ist und weil wir nie uns eine Expertise in allem aneignen können – ich kann nicht jeder Schlagzeile und jeden Newsbeitrag nachgehen und nochmal eigene Quellen prüfen!
• 46:27
  Speaker 0: Ich bin darauf angewiesene überall beim Thema Gesundheit im Thema Finanzen wo auch immer anderen Vertrauen zu können und wenn sich Medien etablieren als vertrauenswürdige Verarbeiter.
• 46:47
  Speaker 0: der Informationsfülle, mit der wir konfrontiert sind und die wir ja einfach nicht mehr bewältigen können.
• 46:54
  Speaker 0: Wenn sie ihre Prinzipien und Kriterien transparent machen und ein Vertrauen wächst.
• 47:01
  Speaker 0: zur Vorgehensweise – wenn Medien zeigen dass sie zum Beispiel auch durch Selbstkritik in dem Sie Dinge richtigstellen, wo man merkt da ist ein kritischer Geister dahin
• 47:17
  Speaker 1: auch wenn sie zwischen Meinung und Berichterstattung unterscheiden.
• 47:20
  Speaker 1: Ja
• 47:20
  Speaker 0: genau, solche Dinge sind für mich vertrauenserweckend und wir sind ich glaube sogar zunehmend darauf angewiesen bestimmten Quellen oder Medien oder Personen auch vertrauen zu können, weil gerade durch KI die Informationsfühle ja enorm anwächst.
• 47:43
  Speaker 1: Also ich sehe das genauso wie du.
• 47:44
  Speaker 1: und ein bisschen so eine Anlehnung an Martin Lutters Tischrede, wo er sagt auch wenn morgen die Welt untergehen würde, würde heute noch einen Apfelbäumchen pflanzen, würde ich sagen Ja auch wenn Morgen die Welt Untergehen würde Ich wird heute noch ein Zeitungsabolösen.
• 47:58
  Speaker 0: Sehr schönes Statement!
• 48:02
  Speaker 0: keine unfählbare Instanz gegen Fehlinformation, aber sich zu überlegen... Das
• 48:09
  Speaker 1: Beste was man sich ausdenken kann ist es.
• 48:12
  Speaker 1: Es wird nichts besseres geben als Journalismus und Medien gegen Desinformationen.
• 48:17
  Speaker 1: Es kann nichts bessers geben!
• 48:19
  Speaker 1: Und deswegen du hast vorhin gefragt wo meine Angst ist auf der Skala?
• 48:23
  Speaker 1: Hier ist meine Angst tatsächlich hoch würde ich wirklich sagen.
• 48:28
  Speaker 1: Desinformation bin ich so bei einer stabilen Acht.
• 48:32
  Speaker 1: Aber ich habe auch eine ganz, ganz große Hoffnung.
• 48:35
  Speaker 1: Weil das wirklich etwas ist was wir über Politik und Privatkonsum in den Griff bekommen können.
• 48:42
  Speaker 1: Das ist etwas was wir echt schaffen können.
• 48:46
  Speaker 0: Und Bildung, ich glaube das ist für mich ganz ... Ich bin nicht ganz so skeptisch wie du.
• 48:52
  Speaker 0: Ich hätte jetzt gesagt zwischen sechs und sieben.
• 48:55
  Speaker 0: aber Bildung Medienkompetenz einzutrainieren und schon Kindern und Jugendlichen zu zeigen warum Sie einer etablierten Zeitung mehr Vertrauen verdient hat als irgendein schwindeliger YouTuber der im Keller seiner Mutter irgendwelche Rührungstheorien verbreitet, das muss einem klar werden.
• 49:20
  Speaker 1: Und auch weißt du dass LLMs nie besser sein können als die Artikel auf die sie zugreifen können?
• 49:25
  Speaker 1: Ja
• 49:25
  Speaker 0: genau!
• 49:27
  Speaker 0: Er wäre natürlich so ein Zertifizierungssystem, wo man quasi bei Recherchen und bei Large-Language-Models anglicken könnte.
• 49:36
  Speaker 0: verwende diese Gruppe von zertifiziertem Medienhäusern oder Wissenschaftsbetriebe.
• 49:45
  Speaker 1: Das wird das nächste große Ding sein!
• 49:47
  Speaker 1: Kontrolle hast du über die Quellen, die beigezogen werden.
• 49:50
  Speaker 1: Und dass du halt dann wirklich Abos brauchst damit es diese Quellen auslesen kann so ich glaube das wir kommen und ich glaub's wird teuer.
• 49:57
  Speaker 1: aber ich glaube es wird dem ganzen Mist was wir im Moment haben wirklich extrem überlegen sein.
• 50:04
  Speaker 1: Ja Manu es gibt ein nächstes ganz ganz schwieriges Thema und Das hat zu tun mit Krieg und Waffen Die Rolle die KI Darin spielen kann.
• 50:17
  Speaker 1: ich weiß, dass du dich damit ein bisschen beschäftigt hast.
• 50:20
  Speaker 1: Kannst du mal ein bisschen skizzieren?
• 50:21
  Speaker 1: was ist so das Drohs-Szenario?
• 50:23
  Speaker 1: Dass wir haben im Bereich Krieg und Waffen?
• 50:26
  Speaker 1: Also einerseits, ich glaube das haben alle schon gehört gibt es ja diese Idee von Cyberkriegen.
• 50:33
  Speaker 1: Da geht es wenn ich das richtig verstanden habe darum dass gehackt wird, dass Infrastruktur kritischer Infrastruktur quasi lahmgelegt wird.
• 50:42
  Speaker 1: Das wäre jetzt noch gar nicht so im Bereich der physischen Waffen wie man sich das vorstellt aber gibt's da auch was?
• 50:51
  Speaker 0: Diese Art von Cyberkriegsführung ist sicher ein Thema, das uns beschäftigen wird.
• 50:57
  Speaker 0: Und das virulenter werden wir die nächsten Jahre, je leistungsfähiger die KI's werden.
• 51:03
  Speaker 0: Wenn du dann irgendwann von einer gegnerischen Nation oder Einheit ... wenn du dann die Kraftwerke ansteuern kannst und die Sicherheitsverkehrung hinter irgendwie sensibler Infrastruktur und so hacken kannst, dann hast du einen gewaltigen Hebel in der Hand.
• 51:22
  Speaker 0: Ich meine Ängste beziehen sich schon sehr stark daran und das ist noch nicht einmal ein Zukunfts... Eine Zukunftsangst oder Zukunftsszenario, sondern das ist jetzt in vollem Gange.
• 51:35
  Speaker 0: Dass eigentlich unser alter Begriff von Krieg und Kriegsführung rasant überholt wird.
• 51:41
  Speaker 0: Das eigentlich also während die... Wir
• 51:43
  Speaker 1: fangen ja schon den alten Begriff ziemlich scary?
• 51:46
  Speaker 0: Ja natürlich!
• 51:48
  Speaker 0: Aber während Deutschland irgendwie in Reimetall investiert und das Gefühl hat sie müssten noch Panzer produzieren Ist eigentlich auch Experten zufolge ziemlich klar, dass kommende Kriege nicht mit Panzern ausgefochten werden.
• 52:08
  Speaker 0: Sondern eigentlich Drohnenkriege sein werden.
• 52:11
  Speaker 0: und das ist jetzt schon der Fall in der Ukraine.
• 52:14
  Speaker 0: Die Ukraine der Ukraine.
• 52:16
  Speaker 0: Krieg hat sich eigentlich ganz wesentlich auch zu einem Dronenkrieg entwickelt und KI spielt da eine große Rolle, genauso wie beim Einfall der USA in den Iran.
• 52:28
  Speaker 0: Da werden mit ... Also das ist ja der Angriff der USA auf den Iran.
• 52:33
  Speaker 0: da haben sie ja in einer Nacht Zehntausend Ziele beschossen.
• 52:37
  Speaker 0: Wie willst du Zehnteusend Zielen identifizieren und angreifen?
• 52:43
  Speaker 0: Das isst mit Manpower gar nicht zu machen!
• 52:45
  Speaker 0: Da wurden KI-Systeme gebraucht um diese Ziele zu identifisieren Mit der Gefahr dass Fehldaten vorliegen.
• 52:54
  Speaker 0: Das ist ja der Grund, warum diese Mädchenschule in die Luft gegangen ist.
• 52:57
  Speaker 0: Hundertsechtzig Mädchen wurden getötet weil die KI veraltete Kartendaten verarbeitet haben.
• 53:04
  Speaker 0: Ich habe solche Geschichten...
• 53:06
  Speaker 1: In Toku, ich weiß es fällt mir wirklich nicht mehr ein wie sie heißt, haben die mal dargestellt wie solche Entscheidungsprozesse heute laufen also ob da jetzt eine Drohne feuert oder nicht und das Zeitfenster für die Validierung.
• 53:22
  Speaker 1: Also, die KI schlägt ja jetzt schon vor, dass das unter Feuer genommen werden soll und die Zeit für die Valedierung ist so kurz, dass ich mir unmöglich vorstellen kann, dass da irgendein Prozess noch stattfindet der mit Denken, Empathie abwägen oder irgend sowas zu tun hat.
• 53:41
  Speaker 0: Das müssen eigentlich Entscheidungen in Minuten- oder Sekundenschnelle sein da eigentlich kannst du nur noch nachvollziehen, was dir die KI ist.
• 53:51
  Speaker 0: Das
• 53:52
  Speaker 1: ist natürlich so verlockend oder?
• 53:53
  Speaker 1: Wenn du so einen drohngestützten Krieg führen kannst dann hast du natürlich nicht Tausende von Bleisergen, die dann nach Hause geschickt werden.
• 54:03
  Speaker 0: Ja!
• 54:04
  Speaker 0: Nur dass ich glaube das ist eher ein Werbegeg der KI-Industrie oder auch dieser Belieferer von Drohnentechnologie, dass sie sagen wir... Träumen davon, dass in Zukunft Kriege als Kriege zwischen Maschinen...
• 54:22
  Speaker 1: Ah nein!
• 54:23
  Speaker 1: So meine ich dich.
• 54:24
  Speaker 1: Das halte ich für einen absoluten Unsinn.
• 54:27
  Speaker 1: Also da könntest du ein Fußballspiel oder ein Boxkampf veranstalten?
• 54:30
  Speaker 1: Dann musst du nicht Drohnen bauen.
• 54:33
  Speaker 1: Ich mein nur zum Beispiel was die USA in Afghanistan getan haben mit einem drohngestützten Krieg.
• 54:40
  Speaker 1: das wäre ja mit Soldaten und Soldatinnen, die man geschickt hätte niemals möglich gewesen.
• 54:46
  Speaker 1: Das hätte politisch nie den Rückhalt gehabt.
• 54:48
  Speaker 1: Da hätten sich doch alle gefragt, was genau machen wir da eigentlich?
• 54:52
  Speaker 1: Und warum sollen wir junge Erwachsene von uns da hinschicken?
• 54:57
  Speaker 1: Ob das dann plausibel gewesen wäre, dass man am Hindukusch unsere Sicherheit verteidigt?
• 55:03
  Speaker 1: Wenn wir wirklich dort gewesen wären, das weiß ich nicht.
• 55:06
  Speaker 0: Ja!
• 55:07
  Speaker 0: Und das führt aber eine ganze Reihe von Problemen mit sich an... Also zum einen mit der Möglichkeit durch KI gesteuerte Drohnen.
• 55:22
  Speaker 0: anzugreifen, wird das natürlich nicht nur irgendwie großen Armeen möglich sein.
• 55:28
  Speaker 0: Sondern dass es im Kontext von Terror-Einheiten, von irgendwelchen Splittergruppen kann
• 55:36
  Speaker 1: sich jeder... Oder auch für das sabotageakt!
• 55:38
  Speaker 1: Da hatten wir jetzt letztens in Deutschland ein Flughafen.
• 55:42
  Speaker 0: Genau, also das potenziell kann sich das jeder der irgendwie ein paar Euro zusammenkratzen kann und technisch nicht völlig auf den Kopf gefallen kann sich so was zusammenbauen oder einsetzen.
• 55:55
  Speaker 0: und es ist, das hat man ja schon beim Afghanistan Krieg der USA.
• 56:00
  Speaker 0: Hat man auch gesagt dass diese Drohneinsätze die übersteuern eigentlich einen menschlichen Impuls Der Tötungshemmung, wenn man einem anderen Menschen gegenüber steht in der klassischen Formation.
• 56:19
  Speaker 0: Fronten nähern sich und quasi Soldaten liefern sich dann sogar bis hin zu Eins-zu-Eins-Gefächte.
• 56:28
  Speaker 0: Das fällt ja völlig aus, wenn du nur noch vor einem Computer sitzt und wirklich genau wie bei einem Computerspiel einfach einen Knopf drückst.
• 56:38
  Speaker 0: Da brauchst du dann die ganz feste Gewissheit, dass du auf der absolut moralisch überlegenen Seite stehst und auf der anderen Seite eigentlich Feinde sind, die ihre Vernichtung verdient haben.
• 56:51
  Speaker 0: Und dann nimmst du sogar in Kauf – so ist es ja auch in den USA!
• 56:56
  Speaker 0: immer gelaufen, die letzten Jahre.
• 56:58
  Speaker 0: Da nimmt man in den Kauf dass es viele Opfer gibt, die dann halt einfach als Collateral Damage abgeschrieben werden.
• 57:05
  Speaker 0: also ich habe da wirklich die Befürchtung das Kriege in einer Art und Weise nochmal ganz anderen Art und Weise unbeherrschbar und unüberschaubar werden und auch eskalieren können weil die technischen Mittel so zugänglich und auch immer günstiger werden.
• 57:28
  Speaker 1: Ich glaube tatsächlich, dass hier die Technologie mit sich bringt, dass die Unterscheidung nach Kriegfolgerecht oder würden wir ja sagen, die Unterschiedung zwischen kompatanten also militärischen Zielen beinhaltet auch Menschen in der Rolle von Soldatinnen und Soldaten Und sie vielen Personen und sie vielen Objekten.
• 57:51
  Speaker 1: Dass die einfach nicht mehr in gleicher Weise eingehalten wird, dass die nicht mehr so streng eingehalten werden.
• 57:58
  Speaker 1: Mir macht das schon große Sorgen, weil ich eh das Gefühl habe, dass man über das humanitäre Völkerrecht im Moment eher spricht als wäre das ein witziges Packpapier für schön.
• 58:10
  Speaker 1: geistige Ideen aber nicht worauf man sich wirklich noch stützen muss, woran man sich echt noch halten muss.
• 58:17
  Speaker 1: Ich glaube, dass das eine echte Gefahr ist.
• 58:19
  Speaker 1: Weil ich sehe nicht, dass wir im Bereich Technologie, Wirtschaft, Kultur oder irgendwo echt etwas haben was man dem entgegenstellen könnte.
• 58:29
  Speaker 1: Also bei den anderen beiden Punkten da sehe ich irgendwie ja, da gibt es kulturelle Rungenschaften und Techniken die uns schützen vor dem was da Schreckliches passieren könnte wenn es um Waffen und Kriegsführung geht, dann glaube ich gibt's ehrlich gesagt.
• 58:49
  Speaker 1: Nicht viel mehr als eine starke Vorstellung von Recht, die man für verbindliche hält.
• 58:54
  Speaker 1: Und gerade das sehe ich aber wahnsinnig wankend im Moment.
• 58:58
  Speaker 0: Also an dem Punkt bin ich wirklich auch eher skeptisch vor allem weil man natürlich sagen muss bei Militär da ist nicht nur in den USA das sind einfach die größten Mittel vorhanden und es ist im wirtschaftlichen Interesse von KI-Unternehmen hiermit mischen zu können.
• 59:19
  Speaker 0: Da sind dann wirklich die Milliarden und Milliardenbeträge, die investiert werden – man hat das in den USA eigentlich sehr schön oder traurig gesehen – dass OpenAI alle mit ganz herren Zielen gestartet, mit irgendwie gemeinnützigen und idealistischen Hoffnungen Und dann hat man gemerkt, hier ist das große Geld drin.
• 59:43
  Speaker 0: Man hat auch dann Investoren die Milliardenbeträge investieren und etwas rausbekommen wollen... Und
• 59:50
  Speaker 1: ja gar nicht alles!
• 59:51
  Speaker 1: Also es ist vielleicht jetzt trotzdem noch wichtig, weil er nicht so, dass Sam Altman plötzlich böse geworden ist und sich dann gesagt hat, so wie ich aber richtig viel Kohle verdienen, sondern das Problem war ja auch, dass man gemärkt hat.
• 1:00:05
  Speaker 1: wenn wir diese Technologie weiterentwickeln, dann brauchen wir Milliarden und Billionen Investitionen um überhaupt die Infrastruktur an Servern aufbauen und unterhalten zu können.
• 1:00:20
  Speaker 1: Das führt dann zu Investments und diese Investoren tun das ja aber nicht weil sie sagen uns liegt ganz viel an einer demokratisch organisierten Partizipativen KI-Entwicklung, sondern die tun das ja weil sie einen Return on Investments machen und der ist halt bei Waffen ziemlich gut.
• 1:00:40
  Speaker 0: Und da sind die ganzen KI großen KI Player, die haben ja exorbitante Schulden gemacht also wirklich zwei um dreistellige Milliardenbeträge ausgelegt.
• 1:00:54
  Speaker 0: und wenn dann das Pentagon kommt und sagt, wir haben hier einen Milliardenauftrag.
• 1:01:00
  Speaker 0: Dann ist es natürlich im Interesse der Investoren dass diese Aufträge auch angenommen werden.
• 1:01:06
  Speaker 0: übrigens das ist ja auch ein Punkt an dem sich an dem sich dann Entropic von, da ist ja der Dario Amodei.
• 1:01:15
  Speaker 0: Der war ja nicht ein Vorgänger.
• 1:01:17
  Speaker 0: Jedenfalls es hat zu einer Entzweihung geführt zwischen OpenAI und den Entropic-Gründern aus ethischen Überlegungen heraus.
• 1:01:29
  Speaker 0: Und Entropic hat bis heute sich verweigert autonome KI-Systeme ans Militär zu verkaufen.
• 1:01:37
  Speaker 0: nur Eine, das ist weniger heldenhaft oder weniger grundsätzlich als man vielleicht denkt.
• 1:01:46
  Speaker 0: Weil Entropic auch mit militärischen Einrichtungen zusammenarbeitet so lange dieses Human in the Loop Prinzip noch eingehalten wird.
• 1:01:54
  Speaker 0: Aber über
• 1:01:54
  Speaker 1: dieses Human In The Loop Prinzip ist genau das was ich in dieser Dokult genannt habe beschrieben.
• 1:02:00
  Speaker 0: Und das kannst du de facto in der Pfeife rauchen.
• 1:02:02
  Speaker 0: von daher sind alle verwickelt in diese militärische Unternehmung.
• 1:02:07
  Speaker 0: und wenn jetzt Wir sind ja eingestiegen, mit diesem Aufruf von Amodei und Sam Orman und anderen die KI-Entwicklung abzubremsen.
• 1:02:18
  Speaker 0: Wenn sich die zusammenfinden über diese Grundsatzdifferenzen hinweg zusammenfinden und sagen ne wir finden alle das Zeug läuft uns langsam aus dem Ruder dann kommt ein Präsident wie Donald Trump und droht allen die dieser Verlangsamung entsprechen wollen und sagt wir müssen unseren Standort Vorteil gegenüber China halten.
• 1:02:40
  Speaker 0: Okay,
• 1:02:41
  Speaker 1: aber Manu jetzt vielleicht kommt zunächst noch kurz die Einschätzung wie wir das Waffen und das Kriegsproblem einschätzen weil dann müssen wir noch einen Sprung machen zu dem Punkt vor dem sie nämlich wirklich warnen.
• 1:02:56
  Speaker 1: Waffen was würdest du sagen?
• 1:02:59
  Speaker 1: Acht von zehn ja bin ich bei.
• 1:03:01
  Speaker 1: dir würde auch sagen.
• 1:03:04
  Speaker 1: wovor unsere KI-Spezialisten warnen.
• 1:03:09
  Speaker 1: Besteht ja gar nicht im Thema Waffen, es besteht auch nicht in dem Thema Desinformation, es besteht eigentlich kaum im Thema Arbeitswelt.
• 1:03:18
  Speaker 1: Es besteht darin dass man sowas wie eine Techapokalypse entwickelt und aus der Idee besteht das die KI über das was wir immer generative Kainen, ein Eigenleben entwickelt sich selbst reproduzieren kann.
• 1:03:35
  Speaker 1: In einem Punkt der Singularität dem Menschen überlegen wird, sich vernetzen kann, sich selbst zu immer höheren Formen aufschwingen und reproduziert so dass da eigentlich eine nächste Stufe an Evolution erreicht wird, die wir nicht mehr kontrollieren können.
• 1:03:56
  Speaker 1: Der wir selbst ausgeliefert sind wie der Natur.
• 1:04:01
  Speaker 1: Das ist ja das worauf sich die ernsten Warnungen dieser Tech-Gurus immer beziehen?
• 1:04:12
  Speaker 0: Eigentlich dieses Skynet-Szenario beim Terminator, das schon vor Jahrzehnten quasi zu dieser grandiosen Filmreihe geführt hat.
• 1:04:21
  Speaker 0: Die KI übernimmt irgendwann... die Kontrolle und kommt auch zum Schluss, dass der Mensch diesen Planeten eigentlich gar nicht gut tut.
• 1:04:32
  Speaker 0: Und beginnt quasi die Menschheit auszurotten oder auch schon nur – es wäre ja schon ein Horrorszenario wenn das jetzt nicht mit irgendwelchen handfesten Vernichtungsplänen einhergeht sondern wenn man einfach merkt wir haben hier mit der KI-Systeme eine Größe geschaffen, eine Dynamik angestoßen mehr her werden.
• 1:04:55
  Speaker 0: Wir kriegen die quasi nicht mehr in die Box zurück und können das nicht mehr kontrollieren, ich sage nicht dass es völlig ausgeschlossen ist, dass so etwas passiert!
• 1:05:07
  Speaker 0: Ich habe nur all meine Ängste, Eingangs gesagt, ich habe nicht nur Ängste.
• 1:05:14
  Speaker 0: Ich hab auch viele positive Erwartungen.
• 1:05:15
  Speaker 0: aber all meine Ängse die ich habe beziehen sich auf den menschlichen Missbrauch von KI.
• 1:05:21
  Speaker 0: Da würde ich dann doch mit einer gewissen Faszination drauf schauen wenn dieses Problem einer eigenständigen einer selbständigen rogue gegangenen KI eintreten.
• 1:05:32
  Speaker 1: Ja und ich glaube diese ganze Idee immer davon lebt dass man von KI im Singular spricht.
• 1:05:40
  Speaker 1: Die KI wird tun.
• 1:05:42
  Speaker 1: Ich glaube, es wird so sein.
• 1:05:43
  Speaker 1: Wenn es Systeme gibt die autonom Dinge hacken, die Geld transferieren können, die Schreibrechte haben und irgendwas selbst fabrizieren kann, die sich selbst Strom besorgen können
• 1:05:56
  Speaker 1: etc.,
• 1:05:57
  Speaker 1: dann wird es halt andere Systeme geben, die genau das versuchen zu unterbinden.
• 1:06:02
  Speaker 1: also ich Ich bin da wirklich nicht auf der Katastrophenseite.
• 1:06:07
  Speaker 1: Ich glaube, das sind wirklich Ideen die uns letztendlich von dem ablenken wo wir wirklich steuern sollten und könnten Und deswegen finde ich diese Warnungen auch in einer gewissen Weise ein bisschen scheinheilig.
• 1:06:22
  Speaker 1: Also quasi von KI zu sprechen, als wäre da jetzt ein Stück entfesselte Natur in einer Selbstentwicklung und wir können es nicht mehr einholen.
• 1:06:31
  Speaker 1: Weißt du so'n bisschen wie der Zauberlehrling?
• 1:06:34
  Speaker 1: Ja ja!
• 1:06:34
  Speaker 1: Der jetzt merkt, ui, da ist aber irgendwie gar nicht so gut gelaufen.
• 1:06:40
  Speaker 1: Das finde ich affig angesichts dessen dass es tatsächliche Herausforderungen gibt die uns im Bereich Arbeit privat leben Aber auch der ganzen demokratischen Struktur, die auf Information angewiesen ist.
• 1:06:57
  Speaker 1: Und dann knallharten Themen wie Kriegsführung wirklich offen stehen wo wir wirklich Steuerungsmöglichkeiten haben?
• 1:07:04
  Speaker 1: Wo wir sagen können das wird nicht eingesetzt bei uns daran wird nicht geforscht es wird nicht gemacht.
• 1:07:10
  Speaker 1: Es gibt ja Beispiele wo wir technologische Möglichkeiten hätten die wir trotzdem nicht einsetzen.
• 1:07:19
  Speaker 1: Oder dieses Argument, dass sobald etwas möglich ist wird es gemacht.
• 1:07:23
  Speaker 1: Stimmt einfach nicht!
• 1:07:24
  Speaker 1: Ist empirisch falsch?
• 1:07:27
  Speaker 0: Mir kommt jetzt so die ganze Embryonenforschung in den Sinn, wo man auch dann aus ethischen bioethischen Gründen gewissen Forschungen den Riegel vorschiebt und sagt ja, man könnte hier weitergehen.
• 1:07:43
  Speaker 0: Und es gibt dann sicher auf der Welt Länder, die das nicht gleich streng sehen.
• 1:07:48
  Speaker 1: oder denken wir an Bio-Waffen,
• 1:07:50
  Speaker 0: die
• 1:07:51
  Speaker 1: auf Viren zum Beispiel setzen würden?
• 1:07:54
  Speaker 1: So was tut man ja da nicht!
• 1:07:56
  Speaker 1: Ja.
• 1:07:57
  Speaker 1: Und deswegen finde ich, ja dieses Thema der Singularität einer KI die sich über autogenerative Prozesse zu einer nächsten Evolutionsstufe hoch schraubt und uns dann alle unterwerfen und knächten wird, finde ich ehrlich gesagt witzig für Science Fiction und Kino.
• 1:08:20
  Speaker 1: Aber das sollte uns wirklich nicht ablenken von den drei Feldern, in denen wir wirklich Hausaufgaben zu machen.
• 1:08:27
  Speaker 1: Ja
• 1:08:28
  Speaker 0: eben!
• 1:08:28
  Speaker 0: Das finde ich jetzt eigentlich ein ganz wichtiges Statement oder eine wichtige Einsicht auch... Zum Schluss insgesamt ist diese Folge jetzt irgendwie wesentlich auch nachdenklicher und vorsichtiger geworden, als ich es erwartet habe.
• 1:08:43
  Speaker 0: Es gibt wirklich Möglichkeiten oder Potenziale für die Entwicklung von KI-Systemen, die das Leben vieler Menschen auch verschlechtern oder gefährden könnten.
• 1:08:56
  Speaker 0: Und gleichzeitig bin ich fest davon überzeugt dass zumindest jetzt noch breite Handlungsspielräume bestehen.
• 1:09:05
  Speaker 0: Das ist die Grundintention auch hinter diesen KI-Leitlinien, die wir entworfen haben zu sagen – auch als Kirchen aufzurufen und zu sagen Wir haben noch Handlungspielraum!
• 1:09:17
  Speaker 0: Wir können in Kirchen selber, können uns bemühen in einer nachhaltigen Weitsichtigen Weise mit KI Modellen und Errungenschaften umzugehen.
• 1:09:29
  Speaker 0: Bürgerinnen und Bürger des Landes können wir demokratisch einwirken.
• 1:09:34
  Speaker 0: Es braucht natürlich internationale Bemühungen, auch Datenschutz
• 1:09:39
  Speaker 0: usw.,
• 1:09:40
  Speaker 0: diese Geschichten auch verbindlich vorzugeben – ich glaube die haben jetzt doch Handlungsspielräume!
• 1:09:46
  Speaker 0: Ich kann mir gut vorstellen dass die Handlungsspielräume enger werden wenn man das ganz einfach frei laufen lässt in einem neolibertären Überschwang.
• 1:09:56
  Speaker 0: der Markt wird regeln Wann bist du wirklich bei einem Szenario?
• 1:10:01
  Speaker 0: Da hast du noch ein, zwei große Player die eigentlich die Daten der ganzen Welt in der Hand haben.
• 1:10:07
  Speaker 0: Das wäre gefährlich aber da sind wir noch nicht!
• 1:10:10
  Speaker 0: Ich
• 1:10:10
  Speaker 1: habe viel weniger Angst vor dem Markt als vor der Politik.
• 1:10:14
  Speaker 1: Weil jetzt stell dir mal vor... Jetzt machen wir mal ganz einfaches Beispiel.
• 1:10:18
  Speaker 1: sagen wir es gäbe jetzt genau einen Monsterzüchter Und der Monsterzüchter in den USA würde sagen, du hast mir einen riesen Monster gelungen.
• 1:10:32
  Speaker 1: Das Problem ist nur das Pflanze sich jetzt selbst fort und ich habe Riesenangst.
• 1:10:36
  Speaker 1: was passiert bei deiner nächsten Generation?
• 1:10:39
  Speaker 1: weil die werden jedes mal krasser wird durch jeder normale Mensch sagen ja gut dann darfst Du das nicht mehr weiter züchten?
• 1:10:47
  Speaker 1: Das ist jetzt fertig Experiment zu Ende!
• 1:10:51
  Speaker 1: Das ist so gefährlich.
• 1:10:52
  Speaker 1: wenn es ja selbst so einschätzt Dann müssen wir das jetzt verbieten das muss gestoppt werden.
• 1:10:58
  Speaker 1: Jetzt läuft ja der ganze Trick aber so, dass man sagt Ja, aber die Chinesen, die hören dann nicht auf.
• 1:11:03
  Speaker 1: Die züchten das Monster weiter und das Monster wird dann super gefährlich sein für uns.
• 1:11:08
  Speaker 1: Das chinesische Monster ist noch schlimmer als das amerikanische Monster.
• 1:11:12
  Speaker 1: Aber das bedeutet ja, dass wir am Schluss nicht dran glauben Dass wir es nicht mehr steuern weil Es wäre ja dann so.
• 1:11:19
  Speaker 1: also die Angst vor der chinesischen KI die sich weiterentwickelt werden dummen Europäer und Amerikaner einen Stopp einlegen, lebt ja letztendlich immer noch davon dass diese chinesische KI steuerbar ist.
• 1:11:34
  Speaker 1: Weil sonst würden wir sagen die Idioten erschaffen gerade einen riesen Monster das sie alle auslöschen wird.
• 1:11:41
  Speaker 1: aber das glauben wir gar nicht wirklich weil das wäre ja Trump scheiß egal Das ist ja nicht der Punkt dabei.
• 1:11:48
  Speaker 1: Das Ding ist, dass wir über KI-Moment sprechen als wäre es ein Naturereignis aber es trotzdem nationalstaatlich kontrollieren wollen und ich glaube darin zeigt sich das diese ganze Debatte im letzten nicht wirklich aufrichtig ist?
• 1:12:08
  Speaker 0: Ja!
• 1:12:09
  Speaker 0: Und inwiefern findest du an dieser Stelle die Politik noch...
• 1:12:16
  Speaker 1: Noch gefährlicher?
• 1:12:17
  Speaker 1: Ganz einfach.
• 1:12:18
  Speaker 1: Also wenn Sam Altman, Elon Musk und Armaday sagen hey pass auf das ist wirklich gefährlich es braucht jetzt ein Stopp!
• 1:12:28
  Speaker 1: Und das beste Argument was der Politik dazu einfällt ist zu sagen geht gar nicht viel gefährlicher weil China will keinen Stopp machen dann halte ich die Politik für viel gefährlich als die Wirtschaft.
• 1:12:40
  Speaker 0: ja Es gibt ja immer noch die Deutung, dass jetzt schon vor zwei Jahren oder so gab es diesen Aufruf zum Moratorium von diesen großen KI-Konzernen.
• 1:12:51
  Speaker 0: Da hat man auch schon den Verdacht gehegt, dass sich auch um einen Marketinggeck oder eine Marketingmaßnahme handeln könnte das die KI Unternehmer... demonstrieren wollen, was ihre KI alles kann.
• 1:13:07
  Speaker 0: Aber es scheint doch so zu sein als ob da eine echte Sorge mit dabei ist vor allem jetzt gerade bei diesem Aufruf vom zwölften September vor allem weil da ja wirklich auch KI-Erzfeinde, also Entropic und Open AI.
• 1:13:26
  Speaker 0: Die haben ja wirklich kein Interesse zu nahe zueinander zurück.
• 1:13:30
  Speaker 0: Und wenn die Unisono sagen quasi Zähne knirschend sagt dann Sam Orlman ich muss Entropic recht geben es läuft uns aus dem Ruder.
• 1:13:40
  Speaker 0: Ich finde schon dass es Grund gibt das auch ernst zu nehmen und dass die Politik dann aus reinen Standort-Vorteilüberlegungen heraus eigentlich diese Bedenken der Experten in den Wind schlägt, das ist schon bedenklich.
• 1:13:58
  Speaker 1: Ja ich glaube ja.
• 1:13:59
  Speaker 1: Aber es
• 1:14:00
  Speaker 0: gibt Handlungsspielräume.
• 1:14:02
  Speaker 0: also lasst mich doch zum... Ich habe meinen Armen!
• 1:14:05
  Speaker 0: Das
• 1:14:05
  Speaker 1: wollte ich nämlich jetzt gerade fragen, ob du einen Armen hast oder
• 1:14:11
  Speaker 0: Genau, ich habe einen Armen aus den zehn Leitlinien.
• 1:14:21
  Speaker 0: Und zwar die vierte Leit Linie – Ich hab immer so Kernsätze formuliert, die das verdichten.
• 1:14:27
  Speaker 0: und der Kernsatz zur vierten Leitline lautet folgendermaßen Der Umgang mit Technik wird nicht nur durch ihre Möglichkeiten bestimmt, sondern auch durch die Geschichten, die Menschen über sie erzählen.
• 1:14:43
  Speaker 0: Christian Glaube deutet Technik weder als Schicksal noch als Erlösung, sondern als Mittel der Weltgestaltung in Verantwortung vor Gott und den Menschen.
• 1:14:57
  Speaker 1: Amen!
• 1:14:58
  Speaker 1: Jetzt wünschen wir euch vielleicht ganz schöne Ferien, vielleicht auch nur eine ausgeglaubte Pause.
• 1:15:06
  Speaker 1: Hoffentlich gut wird für euch.
• 1:15:08
  Speaker 1: Wir freuen uns, euch am Donnerstag nach unserem Urlaub wiederzuhören!
• 1:15:15
  Speaker 1: Meldet euch gerne auch bis dahin wenn ihr Themenvorschläge habt, wenn ihr Reaktionen habt und selbst vielleicht Gedanken euch gemacht habt zum Thema KI, wie ihr das einschätzt.
• 1:15:28
  Speaker 1: Wie ihr das seht?
• 1:15:29
  Speaker 1: Wahrscheinlich wird uns das Thema immer wieder begegnen auch nach der Ferienpause und wir sind sehr neugierig, wie Ihr das so seht und einschädzt.
• 1:15:40
  Speaker 1: Bis dahin!
• 1:15:41
  Speaker 1: Euch allen eine ganz gute Zeit digital und analog mit künstlicher Intelligenz und ganz viel Herz.
• 1:15:49
  Speaker 1: Tschüss zusammen!
• 1:15:53
  Speaker 0: Reflepp.