Latest / scobel / Die gefährlichste Illusion über KI: Sie weiß, was wahr ist – scobel

Transcript

Die gefährlichste Illusion über KI: Sie weiß, was wahr ist – scobel · scobel

• 0:00
  Speaker 0: Wissenschaften helfen uns neue Muster in der Wirklichkeit zu sehen.
• 0:03
  Speaker 0: Wenn sich herausstellt, dass das was die Wissenschaften herausgefunden haben zum Beispiel das Weltall expandiert tatsächlich war es stehen wir für neuen Rätseln einerseits.
• 0:12
  Speaker 0: andereseits müssen wir uns manchmal von über Jahrhunderten sogar jahrtausende alten Erkenntnissen von denen bedachten sie wären wahr verabschieden.
• 0:21
  Speaker 0: Was dann passiert, ist äußerst faszinierend.
• 0:23
  Speaker 0: Dort wo die Wissenschaften die falschen Aussagen vertrieben haben entstehen Lehrstellen und die fühlen sich schnell mit seltsamen Geistern, die wir dann wie in Götis Ballade der Zauberlehrling nicht mehr loswerden.
• 0:35
  Speaker 0: In der neuen Ausgabe von Scoble geht es um den Exorzismus der Wissenschaften und diese Geister!
• 0:40
  Speaker 0: Die Idee dazu verdanke ich einem sehr pointierten Essay des amerikanischen Biologen David Krakauer, Professor für Komplexesysteme und Präsident des bekannten Santa Fe Institute.
• 0:50
  Speaker 0: Und dieses Institut hat tatsächlich Pionierarbeit geleistet was die Erkundung und Erforschung komplexer Systeme angeht und damit eine Reihe von Gespenstern ausgetrieben.
• 1:01
  Speaker 0: Das ist die Aufgabe von Wissenschaftenschreibt Krakower Gespenster austreiben, aber diese Gespenstern kommen sehr schnell wieder.
• 1:10
  Speaker 0: Was ist damit gemeint?
• 1:11
  Speaker 0: Und warum ist das so?
• 1:12
  Speaker 0: und was hat Philosophie damit zu tun?
• 1:18
  Speaker 0: Skobel, lieber Geistern und den Exorzismus der Wissenschaft.
• 1:26
  Speaker 0: Am zweiten Oktober, in die Charts hatte es eine philosophische Formel der Popmusik geschafft.
• 1:33
  Speaker 0: The Police veröffentlichte ihr vierte Studioalbum, Ghosts in the Machine.
• 1:38
  Speaker 0: Sting hatte das nineteenhundertsechzig erschienene Buch Das Gespenst in der Maschine Englisch – The Ghost In the Machine des ungarisch-amerikanischen Schriftstellers Arthur Costler gelesen und in einen drei Minuten Pop-Song verwandelt.
• 1:52
  Speaker 0: Der Geist in der Maschine, das war nach Köstler jedenfalls, der archaische unterentwickelte Teil unserer Gehirne die die höheren rationalen Funktionen sabotieren – und damit verantwortlich sind für menschliche Destruktivität und Kriegsneigung!
• 2:06
  Speaker 0: Aber im Grunde ist es ja mit dem anderen gut entwickelten guten Teil nicht viel anders, denn er produziert am laufenden Band neue Gedanken, Und die wandern dann wie Geister durch die Geschichte.
• 2:20
  Speaker 0: Köster selbst ist dafür ein gutes Beispiel, denn der Titel seines Buches geht zurück auf einen Zitat des Einflussreichen britischen Philosophen Gilbert Ryle und Ryle wiederum bezog sich auf René Descartes und griff diesen Hart an.
• 2:33
  Speaker 0: Warum?
• 2:34
  Speaker 0: Descarte war der Ansicht, dass unser Geist also der nicht materielle Geist – die Res cogitans das denkende Ding irgendwie an den materiellen Körper, die Rezextensa das räumlich ausgebreitete Ding geklammert sei.
• 2:50
  Speaker 0: Heute wird man wahrscheinlich sagen ran geflanscht ist!
• 2:54
  Speaker 0: Wie sonst wollte der Geist denn einen Weg finden diesen Körperbefehle zu erteilen zum Beispiel jetzt den Arm zu heben?
• 3:01
  Speaker 0: So etwas ernsthaft zu glauben sagt ihr jetzt Ryle, sei doch wie bitte wieder Glaube am Geister.
• 3:07
  Speaker 0: Descartes Argument beruhe schlicht und einfach auf einem ganz schweren Kategorienfehler.
• 3:13
  Speaker 0: Und zwar, weil er Tatsachen des Geistes-Lebens einer logischen Kategorie zuordnet die in Wahrheit zu einer ganz anderen Ordnung gehört.
• 3:22
  Speaker 0: Ich werde das gleich erklären.
• 3:23
  Speaker 0: Descarte betrachtete im Grunde genommen den Geist wie in einen Körper eingesperrt und begrubt ihn quasi in so eine biologische Kiste.
• 3:32
  Speaker 0: Dafür erfand Ryle dem polemisch gemeinen Begriff Ghost In The Machine.
• 3:37
  Speaker 0: Für Descartes sei die Sache doch in etwa so gewesen.
• 3:40
  Speaker 0: Also jeder Mensch verfügt über einen Körper und über ein Geist, jedenfalls mehr oder weniger.
• 3:45
  Speaker 0: Beide sind offenbar sehr eng miteinander verbunden – heute nennen wir das psychosomatische Einheit!
• 3:50
  Speaker 0: Die menschlichen Körper befinden sich im Raum, weshalb man sie auch direkt beobachten kann?
• 3:56
  Speaker 0: Und deshalb unterliegen Sie beispielsweise auch mechanischen Gesetzen.
• 4:00
  Speaker 0: Nach dem Tod zur Descarte könne der Geist aber anders als der Körper irgendwie weiter existieren funktionieren.
• 4:08
  Speaker 0: Aber das ist eine völlig seltsame Vorstellung, sagt Reil und Reil argumentiert so.
• 4:14
  Speaker 0: Der Geist befindet sich nicht im selben Raum wie der Körper und seine Vorgänge unterliegen auch keinen mechanischen Gesetzen.
• 4:21
  Speaker 0: Die Vorgänger in einem Geist können von anderen Beobachtern zunächst mal gar nicht wahrgenommen werden.
• 4:27
  Speaker 0: warum?
• 4:27
  Speaker 0: sie sind privat.
• 4:28
  Speaker 0: nur ich selbst kann das wirken die Zustände und Vorgängel in meinem eigenen Geist unmittelbar beobachten.
• 4:35
  Speaker 0: Menschen durchleben daher geradezu zwei parallel verlaufende Geschichten.
• 4:40
  Speaker 0: Die eine besteht aus dem, was in uns und mit unseren Körpern passiert?
• 4:45
  Speaker 0: Und die andere resultiert aus dem was mit unserem Geist geschieht?
• 4:50
  Speaker 0: Der ganze dekartsche Dualismus zwischen Körper- und Geist sei ein philosophischer Mythos-Surreal – einen Kategorienfehler!
• 4:58
  Speaker 0: Und worin dieser Fehler jetzt besteht erläutert der an folgenden Beispiel.
• 5:02
  Speaker 0: Angenommen man zeigt einem ausländischen Wissenschaftler oder einer Wissenschaftlerin zum ersten Mal die Universität Oxford und führt diese Personen dann durch Colleges, Bibliotheken, Sportplätzen sehen.
• 5:15
  Speaker 0: Die wissenschaftlichen Institute- und Verwaltungsgebäude.
• 5:17
  Speaker 0: Und anschließend fragt dieser Mann dann ja aber wo finde ich denn jetzt die Universitet?
• 5:23
  Speaker 0: Er habe ja viel gesehen also
• 5:25
  Speaker 0: z.B.,
• 5:26
  Speaker 0: wo die Collegemitglieder wohnen, wo die WissenschaftlerInnen forschen Aber der Universität selbst.
• 5:30
  Speaker 0: so ist die Antwort Die Universität ist anders als du jetzt gerade annimmst, keine weitere Institutionen wie die Colleges, die Labore oder die Büros.
• 5:42
  Speaker 0: Die Universitet besteht in der ganzen Art und Weise – wie all das was du jetzt gesehen hast – bereits organisiert ist!
• 5:49
  Speaker 0: Und erst wenn man diese Koordination, das komplexe Zusammenspiel versteht hat man die Universität gesehen.
• 5:56
  Speaker 0: Der Fehler des Ausländers war also anzunehmen dass DIE Universität ein weiteres Ding derselben Klasse ist so wie Labore oder Bibliotheken.
• 6:06
  Speaker 0: Er hat die Universitet fälschlich in dieselbe Kategorie eingeordnet wie die Institution aus denen die Universitäten besteht.
• 6:14
  Speaker 0: und genau dasselbe So-Rail passiert mit Geist und Körper.
• 6:18
  Speaker 0: Denken fühlen zielgerichtetes Handeln eines Menschen können nicht vollkommen mit Begriffen der Physik, der Chemie oder Physiologie beschrieben werden.
• 6:27
  Speaker 0: Und ehrlich gesagt haben wir bis heute überhaupt noch keine einzige vollständige physikalische Theorie von dem was zum Beispiel Bewusstsein ist.
• 6:34
  Speaker 0: aber irgendwie muss man Geist ja beschreiben also verwendet man versuchsweise zumindest andere Begriffe.
• 6:42
  Speaker 0: Was man dabei beachten sollte so real ist der Umstand dass so wie der menschliche Körper eine komplexe organische Einheit ist, natürlich auch der Geist.
• 6:52
  Speaker 0: Eine Komplexe in sich organischer Einheit sein muss – auch wenn diese Einheit offenbar irgendwie anders zusammengesetzt ist oder aus einer anderen Art oder Sorte von Struktur und Prozessen besteht.
• 7:04
  Speaker 0: Jedenfalls gilt «so wie der Menschliche Körper und wie jedes andere Stück Materie ein Feld, ein ganzes Wirkfeld von Ursachen und Wirkung So muss auch der Geist ein solches Feld von Ursachen und Wirkungen sein.
• 7:19
  Speaker 0: Aber es ist eben ein kategorial anderes Feld, und keines dass man einfach mit Hilfe der gleichen bekannten mechanischen Ursachen und wirkungen beschreiben kann so als handel es sich um Physik.
• 7:32
  Speaker 0: Das wäre geradezu primitiv das zu tun und geht vor allen Dingen am eigentlichen Phänomen zum Beispiel unseres Bewusstseins vorbei.
• 7:40
  Speaker 0: Und was folgt nun aus dem immer wieder gemachten Kategorienfehler?
• 7:45
  Speaker 0: Genau das ist der interessante Gedanke von Krakauer.
• 7:48
  Speaker 0: Man vertreibt den Geist aus der Maschine des Körpers, nur damit er an anderer Stelle wieder auftaucht.
• 8:00
  Speaker 0: Alle Wissenschaft, schreibt David Krakower also, ist kontinuierlich damit beschäftigt, Gespenster auszutreiben und damit Ghosts raus aus der maschine zu treiben.
• 8:11
  Speaker 0: Damit meint Beispielsweise überflüssige Parameter in der Physik wie den absoluten Raum oder die Vorstellung, dass dieser Raum immer gerade ist.
• 8:20
  Speaker 0: Was Einstein widerlegt hat, Raumgrümung?
• 8:23
  Speaker 0: Oder... die teleologischen Agenten der Biologie, also die Idee dass Evolution zweckgerichtet sei und hinter all dem ein intelligenter Designer stecken müsse.
• 8:33
  Speaker 0: Der ganz akribisch geplant hat wie all diese seltsamen Tiere und Pflanzen usw.
• 8:37
  Speaker 0: aussehen.
• 8:38
  Speaker 0: Immer wieder geht es darum überflüssige falsch angewendete oder transzendente Muster aus den naturwissenschaftlichen Denken zu vertreiben – ganz einfach weil sie dort nicht hingehören!
• 8:50
  Speaker 0: Es sind keine guten Erklärungen.
• 8:51
  Speaker 0: Da, wo Wissenschaften Irrtümer vertreiben – die früher mal als Erklärung dienten für etwas, die wir dann auch akzeptiert haben – entstehen aber Lehrstellen und Lücken.
• 9:01
  Speaker 0: Also, wo eins zum Beispiel Gott und die Schöpfung waren ist nun die Evolutionstheorie und Prinzipien der Selektion und der Anpassung.
• 9:10
  Speaker 0: Weil wir solche Lücken nur schwer aushalten können, haben wir die Tendenz sie zu füllen!
• 9:16
  Speaker 0: Der berühmte Horror-Vakui Die Angst vor der Lehre treibt uns dahin.
• 9:21
  Speaker 0: Wir waren die einzigen Intelligenten auf diesem Planeten.
• 9:25
  Speaker 0: Gut, die Delfine vielleicht noch... aber die sind ja im Wasser!
• 9:29
  Speaker 0: Ja und dann kamen die KI-Systeme wieder eine Lücke weil man uns vertrieben hat.
• 9:32
  Speaker 0: also sprechen wir vom Ghost in the Machine.
• 9:35
  Speaker 0: Die Dinger diese Maschinen da diese KI Systeme haben doch Bewusstsein.
• 9:39
  Speaker 0: oder jetzt mal ein Ernst eines Serverfarm.
• 9:42
  Speaker 0: hat man nicht mal einen biologischen Körper.
• 9:45
  Speaker 0: trotzdem sagen wir mein Computer hat den Geist aufgegeben Stürbte also jetzt der arme Computer, der Kühlschrank, der Fernseher, der alte Toaster das Auto.
• 9:54
  Speaker 0: Sie alle geben ihren Geist auf, sagen wir so umgangssprachlich.
• 9:58
  Speaker 0: Den Geistaufgeben war aber ursprüngliche Redewendung die mit Rückbezug übrigens auf das neue Testament ausschließlich für das Sterben von Menschen reserviert war.
• 10:08
  Speaker 0: Dass wir diese Redensart also jetzt auf Maschinen übertragen haben ist nichts anderes als eine Beseelung toter Technik eben mit Geistern.
• 10:18
  Speaker 0: Wo du gemeint war, mal dass die Seele oder der Geist wenn sie den Körper verlässt falls ihr denn je da war und es einen Ort gab an dem sich der geist tatsächlich befand zum Beispiel in unserem gehören oder wo auch immer.
• 10:31
  Speaker 0: An dem sie zuhause war!
• 10:33
  Speaker 0: Wenn eine Maschine jetzt den geist aufgibt Verlässt nichts diesen ort weil nie etwas wie geist an diesem ort war.
• 10:42
  Speaker 0: Die pointe ist ein bisschen tricky.
• 10:44
  Speaker 0: Anders als wir, hat die Maschine von der wir sagen dass ihr den Geist aufgibt nie etwas aufgegeben weil sie es ja nie besessen hat.
• 10:53
  Speaker 0: Indem wir aber von Geistaufgeben sprechen geben wie ihr genau das was ihr fehlt nämlich Geist ein Innenleben bewusst sein.
• 11:01
  Speaker 0: Genau das passiert gerade mit KI-Systemen.
• 11:04
  Speaker 0: Es verhält sich also genau umgekehrt wie bei Menschen Wenn ein Mensch den geist auf gibt stirbt er und zwar der ganze mensch.
• 11:12
  Speaker 0: Wenn wir sagen, die Maschine gibt den Geist auf dann sprechen wir ihr diesen Geist, den sie zunächst gar nicht hatte allererst zu.
• 11:25
  Speaker 0: Man kann sehr genau analysieren welche Sorte gespenst hat zur welcher wissenschaftlichen Disziplin passen.
• 11:31
  Speaker 0: Cracow nennt er.
• 11:31
  Speaker 0: einige Beispiele.
• 11:32
  Speaker 0: Gilbert Reil hatte ja der Cards Rescogitans also das denkende Ding als Kategorienfehler entlarvt um es aus der Maschine zu verbannen.
• 11:40
  Speaker 0: Darwin verbannte den intelligenten Designer, also Gott – and Turing zeigte in neunzehnhundertsechsunddreißig das eine bis zur Absurdität einfache Vorrichtung bestehend aus einem einfachem Band einen Tonkopf, der was aufzeichnen kann und einer endlichen Menge von Zuständen alles brechenbare auch tatsächlich berechnet werden kann.
• 12:01
  Speaker 0: Warren McCulloch und Walter Pitts wiesen, dass Netzwerke aus sogenannten elektronischen Neuronen, die also unserem Gehirn nachempfunden waren, durchaus in der Lage waren so wie wir mit unseren biologischen Gehirnen logische Operationen durchzuführen.
• 12:18
  Speaker 0: das vertrieb den Menschen von seinem Absolutheitsanspruch in Sachen Logik eine Vorahnung dessen was KI-Systeme heute leisten, zum Beispiel wenn sie programmieren oder auch mathematische Probleme lösen.
• 12:30
  Speaker 0: Jeder dieser Bandsprüche hinterließ eine leere Stelle und leere Stellen ziehen immer wieder neue Spuhgestalten an.
• 12:38
  Speaker 0: Man könnte die Wissenschaftsgeschichte also tatsächlich als Kette von Austreibungen Exorzismen erzählen, deren jede das nächste Gespenst erst hervorbringt weil wir Austreibung nicht gut aushalten.
• 12:50
  Speaker 0: Wissenschafts Geschichte ist insofern immer Geistergeschichte.
• 12:54
  Speaker 0: Der Ungeist, den man mit großem Aufwand vertreibt, kehrt entgeistert aber eben nicht vollkommen ausgelöscht zurück und lebt wie ein untotter Vampir halbtod zugleich halblebendig weiter.
• 13:07
  Speaker 0: Krakauer unterscheidet nun zwei Sorten von Gespenstern.
• 13:10
  Speaker 0: die alten Geister oder Gespenster der Disziplin waren ontologische furchteinflößende Wesen sowie Zeus.
• 13:17
  Speaker 0: Dann ordnete man ihnen Zustände der Realität zu, also Zeus macht den Donner aus denen sie dann nach und nach von den nachfolgenden skeptischen Generationen allmählich verbannt wurden.
• 13:29
  Speaker 0: Heute haben wir es hingegen mit epistemischen Geistern zu tun.
• 13:33
  Speaker 0: Gemeins sind die komplexen Muster in großen Daten setzen, die sich als Regelmäßigkeiten Korrelationen und Strukturen manifestieren.
• 13:44
  Speaker 0: Keinem selbst der besten menschlichen Theoretiker oder Theoretikerin benannt oder wahrgenommen wurde.
• 13:50
  Speaker 0: Die LMMs, der KI-Systeme machen uns jeden Tag aufs neue Weiß das es riesige Bereiche der Regelmäßigkeit gab und gibt die wir schlicht übersehen haben.
• 14:01
  Speaker 0: Und jetzt können wir sie sehen in der Sprache In der Genetik im Wetter Oder in der Genomik.
• 14:06
  Speaker 0: Diese Muster schreibt Krakauer sind für die menschliche Intuition einfach zu hochdimensional um sie zu erfassen, aber nicht so komplex für ein ausreichend skaliertes statistisches Modell, um sich zu erkennen.
• 14:21
  Speaker 0: Also der Hintergrund ist wir haben eine Superstatistik und mit dieser Statistik können wir Dinge machen die wir eigentlich wenn man sie sozusagen auf andere Art und Weise versuchen würden auszurechnen gar nicht machen können.
• 14:34
  Speaker 0: Zu hochdimensional!
• 14:35
  Speaker 0: Wir haben also die alten Geister aus der Wirklichkeit vertrieben, um an ihrer Stelle Begriffe auf den Thron zu setzen, die besser zu den Datensätzen passen.
• 14:44
  Speaker 0: Die Wissenschaftsexerzisten wissen aber sehr genau, wonach sie suchen müssen – das ist ja ihr Job, den Fehler im System zu finden.
• 14:52
  Speaker 0: Aber dann kommen die neuen epistemischen Geister und sind viel schwerer zu erkennen, weil sie länger unsichtbar bleiben.
• 14:59
  Speaker 0: und wir haben das Problem die Muster, die diese Maschinen dann irgendwie in den Datensätzen zu erkennen auch tatsächlich zu belegen sind die da aber findet mal diese Muster.
• 15:14
  Speaker 0: So weit Krakowas Essay.
• 15:16
  Speaker 0: Ich finde wo Krakows Gedanken aufhören fängt es erst an richtig spannend zu werden.
• 15:22
  Speaker 0: also die Wissenschaften verlassen sich gegenwärtig sehr stark auf das Peer Review Prinzip.
• 15:27
  Speaker 0: Das heißt, die Überpulfung einer neuen Aussage oder Theorie durch Fachleute.
• 15:33
  Speaker 0: Nur wer durch dieses Nadelöhr kommt macht Karriere.
• 15:37
  Speaker 0: Peer Review ist also die Distanz, durch die eine neue Idee ein neuer Forschungsansatz durchgehen muss um sich bewähren zu können und das macht die Sache erst glaubhaft und seriös!
• 15:50
  Speaker 0: Im Mai Veröffentlichungsorgan der Medizin, eine Analyse von zwei Komma fünf Millionen frei zugänglichen biomedizinischen Publikationen auf erfundene Sprich KI generierte Referenzen untersucht und vermessen.
• 16:09
  Speaker 0: Zwei Tausend Dreiundzwanzig enthielt eine Von Zweitausend Acht Hundert Achtundzwantig Arbeiten.
• 16:16
  Speaker 0: Eine solche falsche Quelle in den ersten Wochen im Jahr Zwei tausend Sechsund Zwanzig bereits eine.
• 16:26
  Speaker 0: Das ist eine Verzwölffachung der Häufigkeit, falscher Veröffentlichungen.
• 16:31
  Speaker 0: Eine gesonderte Auswertung mehrerer großen Preprint-Archive zählte für das Jahr twenty-fünfundzwanzig rund hundert sechsundvierzichttausend neunhundert Zitationen die es schlichtweg überhaupt nicht gab – die existierten nicht!
• 16:48
  Speaker 0: Selbst auf einer Spitzenkonferenz, die untersucht wurde, fanden sich Dutzende begutachtete Beiträge mit erfundenen Autoren und Journalangaben.
• 16:57
  Speaker 0: Man könnte jetzt einwenden, mehr entdeckte Fälschungen bedeuten doch nur bessere Entdeckung nicht mehr Fälchungen.
• 17:03
  Speaker 0: Fortschritt also durch Kontrolle!
• 17:04
  Speaker 0: Doch das scheint nicht der Fall zu sein.
• 17:06
  Speaker 0: Vielmehr muss die Kontrolle selbst inzwischen ihre Ohnmacht eingestehen.
• 17:10
  Speaker 0: Warum?
• 17:11
  Speaker 0: Während vier von fünf Forschenden KI-Tools nutzen.
• 17:15
  Speaker 0: Das heißt sie benutzen KI Systeme um ihre wissenschaftlichen Artikel zu schreiben vertraut nur noch jeder fünfte diesen Angaben vollständig.
• 17:24
  Speaker 0: Die große Mehrheit rechnet nämlich mit gravierenden Fehlern, die die KI-Modelle, die sie benutzen tatsächlich machen.
• 17:29
  Speaker 0: Die Frage ist nur an welcher Stelle machen Sie die Fehler?
• 17:32
  Speaker 0: Aber man reibt weiter an der KI Wunderlampe weil man hofft dass der Geist, der dann erscheint eben doch der Geists der Wahrheit ist und nicht einfach nur der haluzinierende Geist aus der Maschine.
• 17:48
  Speaker 0: Man könnte all das nun für eine akademische Fußnote halten, gibt halt ein paar falsche Veröffentlichungen die erfunden sind.
• 17:55
  Speaker 0: Aber das stimmt einfach nicht!
• 17:57
  Speaker 0: Es geht nämlich um eine weitere Neukränkung, die vielleicht viel tiefer sitzt als alle Vorausgehenden... Und davon gibt es ja einige.
• 18:06
  Speaker 0: Der Begründer der Psychoanalyse Sigmund Freud sprach von drei Fundamentalkränkungen der Menschheit, Copernicus katapultierte den Menschen aus dem Zentrum des Universums, Darwin nahm ihm durch die Evolutionstheorie die Vorstellung von der Krone der Schöpfung und Freud selbst nahm den Menschen die Illusion bewusster Kontrolle über sich und die eigenen Gedanke, Gedankengefühle und Handlungen.
• 18:29
  Speaker 0: Die Zählung geht aber noch weiter.
• 18:31
  Speaker 0: noch eine Menge zahlreicher neuer Kandidaten auf der Liste, von der unscharfe Relation bis zum Determinismus des Gehirns, den es ja offensichtlich auch nicht gibt.
• 18:41
  Speaker 0: Die Komplexitätsforschung hat gezeigt dass der Mensch aus prinzipiellen Gründen die langfristige Entwicklung von Ereignissen auf der Welt nicht vorher sagen kann und zwar selbst wenn er alle Informationen hätte.
• 18:53
  Speaker 0: unter anderem kann er das deshalb weil er nicht zugleich Ort und Geschwindigkeit aller Teilchen zugleich bestimmen kann.
• 19:00
  Speaker 0: Gekränkt ist der einzelne Mensch auch, weil jeder andere Mensch, der eine Atombombe hat ihn und alles was er liebt zerstören kann.
• 19:09
  Speaker 0: Außerdem musste der Mensch im Anthropozän endgültig eingestehen dass er zu der gehört, zu hundert Prozent mit dem gesamten Erd- und Ökosystem verbunden ist.
• 19:22
  Speaker 0: Und damit untrennbarer Teil eines begrenzten Planeten ist, der den menschlichen Willen alles zu beherrschen und auszubeuten definitive Grenzen setzt.
• 19:32
  Speaker 0: Jede dieser Kränkungen war strukturell und irgendwie mit den vorausgehenden Verwandt.
• 19:39
  Speaker 0: Den Menschen wird ein Stück Souveränität über sich selbst entzogen Meist in Gestalt einer neuen Formel oder einer neuen Theorie, so was wie Quantenmechanik zum Beispiel.
• 19:49
  Speaker 0: Und jetzt sind es KI-Maschinen die der Mensch zwar selber gebaut hat, die ihm aber zeigen, was er offensichtlich übersehen hat und was er nicht kann – und ihn übertreffen!
• 20:00
  Speaker 0: Diese neue Intelligenzkränkung trifft den Kern des Menschen und sie trifft dem Kern der Wissenschaften, denn Diese bilden ja die Zentralinstanz, über die wir ausmachen was und wie wir etwas wissen oder wissen können.
• 20:15
  Speaker 0: Was aber wenn sich das mit hallucinierten Wissen verbindet?
• 20:23
  Speaker 1: Die magische Lampe!
• 20:25
  Speaker 0: Die Lampe an der man heute auch als Wissenschaftlerin reibt ist das leuchtende Meer der Daten.
• 20:32
  Speaker 0: Man nennt den Lappen der KI putzt die Daten immer wieder schön glatt und sauber Und schon erscheint, wie durch Magie der Hinweis auf einen in den Daten verborgenen Schatz ein Muster.
• 20:44
  Speaker 0: Das tief vergrabene Muster nämlich das niemand zuvor hat sehen können!
• 20:48
  Speaker 0: KI-Systeme sind die neue Wunderlampe Und reibt man lange genug erscheint mit Sicherheit irgendein Geist immer, weil irgendeinen Muster gibt es selbst in einem chaotischen Meer von Daten immer.
• 21:00
  Speaker 0: Eine Einsicht die erste Umrisse einer Theorie anzudeuten scheint?
• 21:04
  Speaker 0: Natürlich haben uns auch Fernrohre, Mikroskope und Selbstrechenschieber die Arbeit erleichtert und Arbeit abgenommen aber KI-Systeme haben ja eine völlig andere und neue Qualität.
• 21:15
  Speaker 0: Die Qualität besteht darin dass sie uns selber verändern und sie verändern die Art und Weise wie wir zum Beispiel Wissenschaft betreiben.
• 21:23
  Speaker 0: Vor allem zeigen Sie uns etwas, dass wir sehr oft überhaupt nicht mehr direkt überprüfen können!
• 21:28
  Speaker 0: Und das unterscheidet sich von allen anderen was er bisher hat.
• 21:33
  Speaker 0: Die Wissenschaften haben Geister nur vertreiben können weil sie etwas überprüft hatten und dann allen zeigen konnten.
• 21:40
  Speaker 0: hier so sieht es aus.
• 21:42
  Speaker 0: Das Weltall expandiert tatsächlich.
• 21:44
  Speaker 0: ein KI System müsste sozusagen auf sein eigenes Innenleben, was er die Fakten und Muster produziert verweisen.
• 21:52
  Speaker 0: Dass wir aber nicht mehr verstehen und verstehen können!
• 21:55
  Speaker 0: Der Flaschengeist im Märchen bleibt ja an seinen Finder – und es liegt nahezu sagen Erfinder – gebunden also an denjenigen der die Flasche findet und dann daran reibt.
• 22:06
  Speaker 0: Und dieser Flaschengeist dient diesem Finder, oder Erfinder jedes Mal wenn er gerufen wird.
• 22:13
  Speaker 0: Na ja so lange die drei Wünsche noch nicht erfüllt sind!
• 22:15
  Speaker 0: Die Geister der Sprachmodelle kennen diese Bindung an denjenigen, der sie jeweils wach ruft?
• 22:21
  Speaker 0: Nicht!
• 22:21
  Speaker 0: Sie sind promissk!
• 22:23
  Speaker 0: Lassen sich auf jeden ein... und besorgen es jedem und jeder, wie er oder sie es haben will.
• 22:28
  Speaker 0: All diese Worte wie Zeitgeist, Geistreich, Geistesplitze entgeistert geistlos setzen voraus dass Geist etwas ist das kommt und geht, dass man haben und verlieren kann das aber so lange es da ist irgendwie seinem wird gehört.
• 22:43
  Speaker 0: den wird von KI System aber kennen wir nicht denn es gibt ihn nicht außer man sagt das sind die Tech-Unternehmen.
• 22:52
  Speaker 0: KI-Systeme sind überall und nirgends zu Hause.
• 22:55
  Speaker 0: Und sie haben auch keinen Geist, Sie wissen nicht was Wahrheit ist?
• 23:00
  Speaker 0: Weil Sie die Wirklichkeit nicht erfahren mit der Sie ja abgleichen müssten, was Sie da behaupten!
• 23:06
  Speaker 0: Wir sind diejenigen wie Blöden an diesen Maschinen reiben und hoffen dadurch jetzt endlich eine verborgene Wahrheit zu finden.
• 23:15
  Speaker 0: Diese Kränkung ist zugleich vielleicht die massivste und ärgerlichste mit der wir bislang zu tun hatten.
• 23:22
  Speaker 0: Die Kränkung besteht darin, dass sie von uns selbst geschaffenen erfundenen Maschinen, die uns jetzt kränken weil sich vieles besser und schneller können als wir Menschen es je gekonnt haben, selbst nicht mehr wissen ob Sie etwas gefunden oder ob Sie's nur erfunden haben und hallucinieren.
• 23:42
  Speaker 0: Und weil dieser Geist aus der Maschine nicht mehr zu fassen noch nicht mal von der Maschine selbst, die das ja gar nicht beurteilen kann.
• 23:49
  Speaker 0: Denn sie kann ja nicht mit Sicherheit wissen ob das was sie produziert ist auch wahr ist.
• 23:54
  Speaker 0: Dazu müsste sie wissen wie die Wirklichkeit draußen aussieht.
• 23:57
  Speaker 0: Was KI-Systeme jedoch glänzend können?
• 24:00
  Speaker 0: Ist interpolieren – Mit Wahrscheinlichkeiten arbeiten!
• 24:04
  Speaker 0: Was bedeutet
• 24:05
  Speaker 0: das?!
• 24:05
  Speaker 0: Zu interpolieren bedeutet kleine Wissenslücken zu füllen, die wir dann immer wieder abrufen und verwenden.
• 24:12
  Speaker 0: Wie die Exorzisten brauchen selbst einen wirklich guten Exorzisten oder eine wirklich gute Exorzessin, die uns dann dabei hilft solche Geister, die in die Lücken reingekommen sind zu vertreiben.
• 24:25
  Speaker 0: Und genau das kann nicht wiederum ein neues oder anderes KI-System leisten.
• 24:30
  Speaker 0: Denn KI- Systeme wissen nicht, was sie tun und Sie wissen auch nichts, was Wahrheit ist!
• 24:36
  Speaker 0: Das Problem ist, dass wir es bald auch nicht mehr wissen werden wenn wir so weitermachen wie bislang und unsere unser Wissen mit haluzimiertem Wissen verbinden.
• 24:46
  Speaker 0: Und daher wissen wir nicht mehr, was ist was?
• 24:49
  Speaker 0: Die Dinge auf die wir uns verlassen arbeiten mit Wahrscheinlichkeiten – sie arbeiten nicht mit Wahrheiten.
• 24:55
  Speaker 0: Sie hallucinieren im großen Stil.
• 24:58
  Speaker 0: Und das ist genau das, was Trump und seine Big Tech-Bros mit ihrer unsinnigen Rede von alternativen Fakten erreichen wollten!
• 25:07
  Speaker 0: Wir sind tatsächlich dabei unseren Geist aufzugeben – die Geister und Gespenster sitzen bereits auf der Schwelle und freuen sich in unsere Wissenslücken zu springen.
• 25:16
  Speaker 0: Es wird höchste Zeit, dass wir uns selbst besinnen.
• 25:20
  Speaker 0: Denn Freunde der Weisheit, wir haben Geist.
• 25:24
  Speaker 0: Die KI-Systeme helfen uns zwar bei Philm und sie helfen uns durchaus auch, unseren Geist gut zu nutzen.
• 25:31
  Speaker 0: Aber wir sollten dazu stehen dass wir es sind die uns und ihnen am Ende die Wahrheit sagen.
• 25:38
  Speaker 0: Und Tschüss!
• 25:51
  Speaker 1: Finanziert wird dieses Projekt von der gemeinnützigen Stiftung AVE, dem Institut für Achtsamkeit, Verbundenheit und Engagement.
• 25:59
  Speaker 1: Den Link dazu findet ihr in der Folgenbeschreibung.