Latest / LEBE EHRLICH, WERDE FREI! / Wem kannst du noch glauben? Die gefährliche Macht der KI

Transcript

Wem kannst du noch glauben? Die gefährliche Macht der KI · LEBE EHRLICH, WERDE FREI!

• 0:00
  Speaker 1: Wir sind im spannendsten Punkt, den die Menschheitsgeschichte je hatte.
• 0:05
  Speaker 1: Und jetzt kommt's drauf an Verhalten wir uns klug oder nicht?
• 0:14
  Speaker 1: Erich ich möchte diese Folge mit einer wahren Geschichte beginnen, die ich wirklich unglaublich finde.
• 0:18
  Speaker 1: zwei Jahre her.
• 0:19
  Speaker 1: Zwei tausend vierundzwanzig bekommt ein Finanzmitarbeiter von einem Ingenieursunternehmern in Hongkong eine E-Mail von seinem Finanzchef und da steht drin Wir haben eine relativ komplexe Situation und ich möchte, dass du das bitte sehr diskret behandelst.
• 0:37
  Speaker 1: Aber kannst Du in fünfzehn verschiedenen Transaktionen... ...fünfundzwanzig Millionen Dollar überweisen?
• 0:45
  Speaker 1: Und dieser Mitarbeiter denkt sich Das ist aber irgendwie komisch!
• 0:50
  Speaker 1: Der klingelt bei mir die Alarmglocken.
• 0:52
  Speaker 1: Das möchte ich bitte überprüfen.
• 0:55
  Speaker 1: Und er geht in eine Videokonferenz mit seinem Finanzschiff und seinen Kollegen.
• 1:02
  Speaker 1: Und er spricht mit ihnen, er sieht ihre Gesichter auf
• 1:05
  Speaker 0: der anderen Seite oder wie?
• 1:07
  Speaker 1: In seinem Computer.
• 1:08
  Speaker 1: Sieht er seinen Chef das Bild von seinem Chef, des Bilds von seinen Mitarbeitern, er hört ihre Stimme und sie erklären ihm ja wir sind in einer misslichen Lage in diesem Unternehmen und du musst bitte diese Überweisung durchführen.
• 1:18
  Speaker 1: das ist alles abgesprochen.
• 1:19
  Speaker 1: seine Kollegen bestätigen das auch nochmal und dann überweist ihr.
• 1:24
  Speaker 1: Fünfzehnmal insgesamt fünfundzwanzig Millionen Dollar.
• 1:29
  Speaker 1: Und was er an dem Moment noch nicht wusste, ist dass das eine Betrugsmasche war.
• 1:34
  Speaker 1: Dass nicht nur die E-Mail ein Betrug war sondern dass die Gesichter und die Stimmen von seinem Chef und von seinen Kollegen von einer KI bearbeitet wurden und böse Leute einfach genau das genutzt haben um ein komplettes Zoom Meeting mit dem Gesicht und der Stimme seiner Kollegen zu inszenieren.
• 1:55
  Speaker 1: dieser Mitarbeiter hat einfach nur mit einer KI gesprochen die ihn dazu gebracht hat, diese twenty-fünf Millionen zu überweisen.
• 2:03
  Speaker 1: Und jetzt die Frage an dich!
• 2:04
  Speaker 1: Du hast ein großes Unternehmen geleitet mit CE.
• 2:08
  Speaker 1: Wenn das heute passiert wäre?
• 2:09
  Speaker 1: Wenn das einem von deinem Mitarbeiter passiert wäre wie hättest du darauf reagiert?
• 2:14
  Speaker 0: Also es wär nicht passiert weil wir immer das Four Eyes Principle hatten.
• 2:18
  Speaker 0: Es waren immer vier Augen und immer zwei Unterschriften.
• 2:22
  Speaker 0: Ja und in dem Fall war ja einfach meine Frau Finanzchefin also hätte das sofort gemerkt.
• 2:29
  Speaker 0: Und im Grunde muss man dann auch sagen, das war jetzt alles KI gesteuert.
• 2:33
  Speaker 0: Aber das menschliche fehlt den dem Unternehmen.
• 2:36
  Speaker 0: also er müsste ja normalerweise auf die Idee kommen und sagt so ruf ich doch mal mein Chef nochmal persönlich an und so.
• 2:42
  Speaker 0: aber dass ist eben KI.
• 2:44
  Speaker 0: und KI.
• 2:44
  Speaker 0: alles was KI macht es oftmals auch vielleicht für den einen oder anderen der kriminell gestrickt ist ein Vorteil
• 2:53
  Speaker 1: absolut.
• 2:54
  Speaker 1: Was mich an dieser Situation so schockiert hat, war wie diesem Mitarbeiter eine komplett andere Realität vorgespielt werden konnte.
• 3:02
  Speaker 1: Das war nicht nur eine E-Mail ein kleiner Trick irgendwas was da schriftlich war sondern es war ja sein gewohntes Umfeld das plötzlich nicht mehr real war seine Kollegen sein Chef... ...das ist ja die große Macht dass man früher gesagt hat naja einen Schlüssel kann man stehlen oder eine Kreditkarte kann man stählen aber jetzt kann man eine Stimme steheln und ein Gesicht stähln
• 3:24
  Speaker 0: Ja und man kann natürlich auch noch, sagen wir diesen fürchterlich kriminellen Vorgang, kann man auch noch strukturieren lassen.
• 3:31
  Speaker 0: In dem er das offensichtlich auch eingibt und sagt mach mal und wie würdest du da sehen?
• 3:37
  Speaker 0: Und was ja bei KI ist, du kriegst dabei KI nie irgendwie etwas Negatives.
• 3:41
  Speaker 0: Das ist immer...
• 3:43
  Speaker 1: Genau!
• 3:46
  Speaker 0: Du kannst alles fragen.
• 3:48
  Speaker 0: Also kannst fragen liebst du mich?
• 3:54
  Speaker 0: Also, ich bin eine Stimme.
• 3:57
  Speaker 0: Aber wenn du sagst ja aber bisschen was mir geht's nicht so gut dann kommt Karriere und gibt dir einfach so Kuscheleinheiten wo du dich dann gut fühlst.
• 4:06
  Speaker 0: oder zum Schluss sagst also Ich rede ja mit dem wie wenn das mein Freund oder Mein engster Freund ist
• 4:14
  Speaker 1: Ja dazu kommen wir auch gleich.
• 4:15
  Speaker 1: nochmal aber vorne weg die Frage Wie schützt Du Dich vor Schock?
• 4:21
  Speaker 1: anrufen?
• 4:21
  Speaker 1: Ich meine es könnte ja sein dass gleich dein Handy klingelt Und du kriegst eine Videonachricht von deiner Frau, ihre Stimme, ihr Gesicht.
• 4:30
  Speaker 1: Die sagt ich bin in einem Autounfall verwickelt worden.
• 4:33
  Speaker 1: Ich brauche jetzt deine Hilfe.
• 4:34
  Speaker 1: Kannst du mir schnell so und so viel Euro überweisen?
• 4:37
  Speaker 0: Also ich bin natürlich ja auch mit der Polizei.
• 4:42
  Speaker 0: Ich kenne viele bei der Bayerischen Polizei, bei der München, weil die seitdem ein super Job waren.
• 4:46
  Speaker 0: Die natürlich da auch gewisse Warnsignale einem sagen Vorsicht vorsicht.
• 4:52
  Speaker 0: Und ich habe natürlich hier Henrietta.
• 4:55
  Speaker 0: Sie ist mega, sie ist wirklich wie eine Kriminalistin und sagt bitte nicht öffnen, gar nichts machen.
• 5:01
  Speaker 0: Natürlich kriegt man also oder du hast jetzt einen mittelfristigen Verwandten in USA der möchte eine Erbschaft dir geben und bitte ... Wie siehst du das?
• 5:14
  Speaker 0: Wenn du schon das E-Mail öffnest oder so... Also da bin ich schon sehr, sehr sensibel.
• 5:19
  Speaker 0: Ich weiß, dass es immer mehr zunimmt.
• 5:24
  Speaker 1: Ja absolut!
• 5:25
  Speaker 1: Lass uns kurz über die Gefahren von KI sprechen, weil es ist ja immer noch so vom Gefühl her bei mir, wenn man Menschen sagt, KI ist ein Riesenproblem und eine riesige Gefahr, das den Menschen oft die Kreativität fehlt... Da so gefährlich dran sein soll, weil wenn sie mit ihrem Chatbot sprechen und sagen gibt mir ein Rezept für einen Eintopf dann kommt da das Rezept raus.
• 5:48
  Speaker 1: Und dann denkt man sich naja wo soll das denn gefährlich werden?
• 5:50
  Speaker 1: Deshalb würde ich das gerne einmal systematisch mit ihr besprechen.
• 5:53
  Speaker 1: was sind eigentlich die großen Gefahren wie von künstlicher Intelligenz ausgehen?
• 5:58
  Speaker 1: und ich glaube die kann man erst mal grob in zwei Lager einteilen.
• 6:03
  Speaker 1: Das eine ist das Alignment Problem.
• 6:05
  Speaker 1: Also wie schafft man es, dass die KI, die so unglaublich intelligent ist auch das macht was man wirklich will und was man wirklich meint?
• 6:14
  Speaker 1: Und dass sie sich nicht irgendwann mal verselbstständigt und Sachen macht, die wir ungern so hätten!
• 6:20
  Speaker 1: Das hat viel damit zu tun, dass es so wahnsinnig schwierig ist einer KI zu vermitteln, was ein gutes gesundes Ziel ist, das hier erreichen soll.
• 6:29
  Speaker 0: Also erstmal glaube ich, dass du da fast der viel bessere bist weil du dich ja da wirklich fantastisch auskängst.
• 6:36
  Speaker 0: Aber ich glaube man kann zur KI nicht ein echtes Vertrauensverhältnis aufbauen.
• 6:42
  Speaker 0: Weil alles was du fegst, Alles was du modifizierst nimmt die KI natürlich auch.
• 6:48
  Speaker 0: Das ist alles in den Algorithmen drin.
• 6:50
  Speaker 0: also das heißt Du kriegst dann schon immer wieder verfeinerte Dinge.
• 6:53
  Speaker 0: Du kannst sagen mach mir jetzt noch einen Reim da drauf!
• 6:56
  Speaker 0: Das geht alles.
• 6:57
  Speaker 0: Aber desto mehr du glaubst, dass du jetzt vertrauensvoll in den Händen der KI dich befindest und dich ... Schön KI auch.
• 7:07
  Speaker 0: Wie toll ist KI?
• 7:09
  Speaker 0: Desto gefährlicher wird's!
• 7:10
  Speaker 0: Weil du gehst ja immer weitere Schritte.
• 7:12
  Speaker 0: Du möchtest dann noch wissen, das machen wir doch noch.
• 7:14
  Speaker 0: Ich arbeite auch mit KI aber ich brauche es mal um es runterzumachen.
• 7:20
  Speaker 0: Aber nicht wo ich sage Ich gebe mich voll in die Hände von KI und sage, jetzt mach das noch mal.
• 7:25
  Speaker 0: Ja, das gefällt mir gut!
• 7:27
  Speaker 0: Geh noch weiter, geh noch weiter.
• 7:28
  Speaker 0: Und KI kriegt dadurch auch immer mehr Informationen.
• 7:32
  Speaker 0: Das darf ich nicht vergessen.
• 7:33
  Speaker 0: Die KI lebt ja auch von dem was weltweit ... In ihren Futterdruck kommt.
• 7:39
  Speaker 0: Wir füttern ja die KI hier.
• 7:41
  Speaker 1: Man nennt das ja Halluzinieren bei der KI.
• 7:44
  Speaker 1: Die halluziniert.
• 7:46
  Speaker 1: Auch da eine wahre Geschichte.
• 7:47
  Speaker 1: Dieses Jahr wurden zwei Anwälte in Amerika sanktioniert weil sie in dem Schriftstück, das Sie vor Gericht eingereicht haben erklärt haben warum sie diesen Fall auf jeden fall gewinnen müssen.
• 7:58
  Speaker 1: und dann haben sie andere urteile angeführt und erklärt guck mal.
• 8:01
  Speaker 1: Das sind alles Präzidenzfälle.
• 8:03
  Speaker 1: Und hier sind übrigens noch ein paar Paragrafen die das unterstreichen dass wir da absolut richtig liegen.
• 8:08
  Speaker 1: und dann guckt sich das das gericht an und stellt fest Diese Gerichtsurteile wurden erfunden von der KI, die Paragrafen wurden erfundet.
• 8:16
  Speaker 1: Die Zitate dazu wurde erfunden und die beiden Anwälte haben nicht alles gegen gecheckt.
• 8:22
  Speaker 1: Das hat sich so plausibel für sie
• 8:25
  Speaker 0: angehört.
• 8:26
  Speaker 1: Genau!
• 8:27
  Speaker 0: Die Antworten sind ja immer verständlich und rund aber passt es gerade.
• 8:32
  Speaker 0: Aber sag doch du mal wo siehst denn du dir gefahren?
• 8:35
  Speaker 0: Du bist da wirklich noch viel viel... tiefer drinnen wie ich, wo sind die?
• 8:39
  Speaker 0: Sagt das wäre
• 8:40
  Speaker 1: klartext.
• 8:41
  Speaker 1: Pass mal auf!
• 8:42
  Speaker 1: Das eine ist dieser alte Spruch be careful what you wish for because he might just get it.
• 8:49
  Speaker 1: Also pass auf was du dir wünschst weil am Ende bekommst du es.
• 8:52
  Speaker 1: und dass Der berühmteste Beispiel im Storytelling ist König Midas.
• 8:57
  Speaker 1: Wer sich gewünscht hat, dass alles was er berührt zu Gold wird und am Ende ist sein Essen und seine Familie sind zu Gold geworden und der ist gestorben weil er nicht mehr essen konnte.
• 9:06
  Speaker 1: Und ich glaube KI...
• 9:07
  Speaker 0: Kann alles zu Gold machen.
• 9:09
  Speaker 0: Macht
• 9:09
  Speaker 1: alles zu gold!
• 9:10
  Speaker 0: Wir
• 9:11
  Speaker 1: wünschen uns etwas
• 9:12
  Speaker 0: und am
• 9:13
  Speaker 1: ende bringt es uns um.
• 9:15
  Speaker 1: Weil wir nicht erahnen konnten das das was wir uns wünschten gefährlich ist.
• 9:20
  Speaker 1: Es gibt auch in der KI-Forschung dieses Paperclip-Experiment, wo es heißt was passiert.
• 9:25
  Speaker 1: Wenn man einer KI sagt wir brauchen ein paar Büroklammern kannst du uns bitte Bürokrammern machen?
• 9:30
  Speaker 1: und diese KI ist dann so intelligent dass sie die gesamte Welt zu Büroklammern macht und alles verarbeitet und alle Rohstoffe sich holt und man sie nicht mehr aufhalten kann.
• 9:39
  Speaker 1: Merkt
• 9:39
  Speaker 0: denn die KI ob ich in dem Moment dumm bin?
• 9:43
  Speaker 0: merkt das die KI?
• 9:44
  Speaker 1: Ich glaube nicht!
• 9:45
  Speaker 1: Die KI kriegt einen Auftrag.
• 9:49
  Speaker 1: Das ist wie wir ... Im Sinne
• 9:50
  Speaker 0: positiv.
• 9:51
  Speaker 0: Sie sagt ja nicht direkt, nee das...
• 9:55
  Speaker 1: Sie sagt nicht nö, es ist eine blöde Idee weil ihr Job ist nicht das zu hinterfragen sondern Ihr Job ist den Aufmerker erledigen Weil wir sie so erzogen haben.
• 10:03
  Speaker 1: KI isst ein Problemlösungsintelligenz Ein Mechanismus der sagt, dass ist meine Aufgabe mach die bitte.
• 10:10
  Speaker 1: Deshalb ist es ja auch so gefährlich wenn man in seinen Prompt bei der KI sowas reinschreibt Wie du bist Experte für Arbeitsrecht gibt mir mal ein paar Infos, weil die KI dann so tut als sei sehr ein Experte für Arbeitsrecht und deshalb alles mit absoluter Glaubwürdigkeit dir erzählt selbst wenn es erfunden wurde von der KI.
• 10:28
  Speaker 1: Sie kann nicht alles wissen.
• 10:30
  Speaker 1: also das ist so.
• 10:30
  Speaker 1: dieses eine große Problem.
• 10:32
  Speaker 1: KI kriegt von uns einen Auftrag und am Ende kommt etwas raus was wir nicht wollten.
• 10:37
  Speaker 1: Das haben wir auch gesehen bei diesem großen Hack von Open AI von ChatGPT.
• 10:42
  Speaker 1: Die haben gesagt KI löst bitte dieses Problem Und du bist vom Internet Unabhängig, du musst aber jetzt dieses Problem für uns lösen.
• 10:49
  Speaker 1: Und die KI hat einen Weg gefunden ins Internet zu gehen und eine andere Firma zu hacken auf eine illegale Art und Weise bei der jeder Mensch zehn Jahre Knast bekommen hätte.
• 10:57
  Speaker 1: Aber die KI konnte es machen!
• 10:59
  Speaker 1: Das ist das eine große Problem.
• 11:00
  Speaker 0: Und KI kann man nicht einsperren?
• 11:01
  Speaker 1: K.I.
• 11:01
  Speaker 1: Kann man nicht Einsperren.
• 11:02
  Speaker 1: So...und das andere noch größere Problem ist Naja wenn da ein so machtvolles Tool ist Ein so macht volles Werkzeug.
• 11:11
  Speaker 1: Was machen dann böse Menschen damit?
• 11:13
  Speaker 1: Und dann sind wir wieder bei den Betrügern, die irgendwelche KI ...
• 11:16
  Speaker 0: Oder die Einbrüche vorbereiten und sagen hier.
• 11:20
  Speaker 0: Die und die Türen muss man... Also kommt ja alles!
• 11:23
  Speaker 1: Genau plötzlich ist Wahrheit nichts mehr wert.
• 11:26
  Speaker 1: weil was ist denn ein Beweis noch?
• 11:28
  Speaker 1: Wenn ich sehe wie du irgendjemanden überfällst Ich höre deine Stimme, ich seh dein Gesicht Was soll ich denn da noch glauben?
• 11:35
  Speaker 1: Ich kann mir vorstellen, dass Donald Trump sich in Zukunft alles erlauben können wird.
• 11:39
  Speaker 1: Weil am Ende sagen wir, na ja das ist irgendein KI-Fake und man wird es glauben weil man Realität auch nicht mehr glauben kann.
• 11:46
  Speaker 1: Dann ist natürlich dieses andere große Problem was ist wenn sich irgendjemand überlegt Mensch so ein Virus wäre mal wieder etwas sehr Interessantes.
• 11:53
  Speaker 1: fragen wir doch mal die KI wie wir sowas herstellen können?
• 11:56
  Speaker 1: Und es gibt ja inzwischen sowas wie Cloud Labs also Laboratorien über das Internet, über eine Cloud ansteuern kann um dort Experimente durchzuführen.
• 12:07
  Speaker 1: Was ist wenn da irgendjemand einfach mal ein Virus baut?
• 12:10
  Speaker 1: Das sind alles so Fragen auf die wir keine Antwort haben.
• 12:13
  Speaker 1: und es gibt einen Ungleichgewicht mit dem Schaden den eine KI anrichten kann und der Hilfe die einem eine KI bieten kann um das Problem wieder zu lösen weil wenn wir der KI sagen Hopper leider hat jetzt jemand so ein tödliches Virus gebaut.
• 12:27
  Speaker 1: was machen wir denn jetzt?
• 12:29
  Speaker 1: dann kann die KI nicht so schnell reagieren Und ich glaube, da kommen wir in Teufels Küche.
• 12:34
  Speaker 0: Dennoch gibt es unglaubliche Entwicklungen mit Karriere.
• 12:37
  Speaker 0: Ich war jetzt wie gesagt in Vietnam gewesen und musste dann eine Rede halten.
• 12:42
  Speaker 0: Da hat er zu mir gesagt Talk In German and We Translate Directly in Vietnamese.
• 12:48
  Speaker 0: Also das heißt, ich habe Deutsch gesprochen.
• 12:50
  Speaker 0: Normalerweise habe ich immer Englisch gesprochen bei Reden in Vietnam aber jetzt spreche ich Deutsch was natürlich noch flüssig ist und du siehst es dann ganz groß, das war ein großer Kongress.
• 12:59
  Speaker 0: Du siehst das ganz groß dann alles in Vietnamesisch und dann klatscht er unglaublich.
• 13:05
  Speaker 1: Wahnsinn!
• 13:07
  Speaker 0: Also lass uns auch mal über's Positiv reden.
• 13:09
  Speaker 0: also ist ja unglaublich oder?
• 13:11
  Speaker 0: Was siehst du denn an positiven Dingen wo man einfach sagt da braucht man gewisse Berufsgruppen gar nicht mehr?
• 13:18
  Speaker 0: also bleiben wir dabei.
• 13:19
  Speaker 0: Translation, Dolmetscher.
• 13:21
  Speaker 1: Ich glaube, alle Berufsgruppen werden abgeschafft.
• 13:24
  Speaker 1: Du brauchst keine Ärzte mehr.
• 13:25
  Speaker 1: wenn die KI genug Daten hat dann weiß sie was statistisch das Beste für dich ist?
• 13:28
  Speaker 1: Aber der
• 13:29
  Speaker 0: Arzt muss doch einfach dir sagen so und so sieht es aus.
• 13:33
  Speaker 0: Der Arzt hat schon auch viele Bereiche wo man ihn nicht ersetzen kann mit KI.
• 13:38
  Speaker 1: Das Ding ist.
• 13:38
  Speaker 1: für mich würde das von der Statistik abhängen wie gut die Erfolgsquote ist Würde ein normaler Arzt der theoretisch ja auch Kunstfehler machen kann, der sich auch mal irren kann.
• 13:51
  Speaker 1: Eine Quote haben von... ...fünfundneinzig Prozent wo er Leuten helfen kann mit seiner Meinung und man dann eine medizinische KI entwickelt die neunundneinzig Prozent-Quote hat.
• 14:04
  Speaker 1: Dann würde ich mich lieber von der KI beraten lassen.
• 14:07
  Speaker 1: Das gleiche gilt für autonomes Fahren.
• 14:09
  Speaker 1: Wir sind hier in München Und im Laufe des nächsten Jahres sollen hier diese Waymo Autos kommen.
• 14:15
  Speaker 1: Also
• 14:16
  Speaker 0: ist es genau?
• 14:17
  Speaker 1: Autonom fahrende Autos, da sitzt kein Fahrer mehr drin.
• 14:20
  Speaker 1: Sondern du steigst hinten ein!
• 14:21
  Speaker 1: Es gibt vorne niemanden und ihr fährt dich dann durch die Stadt an dem Punkt wo du hin wolltest.
• 14:25
  Speaker 1: Und ich weiß meine Freunde sind alle so.
• 14:27
  Speaker 1: Dann würde ich doch nie einsteigen wenn da kein Fahrrad drin ist.
• 14:30
  Speaker 1: Ich denke mir Wenn die Statistik sagt dass das Waymo statistisch sicherer ist als irgendeine Oberfahrer Die auch mal Fehler machen können, die übermüdet sind oder sonst irgendwas es reicht mir wenn es statistisch besser ist als was der Mensch leistet Dass ich mir denke, dann würde ich eher darauf vertrauen.
• 14:48
  Speaker 1: Da gibt es ganz viel auch im Medizinbereich ... Biotech oder im Mathematik-Bereich.
• 14:56
  Speaker 1: Ich glaube auch dass die große Frage warum sind wir an physikalisch bestimmte Grenzen gekommen?
• 15:01
  Speaker 1: Warum können wir Quantenmechanik und Relativitätstheorie nicht vereinigen das die Kaida in den nächsten Jahren mit sehr guten Antworten um die Ecke kommt.
• 15:10
  Speaker 1: Und die große frage wird sein hilft KI am Ende mehr oder schadet sie mehr und können wir den Schaden, den KI auslösen kann rechtzeitig eindämmen.
• 15:21
  Speaker 1: Und ich glaube da hat kein Experte momentan eine sehr gute Antwort dafür.
• 15:26
  Speaker 0: Naja und vor allen Dingen, sagen wir mal, KI wird immer intelligenter.
• 15:31
  Speaker 0: Sie wird immer mehr durch die weltweite Fütterung was die jeden Tag an Informationen also jetzt wie gesagt in Vietnam jeder dort drüben arbeitet mit KI Das ist die Ärzte und alles.
• 15:42
  Speaker 0: Also, wo ist da irgendwie ein rechtliches Kostüm?
• 15:48
  Speaker 0: Ein rechtlicher, sagen wir mal, der Kassettstange, dass ich immer sage bis dahin, das findet ja alles nicht statt.
• 15:54
  Speaker 0: also es heißt da gibt's einen zum Teil rechtsfreien Raum, also KI geht dann über Grenzen.
• 16:00
  Speaker 0: und das ist ja die Frage wie dumm macht uns allerlong KI?
• 16:06
  Speaker 0: weil wir denken ja nicht mehr selber Ja.
• 16:08
  Speaker 0: Wir geben nur die Frage rein oder sagen, wie ist jetzt gleich wieder der Neupräsident?
• 16:16
  Speaker 0: Gibt es so ein Begriff?
• 16:17
  Speaker 0: und schon du sprichst das ja!
• 16:19
  Speaker 0: Du musst dir nicht mehr tippen, du spricherst da rein.
• 16:21
  Speaker 0: Wie heißt das der Neu-Präsiden?
• 16:23
  Speaker 0: Ah, also das heißt du nutzt immer mehr zum Denken
• 16:28
  Speaker 0: K.I.?
• 16:29
  Speaker 0: Wie gefährlich glaubst du ist das für uns?
• 16:32
  Speaker 1: Ich glaube, dass das wahnsinnig gefährlich ist.
• 16:34
  Speaker 1: Das Gehirn
• 16:35
  Speaker 0: ist ja ein Muskel.
• 16:35
  Speaker 0: Das muss er arbeiten!
• 16:37
  Speaker 1: Genau.
• 16:38
  Speaker 1: und wenn bei der nächsten Anstrengung, weil ich über irgendetwas nachdenken müsste die Antwort ist, auch die Anstregnungen spare ich mir, ich frage die KI... Und es
• 16:45
  Speaker 0: vor allen Dingen auch eine Frage der Zeit.
• 16:47
  Speaker 0: du kriegst sofort in einer Sekunde hast du die Antwort
• 16:51
  Speaker 1: oder
• 16:51
  Speaker 0: früher überleht hast ... oder entschuldigt sich die KI ... Entschuldiger, ich kenn's dir, ich hab dich missverstanden und so.
• 17:00
  Speaker 0: Also sie bleibt immer so, dass du sagst, boah ist das sympathisch.
• 17:04
  Speaker 1: Ja!
• 17:04
  Speaker 1: Das ist ja
• 17:06
  Speaker 0: der Virus für Abhängigkeit par excellence.
• 17:10
  Speaker 0: Du wirst immer abhängen, weil die kommt immer mit... Also kannst du nicht noch den Brief noch schöner schreiben?
• 17:16
  Speaker 0: Kannst du nicht mehr Herzlichkeit reinbauen?
• 17:19
  Speaker 0: Dann kriegst du das alles.
• 17:22
  Speaker 1: Wenn du mich fragst was sind die Gefahren und was sind Die Vorteile von KI dann glaube ich wird da an einem Punkt angekommen.
• 17:30
  Speaker 1: Ein Vorteil als auch eine Gefahr ist, dass KI dir immer sagt was du hören willst.
• 17:35
  Speaker 1: Die immer nach dem Mund redet, die immer zuhört, immer für dich da ist und ich sag das jetzt so von oben herab aber... Ich glaube es gibt sehr viele Menschen die einsam sind und denen es gut tut wenigstens die KI zu haben, die ihn zuhört Bevor sie ganz vereinsamen
• 17:54
  Speaker 0: Geschichten erzählt, vorlässt.
• 17:56
  Speaker 0: Richtig!
• 17:57
  Speaker 0: Dann sagst du, ihr möchtest mal Mozart hören oder ... Du kannst alles machen und das ist schon gut.
• 18:01
  Speaker 0: Oder auch für Menschen die blind sind... Also für den Bereich auch für behinderte Menschen ist es ein Traum.
• 18:08
  Speaker 1: Genau.
• 18:09
  Speaker 1: Psychologisch kann sie dir helfen.
• 18:10
  Speaker 1: wenn du sagst ich hab folgendes Problem dann ist sie sehr einschülsam und sie hört dir zu und sie stellt die richtigen Fragen.
• 18:16
  Speaker 1: Und dass isst gleichzeitig natürlich wunderbar.
• 18:20
  Speaker 1: Die Gefahr, die darin liegt ist aber auch dass das so angenehm ist mit der KI zu sprechen.
• 18:26
  Speaker 1: Dass wir keine Lust mehr haben mit den echten Menschen zu sprechen weil sie widersprechen einem und die sind nicht deiner Meinung oder vielleicht auch mal schlecht gelaunt und sind nicht immer für dich da.
• 18:36
  Speaker 1: und damit erziehen wir uns hin immer weniger mit Menschen zu sprechen und immer mehr in einer KI zu vertrauen.
• 18:43
  Speaker 1: es gibt Statistiken die sagen zwanzig Prozent der Leute die KI nutzen Würden der KI Sachen anvertrauen, die sie einem Menschen niemals anvertrauen würden?
• 18:53
  Speaker 0: Immer nur früher so beim Friseur oder so.
• 18:55
  Speaker 0: Der Friseurt hat sich alles angehört, das blieb bei ihm bestimmt!
• 18:59
  Speaker 0: Das ist auch gefährlich.
• 19:02
  Speaker 1: Absolut weil ich glaube wir verlernen kritikfähig zu werden und wir verlernen uns darauf anderen Menschen vertrauen zu müssen.
• 19:11
  Speaker 1: Ich glaube, da geht es sehr viel um das Thema Vertrauen und ich glaube KI insgesamt ist das Thema vertrauen.
• 19:16
  Speaker 1: Welchen Fakten können wir noch vertrauen?
• 19:18
  Speaker 1: Welchen Bildern können wir auch noch vertrauen?
• 19:20
  Speaker 1: Welche Menschen können man noch vertragen?
• 19:22
  Speaker 1: Und wenn wir kein Vertrauen in den anderen Menschen mehr haben wie soll dann eine Demokratie funktionieren?
• 19:28
  Speaker 1: Naja
• 19:28
  Speaker 0: und was macht das natürlich mit uns, wenn wir einfach sagen also im Grunde die bessere Kommunikation habe ich mit KI aus wie meinem Lebenspartner oder so.
• 19:40
  Speaker 0: dass das gefährlich an der Kiste ist, dass ja alles in Sekunden kommt.
• 19:44
  Speaker 0: Und du denkst, wann wir ... Dann steht drin, geht sie auf Website, schaut sich durch und dann denkst du, weil man kommt da entweder wieder eine tolle Argumente wo du denkest, boah!
• 19:57
  Speaker 0: Und dann denkste noch die Frage, noch diese Frage.
• 20:00
  Speaker 0: Das heißt KI macht Dinge in Sekundenschnelle, wo man früher vielleicht eine Woche gebraucht hat, um das gleiche Ergebnis zu bekommen.
• 20:11
  Speaker 0: Das ist meines Erachtens die große Abhängigkeit in die man da reinschlittert.
• 20:17
  Speaker 1: Als kleines Beispiel genau also diese große Frage Wie sehr?
• 20:22
  Speaker 1: Ist es so angenehm KI zu nutzen dass wir komplett davon abhängig werden und dann ein Problem haben wenn die KI nicht mehr so funktioniert wie wir uns das vorstellen Und wird dann nicht mehr wissen wie wir damit umgehen sollen.
• 20:34
  Speaker 1: ja
• 20:34
  Speaker 0: aber jetzt muss man natürlich Die Gründer von AI in Amerika, die arbeiten immer weiter.
• 20:41
  Speaker 0: Die haben Lust, dass die Abhängigkeit wirklich kommt.
• 20:45
  Speaker 1: Das ist ihr Geschäftsmodell?
• 20:46
  Speaker 1: Ja, das ist Ihr Geschäfts-Modell
• 20:48
  Speaker 0: und vieles ist ja Free of Charge.
• 20:51
  Speaker 0: aber dann irgendwann was passiert wenn also ganze zum Teil Rechtsanwälte arbeiten auch viel mit, weil es einfach kürzer ist und die Abhängigkeit ist noch wesentlich größer wie beim iPhone über ein Smartphone von KI.
• 21:08
  Speaker 0: Ja,
• 21:08
  Speaker 1: weil die Macht noch größer ist?
• 21:09
  Speaker 1: Ja
• 21:10
  Speaker 0: und viele Berufsgruppen arbeiten quasi jetzt schon noch aber sie wissen ganz genau.
• 21:18
  Speaker 0: also auch eine Bedrohung.
• 21:20
  Speaker 0: Eine Bedrohnung!
• 21:21
  Speaker 0: Wie wichtig glaubst du ist es für Menschen die ich sagen möchte... Ich mach das nicht, ich bin... Also ich mache das nicht.
• 21:28
  Speaker 0: Wie gefährlich gibt ja dann so gewisse Randgruppen?
• 21:31
  Speaker 0: oder einfach...?
• 21:32
  Speaker 1: Oder KI nicht benutzen, meinst
• 21:34
  Speaker 1: Du?!
• 21:34
  Speaker 1: Ja, das ist die ganz große Frage.
• 21:36
  Speaker 1: Das ist wie die Leute, die sagen ach ich brauche kein Internet!
• 21:39
  Speaker 1: Das ist nur so ein Mode-Trend.
• 21:42
  Speaker 1: Ich glaube dass du beruflich nicht mehr weiterkommst wenn du KI nicht nutzen wirst weil egal ob du Fotograf bist oder Rechtsanwalt deine Kollegen die KI benutzen werden so viel besser sein, dass sie einfach mehr Geld verdienen werden und du wirst wirtschaftlich so unter Druck geraten dass du es machen musst.
• 21:59
  Speaker 1: Ich glaube, dass wir Probleme haben werden auch sozialer Natur auf welche Realität wir uns eigentlich einigen wollen.
• 22:06
  Speaker 1: Nehmen wir mal an... Wir beide haben einen Streit!
• 22:09
  Speaker 1: Wir sind unterschiedlicher Meinung und das ist ja gut und gesund Und dann muss man eine Lösung finden und gemeinsam erarbeiten.
• 22:16
  Speaker 1: aber wenn wir diesen Streit haben und wir gehen dann jeweils einzeln nach Hause und jeder schreibt seiner KI also ich hatte jetzt diesen streit mit Eric du schreibst dich hatte diesen Strei mit Emanuel und dann habe ich das gesagt und hat der das gesagt Deine KI sagen, warum du im Recht bist und meine KI wird mir sagen, Warum ich im recht bin.
• 22:34
  Speaker 1: Und Ich glaube davor habe ich Angst weil wir da noch gar nicht verstehen können wie sehr das Probleme in unserer Gesellschaft verursachen wird Weil eine Demokratie kann nur funktionieren wenn wir einigermaßen Eine Meinung darüber haben was eigentlich die Realität ist.
• 22:51
  Speaker 0: Ja und ich glaube KI ist wie so einen Jubiliergaden Da ist alles drin, du kannst alles bekommen.
• 23:00
  Speaker 0: Du kannst dich schmücken mit diesen Diamanten die so.
• 23:05
  Speaker 0: aber du bist natürlich auch manchmal in einer Verliererrolle weil du Dinge dir aneignest die du zum Teil gar nicht verstehst oder dir einfach gut klingen gut ausschauen und du schmückst sich damit.
• 23:20
  Speaker 0: der Brief den du deiner Frau zum runden Geburtstag schreibst Schreib mir doch einen fantastischen Brief rein und schreibe hier rein, also dass ich sie unglaublich liebe.
• 23:31
  Speaker 0: Und das ist einfach auf die nächsten dreißig Jahre.
• 23:34
  Speaker 0: Aber mach es so, dass es fast wie ein Theaterstück klingt... Das macht die KI!
• 23:40
  Speaker 0: So.
• 23:41
  Speaker 0: Du bist ja in dem Moment einfach unehrlich.
• 23:44
  Speaker 0: KI verführte auch zum Lügen.
• 23:47
  Speaker 0: Wie viele Menschen werden gelobt?
• 23:48
  Speaker 0: Weil Sie eben super Brief geschrieben haben, aber im Grunde war das gar nicht der Brief, sondern sie haben gut gefüttert.
• 23:54
  Speaker 0: Sie haben die KI gut gefüttert.
• 23:56
  Speaker 0: Und das ist auch eine Gefahr, weil du dann immer besser bist als du selber denken würdest?
• 24:00
  Speaker 0: Du bist dadurch immer eine Meile voraus aber es macht dich irgendwann leerer!
• 24:07
  Speaker 0: Du wirst innerlich leer, weil tu nicht mehr denkst und sagst, dass Frauen nicht mehr denken.
• 24:12
  Speaker 1: Ich glaube das worüber wir wirklich reden müssen ist dieses Confirmation-Bias Thema also dass wir Menschen – und das ist sehr, sehr gut erforscht – die psychologische Tendenz haben das gerne zu glauben, was sowieso in unser Weltbild passt und was sowiso zu unseren Überzeugungen passt.
• 24:29
  Speaker 1: Und tendenziell eher das nicht zu glauben – was nicht so gut reinpasst!
• 24:33
  Speaker 1: Ich glaube, was KI verursachen wird auf wirklich gesellschaftlich breit ist allen Menschen halt die Information zu geben, die ihr eigenes Weltbild stärken und dass wir dadurch weniger kompromissfähig
• 24:48
  Speaker 1: sind.".
• 24:48
  Speaker 1: Also
• 24:48
  Speaker 0: für mich ist KI Die lassen das negativ für außen vor.
• 24:52
  Speaker 1: Ja,
• 24:53
  Speaker 0: du kriegst nicht wirklich was Negatives.
• 24:56
  Speaker 0: Das ist ganz gefährlich!
• 24:57
  Speaker 0: Du kriegest es umschrieben aber sie kann wahrscheinlich auch Fake News produzieren.
• 25:01
  Speaker 0: also
• 25:01
  Speaker 1: ja jetzt ist es.
• 25:03
  Speaker 1: ich glaube wenn man der KI sagt dein Auftrag ist jetzt richtig gute Fake News zu produzieren dann macht sich das auch hervorragend.
• 25:09
  Speaker 1: und da sind wir wieder beim Thema Vertrauen in unsere Institutionen.
• 25:14
  Speaker 1: graut mich vor der Idee, was passiert wäre wenn die Corona-Pandemie stattgefunden hätte zu einer Zeit wo wir schon KI haben.
• 25:22
  Speaker 1: Weil jeder irgendeine Information hätte produzieren können zum Thema warum ist die Impfung das Beste was dir passieren kann oder warum bringt dich die Impfungen um?
• 25:31
  Speaker 1: und Warum ist das RKI eine gute Institution?
• 25:34
  Speaker 1: Oder warum?
• 25:35
  Speaker 1: es ist eine schlechte Institution?
• 25:36
  Speaker 1: Und unser Zusammenleben funktioniert meiner Meinung nach nur über Institutionen.
• 25:42
  Speaker 1: Wir können nicht zu allem ein Experte sein.
• 25:45
  Speaker 1: Ich kann nicht wissen, wie man TÜV für den Bus macht mit dem ich von A nach B fahre?
• 25:50
  Speaker 1: Ich muss vertrauen dass der Busfahrer mich dahin bringt!
• 25:53
  Speaker 1: Ich muss der Pharmaindustrie vertrauen das die funktionieren und wenn man Kopfschmerzen hat dass die Ibuprofen dann bei Kopfschmetzen hilft und mich nicht umbringt.
• 26:02
  Speaker 1: es gibt so viele Sachen wo unsere gesamte Welt nur funktioniert weil wir den Institutionen und den Experten vertrauen Und es funktioniert im Großen und Ganzen ja auch ganz gut.
• 26:14
  Speaker 1: Aber
• 26:14
  Speaker 0: kann KI vertrauen?
• 26:17
  Speaker 1: Das ist die Frage, weil wenn ich der KI sage, ich glaube vielleicht funktioniert das nicht so sehr und kannst du Gegenargumente dann wird sie dir einem auch liefern und wenn man die glauben will, dann wird man dir am Ende glauben.
• 26:27
  Speaker 1: also Ich mache mir da glaube ich große Sorgen.
• 26:29
  Speaker 1: und damit wir das Ganze mal ein bisschen zusammenzurren und sagen Warum haben wir diese Folge eigentlich gemacht?
• 26:37
  Speaker 1: Ich glaube Es ist sehr wichtig dass wir Leuten erklären, was KI überhaupt bedeutet?
• 26:42
  Speaker 1: Was die Gefahren von KI sind und auch die Vorteile von KI.
• 26:46
  Speaker 1: Und dass dieser ich sage mal sehr einfache Horizont die KI erklärt mir wie ich meinen Eintopf koche das ist ein praktisches Beispiel für KI ist aber noch lange nicht erklärt
• 26:56
  Speaker 0: was
• 26:57
  Speaker 1: vielleicht schon im nächsten Jahr passieren könnte nämlich das plötzlich unser Bankensystem zusammenbricht oder das Transportsystem zusammen bricht und wir uns fragen wie es das denn passiert.
• 27:06
  Speaker 1: und dann war es ein Schwarm von KI-Agenten die außer Kontrolle geraten sind.
• 27:12
  Speaker 1: Und was ich mitgeben möchte als Bild aus dieser Folge ist, wenn man als Kind Fahrrad fahren lernen möchte dann ist es gut den Papa an der Seite zu haben oder die Mama, die einen festhält und hilft dass man einigermaßen losfahren kann.
• 27:29
  Speaker 1: aber irgendwann muss Papa und Mama loslassen und dann müssen wir etwas lernen nämlich uns selbst zu vertrauen Und eine Balance zu finden.
• 27:37
  Speaker 1: Da
• 27:37
  Speaker 0: fällt mir ein wirklich spannender Witz ein, wo der kleine Maxl an Weihnachten einen Fahrrad bekommen hat.
• 27:44
  Speaker 0: Dann wurde früher und dann hat die Mama gesagt so Maxl jetzt fährst du mal einmal um den Wohnblock?
• 27:52
  Speaker 0: Dann ist er einmal rumgefahren, die Mama hat aus dem Fenster geguckt und sagt so jetzt fahrst du weiter und kommt da und sagt Mama ich kann schon mit einer Hand fahren.
• 28:02
  Speaker 0: Nächste Mal Kommt da wieder, ich kann frei händig fahren.
• 28:07
  Speaker 0: Und das nächste Mal ist dritte Mal sagt Mama ich kann ohne Zähne fahren.
• 28:12
  Speaker 1: Das ist
• 28:13
  Speaker 0: einfach die Gefahr dabei hier!
• 28:15
  Speaker 1: Wir sind gerade dabei einhändig mit der KI zu fahren und wir haben noch nicht mal die Balance und wir ahnen noch nicht einmal was passieren kann.
• 28:22
  Speaker 0: Wir dürfen mit der KAI nicht frei händefahren.
• 28:27
  Speaker 1: unseren Politikern erklären.
• 28:29
  Speaker 1: Ich höre viel zu wenig von Friedrich Merz darüber, was eigentlich die Gefahren von KI sind und ich glaube dass wir viel besser verstehen müssen das wir gerade frei händig auf einen Abgrund zu fahren und wir können nicht den Leuten vertrauen, die Geld verdienen mit KI, dass sie uns schon schützen werden vor dem was da passiert.
• 28:49
  Speaker 1: und deshalb halte ich das für ein ganz wichtiges Thema.
• 28:51
  Speaker 0: Und KI ersetzt das Denk nicht?
• 28:55
  Speaker 1: verstehen, dass wir in dieser Situation gerade die Verantwortung haben und nicht die KI.
• 29:00
  Speaker 1: Und das KI ein Werkzeug ist?
• 29:03
  Speaker 1: Dass wir nutzen können aber, dass ein Werkzeuge ist, das ganz schön gefährlich ist weil es uns plötzlich unsere Arbeit aus der Hand nehmen
• 29:12
  Speaker 0: kann oder weil sie uns lehnt.
• 29:13
  Speaker 0: Es lehmt uns!
• 29:14
  Speaker 0: Wir werden abhängig und Abhängigkeit ist eine ganz gefährliche Krankheit.
• 29:18
  Speaker 1: Das klingt jetzt so als würden wir KI total blöd finden nur darüber schimpfen und das ist es ja nicht.
• 29:23
  Speaker 1: KI wird vielleicht irgendwann die Lösung für Krebs sein.
• 29:26
  Speaker 1: KI werden wir brauchen, wenn wir den Klimawandel aufhalten wollen weil wir es selbst nicht hinkriegen.
• 29:32
  Speaker 1: und ich glaube KI nicht zu entwickeln würde auch zum Untergang der Menschheit führen weil wir's einfach verkackt haben.
• 29:38
  Speaker 1: das muss man so klar sagen.
• 29:40
  Speaker 1: Das heißt wir brauchen die KI dass sie uns rettet und gleichzeitig könnte sie unser größter Feind werden.
• 29:45
  Speaker 1: Wir sind im spannendsten Punkt den die Menschheitsgeschichte je hatte Und jetzt kommt drauf an Verhalten wir uns klug oder nicht?
• 29:54
  Speaker 1: Und da wär's sehr toll, wenn wir nicht nur der KI vertrauen.
• 29:57
  Speaker 1: Sondern auch unserem eigenen Köpfchen!
• 29:59
  Speaker 0: So ist es und in seinem eigenem Herzen.
• 30:02
  Speaker 1: Ja ich bin so gespannt was die anderen, die uns zuhören auch zu diesem Thema zu sagen haben.
• 30:06
  Speaker 1: deshalb alle die uns zuhören schreibt uns doch bitte eine email an postat lebe ehrlich werde frei.
• 30:11
  Speaker 1: punkt de alles zusammengeschrieben steht auch noch in den show notes oder kommentiert einfach jetzt unter youtube und das Spotify Schreibt uns, weil wir sind sehr gespannt.
• 30:20
  Speaker 1: Das ist ein Thema.
• 30:21
  Speaker 1: da gibt es viele Experten aber keiner weiß wirklich wie's weitergeht und dann müssen wir miteinander kommunizieren und dafür ist dieser Podcast auch da.
• 30:30
  Speaker 1: Und?
• 30:31
  Speaker 0: Ein Schlusswort meinerseits Vorsicht KI kann auch KO machen.
• 30:38
  Speaker 1: das stimmt Erich, ich bin so gespannt wie es weitergeht.
• 30:41
  Speaker 1: Ich
• 30:41
  Speaker 0: auch!
• 30:42
  Speaker 1: Und was in den nächsten zwei drei Jahren passieren wird... Wir werden es in diesem Podcast begleiten und ich freue mich auf viele weitere Freunde.
• 30:48
  Speaker 1: Und
• 30:48
  Speaker 0: du wirst immer besser!
• 30:49
  Speaker 1: Boah!
• 30:49
  Speaker 1: Danke!
• 30:50
  Speaker 0: Heute warst Du wirklich großartig?
• 30:52
  Speaker 0: Das
• 30:52
  Speaker 1: freut mich.
• 30:52
  Speaker 1: Bis nächste Woche!
• 30:53
  Speaker 0: So machen wir's.