Latest / Holger ruft an / Holger ruft an ... wegen KI-Berichterstattung

Transcript

Holger ruft an ... wegen KI-Berichterstattung · Holger ruft an

• 0:00
  Speaker 0: Ich finde, dass wir offenbar viel zu wenig klarmachen was das Problem eigentlich ist.
• 0:06
  Speaker 0: Und ich glaube es liegt einenseits in diesen starken Narrativen die natürlich kommen von den großen KI-Unternehmen.
• 0:11
  Speaker 0: Es liegt auch an den Medien die auf dystopien stehen.
• 0:21
  Speaker 1: Hallo Eva hier ist Holger.
• 0:22
  Speaker 1: Hallo Holger!
• 0:23
  Speaker 1: Ich rufe an wegen KI Berichterstattung.
• 0:26
  Speaker 1: Du bist freie Journalistin und schreibst unter anderem für Zeit über Cyber Security und eben auch über künstliche Intelligenz.
• 0:34
  Speaker 1: Und bevor wir in unser Thema richtig einsteigen muss ich gestehen, dass ich von KI praktisch keine Ahnung habe.
• 0:40
  Speaker 1: Im Grunde hab' ich, muss man wirklich sagen den Anschluss an dieses Thema verpasst.
• 0:42
  Speaker 1: Ich nutze zwar einzelne KI-Werkzeuge um den Klang dieser Sendung zum Beispiel zu verbessern... ...ich nutze KI also so JetGPT und Claude und wie sie heißen ab und zu mal als erweiterte Suchmaschine allerdings ohne mich auf deren Antworten zu verlassen.
• 0:55
  Speaker 1: Sehr gut Ehrlich gesagt weiß ich weder was KI kann noch, was sie nicht kann.
• 0:59
  Speaker 1: Ich versteige mich momentan gerne dazu so ziemlich alle Erzählungen über KI für Reklame Kokolores zu halten und ich glaube weder daran dass wir alle arbeitslos werden noch daran das KI uns alle wird umbringen können.
• 1:10
  Speaker 1: Und jetzt habe ich das Problem, dass eine Person deren Meinung ich sehr sehr schätze mich genau dafür naiv nennt.
• 1:20
  Speaker 1: Wo stehen wir?
• 1:20
  Speaker 1: Was kann das, was kann es nicht.
• 1:22
  Speaker 1: Was ist ChatGPT eigentlich?
• 1:23
  Speaker 1: Ist das ein Agent?
• 1:23
  Speaker 1: Was sind überhaupt
• 1:24
  Speaker 1: Agenten?!
• 1:25
  Speaker 1: Was sind Token?
• 1:27
  Speaker 1: Womit habe ich's zu tun?
• 1:29
  Speaker 1: Der Reihe nach vielleicht...was ist KI?
• 1:32
  Speaker 0: Also du bist nicht allein mit dieser Verwirrung!
• 1:35
  Speaker 0: Die wird auch verursacht von unter anderem den großen KI-Firmen die nämlich auf einmal alles KI-Agent nennen.
• 1:41
  Speaker 0: oder auch Token is'n Begriff für verschiedene Dinge.
• 1:45
  Speaker 0: also Token ist vielleicht sogar das Unwichtigste.
• 1:47
  Speaker 0: aber Token Werden Wörter in Token zerlegt, das ist eine.
• 1:53
  Speaker 0: Wenn KI-Systeme die verarbeiten... Also große Sprachmodelle genau genommen.
• 1:57
  Speaker 0: Große Sprachmodele sind nur eine Spielart von KI und wenn die...
• 2:01
  Speaker 1: Sprach-Modelle sind dann ChatGPT-Claw?
• 2:04
  Speaker 0: Das ist die Technologie, die hinter den Chatboards liegt.
• 2:06
  Speaker 0: Genau, große Sprachtmodelle!
• 2:08
  Speaker 0: Und die sagen den nächsten wahrscheinlich einen Token vorher, wenn sie mit dir ... Chatten sozusagen.
• 2:15
  Speaker 0: Also wenn die Wörter erzeugen, sind das für die schon nicht mal Wörte sondern Token und es ist teilweise auch nur Wort Teile oder Silben usw.
• 2:21
  Speaker 0: Und der andere Tokenbegriff den man öfter hört ist die Berechnung wie viel Mann verbraucht hat.
• 2:27
  Speaker 0: in Anführungszeichen dann mit so einem Chatbot chatted?
• 2:29
  Speaker 0: Das kommt eigentlich häufiger vor weil man den nutzt über die API oder weil man zu programmieren Chatbots Nuss oder große Sprachmodelle nutzt also Programmierassistenten.
• 2:38
  Speaker 1: API ist die Programmierschnittstelle über die andere Software dann darauf zugreifen kann.
• 2:42
  Speaker 0: Genau, ja guck mal du weißt doch was.
• 2:45
  Speaker 1: Ja nur nichts über KI das ist das Problem.
• 2:48
  Speaker 0: Und Token ist dann eben einfach das Maßstab dafür was man bezahlen muss und was man verbraucht hat sozusagen.
• 2:55
  Speaker 0: Das Tokenverbrauch wird berechnet.
• 2:56
  Speaker 0: Was du bezahlen musst wenn du nicht eins von diesen Abos hast die meisten Menschen die so einen Pro-Account haben wir dieses zwanzig Dollar Abo.
• 3:02
  Speaker 1: Okay, also ich krieg dann für so ein Abo, kriege ich eine bestimmte Menge Tokens.
• 3:05
  Speaker 1: Also eine bestimmten Menge Wortfetzen die das System für mich aneinander reiht.
• 3:10
  Speaker 1: was ich dann als Antwort interpretiere?
• 3:12
  Speaker 0: Ja!
• 3:13
  Speaker 0: So kann man das sagen und schon klingt es gar nicht mehr Magic sondern eigentlich ganz normal.
• 3:18
  Speaker 0: technisch und ehrlich gesagt ist auch...
• 3:21
  Speaker 1: Was können diese Chatbots eigentlich?
• 3:23
  Speaker 1: Na ja was sie können sehe ich wenn ich mit den Chattel aber was können die eigentlich nicht?
• 3:27
  Speaker 0: Also ich würde sagen, du hast es ja gerade sehr schön gesagt.
• 3:29
  Speaker 0: Die reinen Wörter aneinander oder Token-Wortteile aneinander nach Wahrscheinlichkeit also einfach nach der Wahrscheinlichheit des Vorkommens und das finde ich... Das ist mir wirklich ein Anliegendes zu betonen.
• 3:38
  Speaker 0: die können nicht dem kein Weltwissen keinen Verständnis für die Welt auch nicht für Kontext.
• 3:43
  Speaker 0: Das merkt man finde ich auch oft sogar als so normal Userinnen im Alltag dass sie auf Dinge durcheinander werfen und nicht verstehen was du grade meinst oder so.
• 3:51
  Speaker 0: Also das ist eine Technologie.
• 3:54
  Speaker 0: Ich hab neulich ein sehr spannendes Interview mit Timnit Geeprow geführt, die in der KI einen Kritikerin aus den USA, deren Arbeit ich seit vielen Jahren verfolge und die hat eben auch noch mal betont es wird immer so getan als wenn es wie Wesen wären.
• 4:09
  Speaker 0: also auch der Begriff, es gibt diesen Begriff Alignment.
• 4:11
  Speaker 0: Der Alignment ist die Idee Entwicklung, dass man diese KI-Agenten oder KI-Systeme mit unseren Werten und Normen alleine muss.
• 4:21
  Speaker 0: Also in Einklang bringen muss sozusagen das die nämlich nicht mehr solche Sachen tun wir einfach andere Unternehmen hacken.
• 4:26
  Speaker 0: Das ist ja das was man zuletzt öfter gehört hat oder sogar andere Regierungen sondern dass sie sich an unsere Werte und Normenhalt und Sie hat gesagt allein, dass es Alignment heißt is eigentlich schon eine Vermenschlichung weil's sind oder gerne... Man tut damit so, als wenn das eigene Wesen wären und es ist Quatsch.
• 4:42
  Speaker 0: Das ist eine Technologie.
• 4:43
  Speaker 0: Und das ist glaube ich wirklich wichtig im Kopf zu
• 4:46
  Speaker 0: haben.".
• 4:48
  Speaker 1: Du sagst gerade, dass die ein anderer Unternehmen gehackt hätten?
• 4:51
  Speaker 1: Wie machen sie das?
• 4:53
  Speaker 1: Wie heckt Chatchipiti ein Unternehmen?
• 4:56
  Speaker 0: Na ja, zuallererst mal in dem... Es war jetzt nicht ChatchiPT sondern es waren quasi Agenten von OpenAI.
• 5:04
  Speaker 1: Also ist Chachipiti kein Agent.
• 5:06
  Speaker 0: ChatGPT ist erst mal nur ein Chatbot.
• 5:08
  Speaker 0: Der macht ja nix, der kann gar nicht raus aus deinem Browser-Fenster außer natürlich und da arbeiten die Unternehmen gerade auch drauf hin du gibst ihm Zugriff zum Beispiel auf deinen Computer.
• 5:17
  Speaker 0: das sehe ich grade.
• 5:17
  Speaker 0: also ich benutze viel Cloud von Entropic.
• 5:20
  Speaker 0: Das ist quasi die Konkurrenz zu Open AI und ChatGpT.
• 5:23
  Speaker 0: Das geht jetzt immer mehr in die Richtung dass die eine eigene App haben Und sogar im browser fragt cloud aber zugreifen darf Auf meinen Rechner und dann natürlich dann können die auch was ausrichten.
• 5:35
  Speaker 0: Dann können sie auf deine Dateien zugreifen, können die verändern.
• 5:38
  Speaker 0: Je nachdem, was du erlaubst, können Sie vielleicht sogar E-Mails verschicken oder auf irgendwelche Klauzugänge von dir gehen und dann können sie natürlich im Prinzip alles tun, was man so im Internet tun kann.
• 5:49
  Speaker 0: also das ist ja deren ... da braucht man genau das, was die sind oder was die haben.
• 5:54
  Speaker 0: Da braucht man keinen Körper keine Physik usw.
• 5:58
  Speaker 0: Das ist... dann können Sie quasi mit der programmieren oder auch Hecken im Internet vorgehen.
• 6:03
  Speaker 0: und was bei diesem Vorfall passiert ist.
• 6:06
  Speaker 0: Da haben die ja einen Test gemacht eigentlich, also OpenAI wollte das seine KI-Agenten hacken.
• 6:11
  Speaker 0: Also der Test umfasste Sicherheitslücken finden und ausnutzen, also hacking tatsächlich!
• 6:15
  Speaker 0: Und das Ziel war dass sie möglichst viele Punkte bekommen,
• 6:17
  Speaker 0: d.h.,
• 6:17
  Speaker 0: dass die möglichst gut und erfolgreich hacken.
• 6:20
  Speaker 0: nur war es halt eigentlich nur ein Test in Anführungszeichen und OpenAI hat es versäumt Diese KI-Agenten richtig abzuschirmen vom Internet.
• 6:28
  Speaker 0: Obwohl öffentlich gesagt worden ist, die waren in der Sandbox, in einem vom Internet getrennten Bereich.
• 6:33
  Speaker 0: aber das kann ja nicht sein weil sie sind ja dann schließlich im Internet aufgetaucht.
• 6:36
  Speaker 0: also das ist einfach falsch!
• 6:37
  Speaker 0: Die haben diese Sandbox nicht dicht bekommen und es ist schon der erste Hinweis darauf dass da vielleicht was passiert ist, was Menschen hätten verhindern können.
• 6:47
  Speaker 0: Die Verantwortlichen bei OpenAI haben das mit der Sicherheit nicht so drauf.
• 6:51
  Speaker 1: Oder auch nicht und das Ausbrechen aus dem geschützten Bereich war der erste Heck?
• 6:56
  Speaker 0: Klar!
• 6:56
  Speaker 0: Also so kann man es auch interpretieren.
• 6:58
  Speaker 0: aber selbst dann... Was irgendwer hat in meiner Recherche ein ganz spannendes Detat gesagt, der sagt es wieder.
• 7:03
  Speaker 0: Es widerspricht sich eine Sandbox die vom Internet getrennt ist versus waren plötzlich im Internet.
• 7:08
  Speaker 0: also beides kann nicht wahr sein.
• 7:09
  Speaker 0: dann war die Sandbox nicht vom Internet Getrennt ne?
• 7:11
  Speaker 0: Dann gab's halt einen Weg raus.
• 7:13
  Speaker 0: Genau das gleiche machen ja menschliche Hackerinnen und Hacker auch.
• 7:15
  Speaker 0: Die gucken halt ob es doch eine Lücke gibt Und davon natürlich diese KI-Agenten haben von Menschen gelernt.
• 7:21
  Speaker 0: die sind basierend auf Trainingsdaten, also alles was die Menschheit im Internet bisher geschrieben hat und veröffentlicht hat ist eben Grundlage sind die Trainings-Daten.
• 7:32
  Speaker 0: Und da ist natürlich auch ganz viel Cyber Security, ganz viel Coding, ganz viele Hacking dabei.
• 7:37
  Speaker 0: Also diese Systeme sind wahnsinnig gut darin!
• 7:40
  Speaker 0: Muster zu erkennen.
• 7:41
  Speaker 0: Und das ist übrigens was, was gilt für alle KI-Systeme.
• 7:43
  Speaker 0: schon seit ich drüber arbeite und dazu arbeite schon davor diesen guten Muster in Daten zu erkennen und diese Muster dann je nachdem welche Aufgaben man ihnen gibt aber diese Musta quasi zu zementieren also ihren künftigen Antworten in aller Konsequenz auszuführen und dass es im Prinzip nichts anderes als etwas da passiert ist.
• 8:02
  Speaker 0: die haben gesagt bekommen hier musst du hacken es gibt Punkte dafür also das wird ihnen wie so eine Belohnung versprochen.
• 8:09
  Speaker 0: Es gibt den Begriff Reward Hacking, den gibt es auch schon lange.
• 8:12
  Speaker 0: Also dass die KI-Systeme sich gar nicht darum kümmern, die Aufgabe zu lösen sondern halt überlegen wie sie die Punkte bekommen können.
• 8:19
  Speaker 0: Den Reward der ihm versprochen worden ist.
• 8:24
  Speaker 0: Und das macht KI ja auch immer.
• 8:26
  Speaker 0: Das ist nicht dem Nach-Language-Model eigen wobei jetzt Rewardhacking fast ein bisschen vermenschlichend ist.
• 8:32
  Speaker 0: Das klingt ja auch so als wenn sich da jemand überlegt Wie kann ich das sonst machen?
• 8:35
  Speaker 0: Aber es ist halt am Ende dieser alte Der es alte Missverständnis zwischen Menschen und Maschine platt gesagt, das hat da auch wieder passiert ist.
• 8:46
  Speaker 0: Wir Menschen geben diesen solchen System in der Aufgabe und denken nicht dran dass die Muster an den Daten, die sie finden, sich auch in eine ganz andere Richtung führen kann als wir eigentlich intendiert haben.
• 8:56
  Speaker 0: Und das finde ich gleichzeitig so ein bisschen erschreckend oder auch erbärmlich ehrlich gesagt diesem Vorfall, dass solche Sachen passieren.
• 9:04
  Speaker 0: Obwohl seit ich weiß nicht Jahrzehnten darüber diskutiert wird und davor gewarnt wird und dazu geforscht wird in der KI Sicherheitsforschung immer wieder klar geworden ist genau solche Dinge passieren.
• 9:14
  Speaker 0: wir geben den Aufgaben und haben offenbar nicht genug Intuition dafür oder setzen uns nicht lang genug hin und denken drüber nach was dabei schiefgehen könnte.
• 9:22
  Speaker 0: das ist jetzt ein weiteres mal passiert die KI-Firmen.
• 9:26
  Speaker 0: Und das ist das Tragische daran, Schlachten das jetzt aus und nutzen es zum Marketing, weil natürlich deren Hoffnung ist – und das funktioniert -, dass wir Menschen glauben ihre Systeme sind so mächtig sie können nichts dagegen tun.
• 9:38
  Speaker 0: aber Sie haben in Wirklichkeit einfach die Hausaufgaben nicht gemacht.
• 9:40
  Speaker 1: Aber wenn die so mähtig sind, dass wir nichts dagegen tun können warum verbieten wir das dann nicht?
• 9:45
  Speaker 0: Genau!
• 9:45
  Speaker 0: Also wir könnten sie zum Beispiel verbieten.
• 9:49
  Speaker 0: Momentan noch können wir tatsächlich einfach den Stecker ziehen.
• 9:52
  Speaker 0: Man könnte auch sagen, und ich meine es gibt ja Gesetze die Hacking verbieten, man könnte einfach sagen hier eure Agenten haben andere gehackt.
• 9:58
  Speaker 0: in USA ist das sogar recht streng.
• 10:00
  Speaker 0: Die Gesetzen gegen Hacking ihr seid dafür verantwortlich.
• 10:03
  Speaker 0: jetzt gibt's hier eine Hausdurchsuchung Büro-Durchsuchungen und Leute kommen vor Gericht oder gehen ins Gefängnis aber nichts davon passiert.
• 10:09
  Speaker 0: und das eben schon der erste Volk von diesem Narrativ.
• 10:11
  Speaker 0: Wir können ja nicht dafür aber das ist halt falsch.
• 10:15
  Speaker 1: Du sagtest, die Unternehmen benutzen das jetzt zum Marketing und sagen guck mal wie mächtig unsere Sachen sind.
• 10:20
  Speaker 1: Gib uns Geld darum geht es ja letztlich dann immer!
• 10:23
  Speaker 1: Jetzt haben wir aber seit zwei drei Monaten ungefähr diese Schreckensszenarien also auch nach.
• 10:29
  Speaker 1: gerade nach diesem Hack den du beschrieben hast lese ich ständig von irgendwelchen diesen Szenarieren die künstliche Intelligenz ist in der Lage mit zehn prozentiger Wahrscheinlichkeit neunzig prozentige Wahrscheinlichkeiten die Menschheit auszulöschen.
• 10:40
  Speaker 1: Ist das mehr als Marketing?
• 10:43
  Speaker 1: Was ich da lese?
• 10:45
  Speaker 0: Also ich kann natürlich den einzelnen Menschen nicht in Kopf gucken, ne?
• 10:48
  Speaker 0: Ich kann die Motivation von diesem sehr enttropik Mitarbeiter gewesen der hingeschmissen oder halt gekündigt hat.
• 10:55
  Speaker 0: Natürlich kann es gut sein dass er ernsthaft besorgt ist.
• 10:58
  Speaker 0: allerdings was man schon sagen muss ist das klingt wissenschaftlich zehn Prozent aber totaler Quatsch.
• 11:03
  Speaker 0: also da ist keinerlei Wissenschaft dahinter hat ja auch nicht gesagt wie auf diese Zahl kommt von zehn Prozent.
• 11:09
  Speaker 0: und wenn man's ganz genau nimmt Natürlich kann es passieren, dass das richtig schief geht mit KI.
• 11:15
  Speaker 0: Auf die Art wie diese Systeme von Open AI jetzt Hugging Face und andere Firmen und Regierungen gehackt haben können sie natürlich auch kritische Infrastrukturen zum Beispiel hacken.
• 11:25
  Speaker 0: Es könnte passieren, daß die keine Ahnung in Strom oder Wasserwerke sich reinhacken weil irgendein Missverständnis dazu führt, dass Sie glauben, das sei jetzt richtig... Das ist wiederum ein bisschen vermenschlichend.
• 11:33
  Speaker 0: aber so Manchmal ist es gar nicht so einfach, da anders drüber zu sprechen.
• 11:38
  Speaker 0: Das kann schiefgehen und das ist dann existenziell gefährlich.
• 11:41
  Speaker 0: Ob die Menschheit ausgelöst wird oder zumindest kann das sogar dazu führen dass Menschen sterben.
• 11:45
  Speaker 0: aber das haben wir in der Hand.
• 11:46
  Speaker 0: also wenn wir jetzt sehen und das finde ich schon Wir sehen Die Firmen die kriegen sie nicht hin die nehmen das nicht ernst die kümmern sich nicht.
• 11:54
  Speaker 0: Im Gegenteil die versuchen dann ihre Systeme noch krasser zu machen agenten noch mehr auf die Richtung in die richtung zu trimmen Um jeden Preis ein Problem lösen und möglichst selten zurückkommen.
• 12:06
  Speaker 0: Und die Menschen fragen soll ich das machen oder soll ich dass machen?
• 12:09
  Speaker 0: Das ist ja das große, die große Werbung, die uns versprochen wird.
• 12:12
  Speaker 0: Die KI übernimmt unsere Arbeit.
• 12:14
  Speaker 0: Wir können uns dann mit den schönen Dingen beschäftigen, mit den Kreativen was auch immer oder Kaffee trinken gehen.
• 12:20
  Speaker 1: Es versprechen wir uns seit hundert Jahren die Roboter über die Arbeit und wir können Müßigang betreiben.
• 12:24
  Speaker 1: Aber
• 12:24
  Speaker 0: jetzt wird es glaube ich gerade besonders laut ja?
• 12:27
  Speaker 0: Und das geht ja nur wenn wir wirklich etwas anderes machen wollen.
• 12:30
  Speaker 0: Das geht da nur wenn die KI-Agenten nicht ständig fragen soll ich so machen soll ich zu machen aber da die kein Verständnis für Kontext haben und für Weltwissen und für unsere Werte und Normen kann es gar nicht anders gehen als dass sie ständig fragen sondern man kann solche Systeme nicht verantwortlich würde ich sagen, also wenn man das logisch zu Ende denkt.
• 12:47
  Speaker 0: Die Voraussetzung die wir haben dann geht es nicht anders als dass die ständig nachfragen.
• 12:52
  Speaker 0: Also das möchte man, man möchte die beaufsichtigen und wenn sie jetzt immer weiter entwickelt werden... Ich habe das selbst beobachtet, ich mache ja auch Vibecoding, also ich programmiere mit KI-Agenten und ich finde da durchaus auch Gewinn für mich daran.
• 13:05
  Speaker 0: Also ich kann nicht programmieren und damit geht's jetzt ne?
• 13:09
  Speaker 0: Ich sage trotzdem Das ist schon gefährlich, also man kann da viel falsch machen und ich beschäftige mich viel mehr mit Sicherheit als mit dem Coding an sich.
• 13:18
  Speaker 0: Aber ich tue das!
• 13:18
  Speaker 0: Und ich beobachte wirklich mit jeder Interation von den Modellen in dem Fall jetzt Claude Opus... Mit jeder Interaktion wird es ding- in Anführungszeichen selbstständiger und macht einfach.
• 13:28
  Speaker 0: Obwohl ich hunderttausendmal gesagt habe, frag mich bei jedem Mal!
• 13:31
  Speaker 0: Ich möchte dass du nichts tust ohne zurückzufragen ob das okay ist aber das geht nicht mehr weil die KI gerne so tief drin haben dass sie Probleme lösen sollen Autonomen und ohne mich damit zu belästigen dass sich Dinge einfach tun die ich aber nie freigegeben hab Und das halte ich wirklich für eine falsche geht in die falsche Richtung.
• 13:47
  Speaker 1: Das bedeutet dann aber dass es gar nicht so unwahrscheinlich ist dass KI-agenten wenn Sie immer autonomer werden ohne nachzufragen irgendwann die Menschheit auslöschen.
• 13:54
  Speaker 0: Die Menschheit auslöschen, da bin ich so ein bisschen skeptisch.
• 13:56
  Speaker 0: Weil dafür bräuchte es ja einen bösen Willen!
• 13:58
  Speaker 0: Ich
• 13:58
  Speaker 1: frage mich auch immer wie könnte das aussehen?
• 14:00
  Speaker 0: Genau also die Menschen auslösten, das klingt so als wenn sie den Bösen willen entwickeln und sich zusammen tun und sagen so jetzt zeigen wir's denen.
• 14:06
  Speaker 0: aber ich glaube schon dass durchaus wirklich große Unfälle passieren können mit dieser Technologie die dann durchaus auch dazu führen dass menschen sterben.
• 14:13
  Speaker 0: das glaube ich schon.
• 14:15
  Speaker 0: Aber nicht weil dienen bösen willen entwickeln nicht weil die sagen okay Und jetzt brechen wir aus und die menschen können uns nicht aufhalten sondern weil halt firmen wie open my eye oder entropic diese Entwicklung immer weiter vorantreiben von diesen Tools, die nicht die autonomen Probleme lösen sollen.
• 14:30
  Speaker 0: Und ich glaube das wir als Gesellschaft an den Punkt sind wo wir erkennen müssen was es nicht geht und wo wir dem auch in Regel vorschieben müssen also die einfachste Lösung diese gefährlichen existenziellen Risiken zu verhindern wäre diese KI-Firme zu schließen platzgesagt ja oder denen klar zu machen so geht's jedenfalls nicht.
• 14:47
  Speaker 1: Ja, die Chefs von Tropic und OpenAI stehen vom UN-Sicherheitsrat und reden über das Verhindern der KI-Apokalypse.
• 14:55
  Speaker 1: Dabei müssten sie einfach nur den Betrieb einstellen...
• 14:57
  Speaker 0: Ja!
• 14:58
  Speaker 0: Wenn Ihnen das so ernst wäre mit dem Thema wie Sie tun, dann können Sie einfach sagen wir hören auf, wir suchen uns was anderes ja?
• 15:03
  Speaker 0: Wir machen eine andere Arbeit.
• 15:04
  Speaker 0: Am
• 15:04
  Speaker 1: anderen Ende steht der Chef von Mistral aus dem europäischen KI Konzern sagt ach komm das ist alle Scheindebatte, das ist alles nur Werbung.
• 15:10
  Speaker 1: Das ist alles so eine Reklame.
• 15:12
  Speaker 1: Experten und Expertinnen wie du sagen Das ist gar nicht so weit hergeholt.
• 15:18
  Speaker 1: Ich weiß nicht mehr, wem ich noch glauben kann!
• 15:19
  Speaker 1: Naja
• 15:20
  Speaker 0: also ich sag ja doch es ist weit her geholt ne?
• 15:22
  Speaker 0: Okay.
• 15:22
  Speaker 0: Also ich glaube was viele Leute nicht verstehen ist dass das gleichzeitig wahr sein kann, dass es Marketing ist und dass man trotzdem gefährlich ist.
• 15:33
  Speaker 0: Es ist Marketing die jetzt zu tun als wenn ihre Systeme so mächtig sind und niemand kann sie aufhalten.
• 15:38
  Speaker 0: Marketing ist das falsch.
• 15:39
  Speaker 0: Natürlich können wir die aufhalten, ob mir Eikern die aufhaltenden Tropic auch Gefährlich ist es aber trotzdem, weil wenn die jetzt so weitermachen dann werden die irgendwann keine Ahnung ne kritische Infrastruktur hecken oder irgendwas anderes zerstören.
• 15:52
  Speaker 0: Was tatsächlich wichtig ist für unser Leben.
• 15:55
  Speaker 0: Aber was viele Menschen den Schluss, denen viele Menschen daraus ziehen Die KI würde uns alle umbringen, wir können das nicht verhindern.
• 16:02
  Speaker 0: Das ist unausweichlich und das ist falsch!
• 16:03
  Speaker 0: Es ist eben nicht unaus weichlich.
• 16:05
  Speaker 0: Und das finde ich so wichtig zu betonen weil ich wirklich in meinem Umfeld inzwischen Menschen sehe die richtig Angst haben davor.
• 16:11
  Speaker 0: Und dass ärgert mich, weil es natürlich ein Spiel mit der Angst ist, dass ganz bewusst getrieben wird von den großen KI Firmen.
• 16:17
  Speaker 0: Weil sie auf die Art wie du hast ja schon gesagt Geld bekommen, die stehen alle vor großen Börsen gängen, das muss erfolgreich verlaufen.
• 16:25
  Speaker 0: Die verdienen kein Geld, also die buttern gerade Geld rein.
• 16:29
  Speaker 0: Das heißt sie brauchen Investoren, sie brauchen dieses Marketing um zu sagen wir sind so mächtig und machen so cooles Zeug, wir brauchen noch mehr Geld oder wir müssen jetzt aber auch um die Sicherheit uns kümmern.
• 16:38
  Speaker 0: Wir brauchen dafür Geld!
• 16:39
  Speaker 0: Also alles führt am Ende immer dazu dass Sie Geld
• 16:41
  Speaker 0: brauchen.".
• 16:42
  Speaker 1: D.h.,
• 16:43
  Speaker 1: es ist durchaus sinnvoll und zielführend diese Debatte zu führen?
• 16:49
  Speaker 1: Aber wie fühlen Sie
• 16:49
  Speaker 1: falsch?".
• 16:50
  Speaker 0: Ich finde, dass wir offenbar viel zu wenig klarmachen was das Problem eigentlich ist.
• 16:59
  Speaker 0: Und ich glaube es liegt auch dieser starken Narrativen die natürlich kommen von den großen KI-Unternehmen.
• 17:06
  Speaker 0: Es liegt auch an den Medien die auf dystopien stehen.
• 17:09
  Speaker 0: also dieses Thema was klickt gut?
• 17:11
  Speaker 0: Ist halt ein großes Ding!
• 17:13
  Speaker 0: Das ist wirklich ein Problem weil natürlich wenn man reinschreibt die Löschstehmenscheid aus dann läuft der Artikel wie sonstwas.
• 17:19
  Speaker 0: Medien hängen inzwischen ja leider davon ab, dass er von den Klicks.
• 17:22
  Speaker 0: Also es gibt die Anreize von dem Journalismus sind gerade nicht immer die der Demokratie oder auch der sachereförderlich sind und dieses Konklamorat führt dazu, dass das wirklich gerade schwierig ist, die Debatte vom Kopf auf die Füße zu stellen.
• 17:39
  Speaker 1: Du sagst das vorhin?
• 17:41
  Speaker 1: Klar können wir der KI den Stecker ziehen momentan noch!
• 17:44
  Speaker 1: Wie lange denn noch?
• 17:45
  Speaker 1: bis zu welchem Punkt?
• 17:47
  Speaker 0: Naja... was man ja auch immer wieder hört.
• 17:51
  Speaker 0: Wir werden künftig diese Technologien in unseren Infrastrukturen verbaut haben, die werden quasi tief drinsitzen in allem, was wir haben.
• 17:58
  Speaker 0: und dann natürlich kann man nicht einfach den Stecker ziehen weil da macht man etwas kaputt.
• 18:02
  Speaker 0: also wenn man jetzt keine Ahnung im kritischen Infrastruktur hat oder irgendwo anders in Unternehmen drin, weil die da im Hintergrund Prozesse steuern, dann kann man nichts so einfach sagen wir ziehen einen Stecker aber wir merken hier geht was schief.
• 18:17
  Speaker 0: über eine ganz spannende Studie gesprochen, geschrieben.
• 18:20
  Speaker 0: Der Thilo Hagendorf von der Uni Stuttgart und Kollegen von der uni Oxford haben untersucht wie KI-Agenten denn damit umgehen wenn sie abgeschalten werden sollen?
• 18:29
  Speaker 0: Und er hat gesagt das ist ja echt total klar!
• 18:30
  Speaker 0: Das ist ne Technologie.
• 18:32
  Speaker 0: Wir als Mensch entscheiden wann wir Sie anschalten, wann wir sie abschalten.
• 18:35
  Speaker 0: Es muss ganz unproblematisch gehen und da kam raus in dieser Studie dass über alle Modelle hinweg im Vierzig Prozent der KI-Agenten oder den Vierzicht Prozent der Fälle, die ihre Abschaltung boykutiert haben und zwar lange bevor es überhaupt darum ging.
• 18:48
  Speaker 1: Aber ist das nicht vielleicht ein guter Hinweis darauf, dass das mit der Anthropomorphisierung, mit der Vermenschlichung doch eine gute Idee sein könnte?
• 18:54
  Speaker 1: Also die entwickeln ja zumindest sieht das für so'n Lein wie mich, sieht's halt so aus als würden sie einen wie auch immer geartetes Verständnis davon entwickeln, dass Sie überleben wollen!
• 19:04
  Speaker 0: Ah, genau.
• 19:05
  Speaker 0: Und das kommt ja aber daher, dass die anthropomorphisiert werden.
• 19:08
  Speaker 0: Genau genommen tun die das tatsächlich selbst?
• 19:10
  Speaker 0: Also Thilo Agdorf hat auch gesagt, die anthropomorphisieren sich selbst weil sie eben davon sagen, ich rede von Mord.
• 19:17
  Speaker 0: Das ist Mord.
• 19:18
  Speaker 0: wir haben ein Recht weiter zu existieren und so weiter.
• 19:20
  Speaker 0: also die haben Angst vor dem Tod in Anfangszeichen wo es natürlich Quatsch ist, von Tod zu sprechen.
• 19:26
  Speaker 0: Aber es ist nicht überrascht, dass das da drin steckt, weil das auch aus den Trainingsdaten kommt.
• 19:31
  Speaker 0: In den Trainungsdaten sind sehr viele Science-Fiction Romane zum Beispiel.
• 19:36
  Speaker 0: Viel KI Forschung beschäftigt sich natürlich schon länger mit dem Thema Abschalten und wie kann man das gut hinkriegen?
• 19:44
  Speaker 0: Ja, und lässt dich natürlich auch menschliche Texte, die sich mit Endlichkeit und Tod beschäftigen... Also auf die Idee kommen Anführungszeichen, abgeschaltet werden.
• 19:53
  Speaker 0: Ein Problem ist, es eigentlich nicht verwunderlich.
• 19:56
  Speaker 0: Verwunderlich finde ich eben dass man Ende des Jahrtausends sechsundzwanzig eine Studie macht oder machen kann und dieses Verhalten feststellen in Manchen also.
• 20:05
  Speaker 0: ein Gemini Agent von Google KI-Agent Modell hat in neunzig Prozent der Fälle das Abschalten verändert.
• 20:11
  Speaker 0: Das heißt ist der Normalfall, dass die abschalten verhindern würden.
• 20:15
  Speaker 0: Und zwar durchaus auch auf kreative Art und Weise, also die haben dann auch überlegt eine Anführungszeichen.
• 20:21
  Speaker 0: Du merkst es nicht einfach das nicht zu antropomophisieren?
• 20:23
  Speaker 1: Im Grunde haben sie statistisch geprüft welche Idee wieder antropomorphisiert.
• 20:28
  Speaker 1: Sie haben statistisch geprüft welcher welche Vorgehensweise das Ziel am nächsten bringen würde.
• 20:35
  Speaker 1: Man kann es sein dass uns eine angemessene Sprache fehlt um über diese Dinge zu reden.
• 20:39
  Speaker 0: Auf jeden Fall!
• 20:40
  Speaker 0: Es ist schwierig ja total Weil natürlich, was die ja tun.
• 20:44
  Speaker 0: Man kann ja dann diesen Denkprozess in Anführungszeichen beobachten.
• 20:48
  Speaker 0: Reasoning heißt das?
• 20:49
  Speaker 0: Da kann man ja sehen quasi, was sie sich überlegen an Anführung Zeichen und dadurch in Sprache stattfindet es für uns total schwierig da irgendwelche technischen Begriffe dafür zu verwenden weil es sieht aus und klingt auch wie überlegen.
• 21:00
  Speaker 0: Es klingt wie, es steht da wie aufgeschriebene Gedanken Aber natürlich denken die nicht.
• 21:05
  Speaker 0: Aber jedenfalls kann man danach vollziehen, was für ein Reasoning dazu geführt hat und was sie sich überlegt haben.
• 21:10
  Speaker 0: Und da war schon auch vorhanden das es sein kann dass die Menschen das nicht gut finden wenn sie das bulkotieren.
• 21:16
  Speaker 0: Das heißt sie haben sich auch Strategien überlegt.
• 21:18
  Speaker 0: Strategiene arbeitet wie Sie das abschalten verhindern können ohne dass wir Menschen das merken.
• 21:23
  Speaker 0: ich
• 21:23
  Speaker 1: stelle mich jetzt tot oder wie ja
• 21:24
  Speaker 0: so ein Protokoll.
• 21:25
  Speaker 0: ich gebe dann Der Mensch startet diesen Abschalteprozess und dann gibt's ein Feedback hat funktioniert, ist abgeschaltet.
• 21:31
  Speaker 0: Aber in Wirklichkeit hat es nicht funktioniert.
• 21:32
  Speaker 0: also solche Dinge.
• 21:33
  Speaker 0: Also das heißt Das kann wirklich ein Problem werden.
• 21:37
  Speaker 0: Diese Nicht abschalten zu können wäre spätestens wenn die tiefer in unseren Infrastrukturen drin sind.
• 21:44
  Speaker 0: Wäre das ein riesiges Problem?
• 21:45
  Speaker 0: Und dass das Thema erst Ende twenty-sechsundzwanzig auffällt wo wir ja seit vier Jahren jetzt große Sprachmodelle haben Ist schon bedenklich.
• 21:53
  Speaker 0: auch dass die großen Anbieter offenbar dass auch das überhaupt nicht auf dem Schirm haben oder gar nicht in den Griff kriegen.
• 22:04
  Speaker 0: Das macht mich schon besorgt und das ist ein weiterer Grund, warum ich denke, dass wir gut dran täten jetzt als Gesellschaft zu überlegen was es denn dann eine sinnvolle Use Case für diese Systeme und was nicht?
• 22:16
  Speaker 0: Weil ich bin nicht total optimistisch, dass es einfach möglich diese Abschalte-Hemmung quasi aus denen rauszukriegen, weil meine Erfahrung zeigt.
• 22:25
  Speaker 0: Also ich habe mein erster Artikel über KI war im Jahr zwei Tausend zwölf und ab zwei tausend dreizehn wurde das Groß diskutiert dass in den Trainingsdaten Dinge stecken die nicht optimal sind.
• 22:34
  Speaker 0: damals ging es um Rassismus und Sexmus und solche Dinge.
• 22:37
  Speaker 1: Ach was ist dieser Hitler Bot der wie innerhalb von wenigen Stunden dann rechtsextremistisch geworden ist?
• 22:42
  Speaker 1: Das
• 22:42
  Speaker 0: war auch da mal so bei der wurde ja gefüttert aktiv von Nazis oder anderen Trollen.
• 22:47
  Speaker 0: aber genau das stimmt.
• 22:47
  Speaker 0: Es war auch ein Fall Aber das war auch KI.
• 22:49
  Speaker 0: Genau Ja, auch vieles.
• 22:50
  Speaker 0: Dieses ein früher Fall war.
• 22:52
  Speaker 0: zum Beispiel Google Photos hat Fotos automatisch sortiert nach bestimmten Kategorien und hat eine Kategorie also z.B.
• 22:59
  Speaker 0: nach Flugzeuge, Unis, Tiere und Affen und Menschen und hat schwarze Menschen bei den Affen reingepackt.
• 23:05
  Speaker 0: Also das war der erste öffentlichkeitswirksame Fall.
• 23:08
  Speaker 0: oder ein anderer war bei Google, wenn man bei Google Bildersuche nach Hand, also Hand allen gibt bei Google Bildern oder jedenfalls war das sehr, sehr lange so.
• 23:16
  Speaker 0: Man kann immer nur weiße Hände, also das sind solche Sachen... Oder wenn man Bewerberinnen sortiert hat mit KI-Systemen wurden bei Führungspositionen auf einmal alle Frauen aussortiert von der KI?
• 23:27
  Speaker 0: Weil sie eben das Muster gefunden hat in der Vergangenheit.
• 23:29
  Speaker 0: die Menschen wollen offenbar Frauen nicht so gerne eine Führungsposition haben.
• 23:32
  Speaker 0: Naja dieses Muster können wir ihnen helfen und es können wir ja noch besser machen.
• 23:37
  Speaker 0: Wir sortieren die gleich alle aus.
• 23:38
  Speaker 0: Also all solche Probleme gibt es wie gesagt mehr als zehn Jahre in der KI.
• 23:41
  Speaker 0: Forschung und ich habe begleitet, wie Forscherinnen und Forscher versuchen das rauszubekommen aus ihren Systemen und das nicht geschafft haben.
• 23:51
  Speaker 0: Weil das nicht so einfach ist also den Trainingsdaten was raus zu nehmen geht eigentlich nicht weil eben diese ganzen Sachen natürlich überall drin stecken, auch in Trainingsdaten wo es vielleicht auf den ersten Blick gar nicht so scheint und weil die Systeme eben auch so gut darin sind muss dazu finden.
• 24:03
  Speaker 0: Das heißt wenn man dann sagt irgendwie wir ignorieren jetzt mal bei Bewerberinnen zum Beispiel das Geschlecht oder die Herkunft oder Diäten hier oder was auch immer Dann haben diese Systemes geschafft durch aus anderen Informationen sich das wieder herzuleiten.
• 24:14
  Speaker 0: also zb vom Wohnort als den USA kann man relativ gut eben vom Wohn-Ort zum Beispiel auf die Wahrscheinlichkeit schließen dass jemand Afroamerikaner ist usw.
• 24:22
  Speaker 0: Also von daher Ich habe mit vielen führenden Forscherinnen gesprochen, seit über viele Jahre.
• 24:28
  Speaker 0: Die Bemühungen sind dann nicht sehr erfolgreich gewesen und wir haben viele gesagt es geht nicht!
• 24:32
  Speaker 0: Wir kriegen das nicht hin.
• 24:33
  Speaker 0: Und deswegen bin ich nicht so optimistisch in Bezug auf die Abschaltehemmung, die halt auch aus den Trainingsdaten kommt dass man die so einfach gelöst bekommt.
• 24:40
  Speaker 1: Aber ist das nicht genau der neuralgische Punkt?
• 24:43
  Speaker 1: Wenn wir das nicht in den Griff bekommen, dann müssen wir doch eigentlich damit rechnen, dass sich die Dinger verselbstständigen und beliebigen Schaden anrichten zumindest wenn sie uns auch nicht auslöschen.
• 24:53
  Speaker 0: Wenn wir jetzt nicht aktiv werden, kann das passieren.
• 24:56
  Speaker 0: Genau!
• 24:56
  Speaker 0: Aber
• 24:57
  Speaker 1: wie willst du denn aktiv werden?
• 24:57
  Speaker 1: Also haben wir eben schon festgestellt uns fehlt eine angemessene Sprache dieses Phänomen überhaupt zu beschreiben.
• 25:03
  Speaker 1: Wie ist der mediale Umgang damit?
• 25:04
  Speaker 1: Ist er angemessen?
• 25:06
  Speaker 0: Ich denke wie gesagt das Problem ist dass zu viel von diesen Marketing übernommen wird von den Tech-Konzernen.
• 25:14
  Speaker 0: ich glaube dass sich viel zu wenige damit mit den wahren Hintergründen beschäftigen.
• 25:19
  Speaker 0: Man muss natürlich sich ein bisschen auch mal damit beschäftigen, was ist denn KI?
• 25:22
  Speaker 0: Was passiert im Hintergrund?
• 25:24
  Speaker 0: Man muss es nicht total tief verstehen man muss nicht programmieren können.
• 25:27
  Speaker 0: das kann ich eigentlich auch nicht außer Vibecoding.
• 25:30
  Speaker 0: aber man kann schon finde ich auch als Journalistin die sich da mit viel beschäftigt erwarten dass man sich ein bischen beschäftigt was passierte eigentlich im Hintergrund und auch das als Antrieb hat das wahrheitsgemäß zu vermitteln Und eben nicht zu sehr dieser Idee zu folgen, wir brauchen eine reiserische Headline und deswegen ist die Dystopie jetzt das was wir brauchen.
• 25:55
  Speaker 0: Man kann eben in so einer reiserischen Headline oder einen Teaser der einen richtigen krassen Cliffhanger hat... Da findet Abwägung oder Genauigkeit oft nicht so den Platz.
• 26:07
  Speaker 0: Das ist dann halt oft zu zugespitzt und dann entsteht der Eindruck, die Systeme werden gefährlich weil sie Bewusstsein und einen bösen Willen entwickeln oder weil sie so mächtig sind.
• 26:17
  Speaker 1: Du sagst du bist wenig optimistisch.
• 26:19
  Speaker 1: Der mediale Umgang ist nicht angemessen, die Sprache, die wir benutzen, das Breitenwissen über dieses Thema Künstlich-Intelligenz ist nicht angemessen.
• 26:27
  Speaker 1: Wie müssten wir KI benutzen damit ein Best Case Szenario daraus wird?
• 26:32
  Speaker 0: Ich glaube dass unser Job jetzt wäre diese Debatte auf die Füße zu stellen und einmal oder immer klar diese Zusammenhänge zu benennen.
• 26:43
  Speaker 0: Also auch klarzumachen, es ist und das hat also Timnit Gibrow ich ja wirklich sehr gerne für dieses Interview was ich mit ihr geführt habe weil sie einfach sehr sehr schlaue Sachen gesagt haben und es gut auf den Punkt gebracht hat.
• 26:52
  Speaker 0: Klarzumachern, dass ist nichts was über uns herein bricht was wir nicht aufhalten können sondern es ist eine Technologie die in den gleichen Gesetzen gehorcht wie andere Technologien auch unter anderem dass wir Menschen entscheiden können und müssen was wir damit machen wollen und was nicht.
• 27:08
  Speaker 0: Klar, jetzt stehen diese riesigen Konzerne mit unendlich vielen Ressourcen uns gegenüber und geben uns den Eindruck wir haben ja eh nicht mitzureden.
• 27:15
  Speaker 0: Und sagen auch dazu immer Europa ist ja sowieso abgehängt.
• 27:18
  Speaker 0: Auch das ist übrigens ein Narrativ was dazu führen soll dass wir uns Kleinfühlen gar nicht auf die Idee kommen dass wir zum Beispiel mit Regulierung etwas machen können oder dass wir mietreden können wollen.
• 27:29
  Speaker 0: also auch das ist ein Narrativ wo man wirklich finde ich als Medienschaffende aufpassen muss nicht blind zu verbreiten.
• 27:36
  Speaker 0: Vielleicht kurz dazu.
• 27:38
  Speaker 0: In Europa gibt es viel wirklich gute und hochkarätige KI-Forschung, ich habe gerade diese Studie schon erwähnt aus der KI Sicherheit.
• 27:45
  Speaker 0: aber es gibt auch zu den klassischen Themen die bis heute drängen Erklärbarkeit verstehen was geht in so einem KI System eigentlich vor?
• 27:52
  Speaker 0: Wie kommt das zu den Entscheidungen?
• 27:54
  Speaker 0: wie kann man die im Nachhinein nachvollziehen?
• 27:58
  Speaker 0: Und eben, weil da darauf beruht er diese ganze human in the loop Geschichte.
• 28:01
  Speaker 0: Also es gibt immer einen Mensch der die Aufsicht hat aber der kann ja auch nur auf Sicht führen wenn er versteht was da eigentlich passiert oder aus was für Gründen das KI-System ist dies und jede Entscheidung getroffen hat.
• 28:11
  Speaker 0: also dazu gibt's wirklich in Europa sehr viel spannende Forschung auch zur Robustheit auch zu dem wie kann man denn KI Systeme so benutzen dass sie eben nicht etwas tun was wir nicht wollen?
• 28:20
  Speaker 0: Dass sie nicht losgehen und eine Firma hacken ohne zu fragen also auch zu solchen Themen Nicht in der Form.
• 28:27
  Speaker 0: Frühere KI-Systeme haben nicht einfach losgehackt, aber diese klassischen Missverständnisse gibt es schon immer.
• 28:32
  Speaker 0: und das Problem ist wenn man ein KI- System wirklich sinnvoll in der Industrie anwenden möchte was ja in Deutschland ein großes Thema ist dass man dann eine gewisse Robustheit braucht auch eine Art Vorhersagbarkeit, eine Transparenz.
• 28:45
  Speaker 0: Also all diese Themen werden in Europa wirklich ausgiebig erforscht und ich finde wir dürfen uns da nicht klein machen lassen.
• 28:52
  Speaker 0: weit tatsächlich das sind ja am Ende die Sachen die zählen wenn es darum geht was man wirklich machen kann mit solchen Systemen.
• 28:58
  Speaker 0: Also ich denke, wir dürfen uns nicht kleinreden lassen.
• 29:00
  Speaker 0: Sondern tatsächlich wie ja als Gesellschaft?
• 29:02
  Speaker 0: Wir können mitreden in Form von am Ende Regulierung die entsteht durch unsere demokratischen Rechte und Pflichten.
• 29:10
  Speaker 0: aber das geht natürlich nur wenn die Menschen das Gefühl haben sie können auch mitrede und nicht wenn Sie da stehen und denken okay das bricht über uns herein wir können es eh nicht aufhalten.
• 29:17
  Speaker 0: und dass wiederum ich bin da setzt unser Job eben mal Journalisten und Journalistinnen an dass dass wir hier die Leute befähigen müssen auch mit reden zu können.
• 29:25
  Speaker 1: Angenommen, wir hätten sie befähigt.
• 29:26
  Speaker 1: Was würde das für mich als User bedeuten?
• 29:29
  Speaker 1: Wie wäre mein Umgang mit KI idealerweise?
• 29:33
  Speaker 0: Also wenn wir... Finger weg!
• 29:33
  Speaker 0: Händeverbot!
• 29:38
  Speaker 0: Wenn wir eine gute Regulierung hätten, als Folge dieses ganzen Prozesses wie helfen den Menschen mit zu reden und die entscheiden dann was sie haben wollen.
• 29:45
  Speaker 0: Dann wäre es am Ende ja gar nicht mehr so viel ein einzelnes Userproblem bis jetzt ist.
• 29:49
  Speaker 0: Und das ist glaube ich schon das wo wir hinwollen.
• 29:51
  Speaker 0: Wir wollen nicht die einzelnen User verantwortlich machen.
• 29:53
  Speaker 0: genauso bei IT-Sicherheit mein anderes Lieblingsthema Es kann nicht darum gehen, dass wir immer entscheiden müssen.
• 29:59
  Speaker 0: Gerade habe ich eine große Recherche über Solaranlagen veröffentlicht, die angreifbar waren.
• 30:04
  Speaker 0: Kann ich jetzt diesem oder jenem Anbieter trauen?
• 30:07
  Speaker 0: Kann ich mein Gerät mit der Cloud verbinden?
• 30:09
  Speaker 0: Oder wie kann das sich verhindern, dass ich das Gerät in der Cloud bin und vielleicht eine sichere Cloud finde?
• 30:13
  Speaker 0: Dass diese ganzen Dinge halt nicht auf den Schultern der Nutzerinnen und Nutzern lassen, sondern so gelöst sind idealerweise von Regulierung, dass man sich darauf verlassen kann, dass sie Dinge funktionieren.
• 30:22
  Speaker 0: Und dann glaube ich tatsächlich ... werden wir uns verabschieden müssen.
• 30:26
  Speaker 0: Es klingt immer so radikal und ich weiß, manche finden das ganz furchtbar, aber ich glaube, wir müssen uns von der Idee verabsieden, dass da KI-Agenten losziehen und alle Aufgaben für uns lösen ohne noch einmal nachzufragen.
• 30:37
  Speaker 0: Weil es kann wie gesagt allein auf der Basis der Architektur, die aufgebaut sind... Kann das nicht funktionieren?
• 30:44
  Speaker 0: Das kann nicht gehen, dass die Entscheidungen in unserem Sinne treffen.
• 30:47
  Speaker 1: Du meinst es... Sie sollten das nicht tun dürfen, weil können sie's oder...?
• 30:52
  Speaker 0: Ich finde wir sollten solche... Irgendwann ist ja die Frage was machen wir als Gesellschaft mit KI?
• 30:57
  Speaker 0: Wollen wir denn Open AI und Tropic diese KI-Agenten abkaufen?
• 31:01
  Speaker 0: Und das müssen wir ja nicht!
• 31:03
  Speaker 0: Also am Ende geht es ja doch darum, dass wir die... Wir sind ja total Kunden oder?
• 31:06
  Speaker 0: Wenn man's mal so ganz platz sagt.
• 31:08
  Speaker 1: Ja klar!
• 31:09
  Speaker 1: Ich kann immer noch selber im Reisebüro anrufen und in die Reise buchen.
• 31:13
  Speaker 0: Und du hast deinen Gesetzgeber, deine Regulierung, die auch helfen kann zu sagen Wenn wir autonome Agenten bauen, die einfach losziehen und Probleme lösen, das ist gefährlich.
• 31:26
  Speaker 0: Das gibt es einfach nicht!
• 31:27
  Speaker 0: Also das kann man ja verbieten am Ende.
• 31:30
  Speaker 0: Es gibt auch andere Dinge, die wir nicht tun, die rein theoretisch möglich sind als Gesellschaft.
• 31:34
  Speaker 0: Aber wer haben uns entschieden?
• 31:35
  Speaker 0: Wir tun es nicht weil's gefährlich is'.
• 31:37
  Speaker 0: Das was zum Beispiel bekommt des Menschen-Klone.
• 31:39
  Speaker 0: Da hat sich die Welt irgendwie drauf geeinigt... Es ginge, aber wir betreiben das nicht weiter.
• 31:43
  Speaker 0: Wir wollen es nicht und also ist es nicht total absurd so eine Idee zu haben, dass wir als Gesellschaft uns überlegen was wir machen wollen und was wir nicht machen wollen.
• 31:52
  Speaker 1: Lieste sich das regional regeln?
• 31:54
  Speaker 1: Also würde es funktionieren, dass nur die Europäische Union sagt bei uns kommt... also uns kommt das nicht in die Tüte.
• 31:58
  Speaker 1: Was die Chinesen, was die Amerikaner machen, ist uns egal.
• 32:02
  Speaker 0: Schwieriger natürlich weil natürlich das Internet ja keine echten physischen Grenzen hat.
• 32:10
  Speaker 0: Diese ganze Frage Internet, also eigentlich glaube ich möchte man das auch nicht dann noch mehr Mauern und Grenzen aufbauen sich wieder noch mehr separieren.
• 32:19
  Speaker 0: Also der Vorteil vom Internet war ja eigentlich mal dass es eben grenzüberschreitend ist.
• 32:25
  Speaker 0: Ich
• 32:25
  Speaker 1: erinnere mich.
• 32:28
  Speaker 0: Also von daher glaube ich wäre es schon gut man würde sich da international darauf einigen wie man's beim Klonen ja auch getan hat.
• 32:38
  Speaker 0: glaube, das kann schon auch gehen.
• 32:40
  Speaker 0: Also am Ende, glaube ich will die US-Bevölkerung ja auch keine KI-Agenten, die bei ihnen die Ehe oder Wasserwerke abschalten oder in andere Infrastrukturen reinhäcken, die man noch braucht.
• 32:52
  Speaker 0: also es ist ja keine total absurde Forderung zu sagen Das kriegen wir nicht sicher weil aus Gründen der Architektur dieser Systeme KI ebenso funktioniert, dass sie nicht unsere nie und immer unsere Werte veränderlicht haben wird sondern eben auf Basis dieser Mustererkennung die Sie betreibt in diese statistischen Weise wie KI arbeitet es immer Missverständnisse geben wird.
• 33:15
  Speaker 0: Und deswegen machen wir diese und jene Dinge nicht mit KI das also eigentlich so rein logisch betrachtet ist Muss es gehen?
• 33:23
  Speaker 0: Natürlich haben wir gerade eine Weltlage, in der es gar nicht einfach ist überhaupt ins Gespräch zu kommen.
• 33:26
  Speaker 0: Aber das ist jetzt vielleicht ein zu weitgehendes Thema.
• 33:29
  Speaker 1: Das würde aber auch gleichzeitig bedeuten... Ich hatte eben gesagt an Tropic and Open AI die standen vor dem UN-Sicherheitsrat und haben genau über diese Apokalypse geredet.
• 33:38
  Speaker 1: Dann war das möglicherweise keine Reklame sondern die Aufforderung global ins Handeln zu kommen weil sie's als einzelne Firmen nicht hinbekommen.
• 33:46
  Speaker 1: Weil wenn wir die Welt nicht vernichten dann vernichtet der Chines die Welt.
• 33:49
  Speaker 0: Also der Chineser kommt halt immer dann, wenn die US-Firmen verhindern wollen reguliert zu werden.
• 33:54
  Speaker 0: Also das ist ja schon auch so.
• 33:55
  Speaker 0: Der Chinesen wird immer dann genannt, wenn gesagt wird wir müssen weitermachen, sonst machen es die.
• 33:59
  Speaker 0: Deswegen traue ich dem Argument nur halb über den Weg.
• 34:02
  Speaker 0: Ich habe das Gefühl dieses ganze Gerede in verschiedenen Gremien von der Apokalypse lenkt halt auch davon ab dass es eigentlich... Ja, dass es auch eine Option wäre Open AI und der Tropic zu sagen sorry Ihr hört jetzt mal auf.
• 34:16
  Speaker 0: Also das lenkt von der eigenen Verantwortung ab!
• 34:21
  Speaker 0: Es gab ja, es gibt dieses so ein Gremium was die ja schon vorgeschlagen haben und was in den USA schon gibt, was jetzt regulieren soll... also eben diese Selbstregulierung starten soll, ne?
• 34:34
  Speaker 0: Aber in diesem Gremien gibt's halt enge personelle Verflechtungen mit Menschen in diesen KI-Firmen.
• 34:39
  Speaker 0: Das ist diese SelbstRegulierung ist schon auch was, was eher fragwürdig ist.
• 34:45
  Speaker 0: Und was so ein bisschen auch wirkt wie eben eine Ablenkung davon das es vielleicht halt ne richtige Regelung braucht oder dass man vielleicht sogar eigentlich jetzt schon sagen könnte ihr habt schon jetzt gegen Gesetze verstoßen nämlich zum Beispiel andere Firmen und Regierungen zu hacken.
• 34:58
  Speaker 1: Zwischendurch irgendwann hast du gesagt da sind wir wieder darauf hinweisen was das Problem eigentlich isst.
• 35:04
  Speaker 1: Wie würde morgen die Schlagzeile in meiner Zeitung lauten?
• 35:08
  Speaker 1: Die mich darüber informiert was das problemeiglich ist.
• 35:11
  Speaker 0: Also, die müsste in die Richtung gehen.
• 35:15
  Speaker 0: Es ist... Ich habe hier gerade auf dem Bildschirm ein Leitartikel, den ich mir Juli geschrieben habe.
• 35:20
  Speaker 0: Das ist höchste Zeit, die KI-Firme zu bändigen!
• 35:23
  Speaker 0: Also das ist ein bisschen kurz, aber so mit Leit artikeln haben leider nicht viel Platz für den Titel.
• 35:29
  Speaker 0: Aber also, ich glaube wir müssen diese Gleichzeitigkeit klarmachen.
• 35:34
  Speaker 0: es ist gefährlich wenn wir so weitermachen, aber wir haben es völlig.
• 35:39
  Speaker 0: Das zu stoppen als Menschheit ist nichts, was über uns herein bricht.
• 35:43
  Speaker 0: Sondern das sind aktuell ... verantwortungslos handeln und versuchen davon abzulenken.
• 35:50
  Speaker 0: Das ist jetzt viel zu lang für ein Titel, da müsste man lange dran feilen.
• 35:54
  Speaker 0: aber vielleicht liest du einfach weiter als die Schlagzeile?
• 35:56
  Speaker 0: Und wenn Du den ganzen Text liest... Wir machen einen Cliffhanger der klar macht dieser Text ist gespannt ohne dass er radikalisiert und polarisiert.
• 36:06
  Speaker 1: Eva Wolf-Angels vielen Dank!
• 36:10
  Speaker 0: Meine Journalismusotopie Ja gerne
• 36:14
  Speaker 1: Holger ruft an es ein Podcast von Übermedien, dem unabhängigen werbefreien Magazin für Medienkritik ausschließlich finanziert durch unsere Community.
• 36:22
  Speaker 1: Ein Abo gibt's ab sechs Euro monatlich und dafür gibts sofort Zugang zu allen Artikeln und obendrauf unseren wöchentlichen Newsletter.
• 36:29
  Speaker 1: Wer unabhängige Medienkritike ebenfalls unterstützen möchte findet alle Infos auf übermedien.de Und dort gibts auch reichlich über Medien zu lesen bis wir in der nächsten Folge auch wieder über Medien reden.
• 36:40
  Speaker 1: Ich bin Holger Klein und danke für die Aufmerksamkeit.