Latest / Auf Schritt und Tritt / Kann KI die Welt zerstören?

Transcript

Kann KI die Welt zerstören? · Auf Schritt und Tritt

• 0:03
  Speaker 0: Auf Schritt und Stritt.
• 0:11
  Speaker 1: Moin und herzlich willkommen zu eurem MK-Podcast auf Schritt und Dritt.
• 0:16
  Speaker 1: Ich bin Hagen Wolf, für die heutige Ausgabe verzichten wir so ein bisschen auf das was uns ausmacht nämlich unterwegs zu sein.
• 0:22
  Speaker 1: Wir sind heute bei unserem Studio im Podcaststudio weil das Thema einfach viel so wichtig ist um uns von singenden Vögeln oder plätschernden Bechen ablenken zu lassen.
• 0:31
  Speaker 1: Weil heute geht es um das Thema wie gefährlich is KI wirklich?
• 0:35
  Speaker 1: kann die künstliche Intelligenz wirklich die Welt zerstören?
• 0:37
  Speaker 1: Daher habe ich mir einen der führenden Cyber Sicherheitsexperten Deutschlands eingeladen, der zusätzlich auch noch Rechtswissenschaftler ist Professor Dr.
• 0:46
  Speaker 1: Dennis Kenji Kipka.
• 0:48
  Speaker 1: Moin Dennis Grüß
• 0:49
  Speaker 0: dich Hallo Hagen Grüß Dich
• 0:50
  Speaker 1: Lange her das wir uns gesehen haben.
• 0:52
  Speaker 0: Ja, ich glaube letztes Jahr haben wir die Weihnachtsfolge mit diesen ganzen Geschenken digitale nützlich und unnützliche digitale Geschenke gedreht.
• 0:59
  Speaker 1: Und wir haben schon vor über einem Jahr darüber geredet wie gefährlich KI sein kann?
• 1:03
  Speaker 1: Ja
• 1:04
  Speaker 0: genau!
• 1:05
  Speaker 1: Inzwischen gibt es ja täglich Meldung dass KI irgendwie durchdreht.
• 1:09
  Speaker 1: Hast du vor einem Jahr gedacht also vor etwas über einem jahr als wir das erste mal drüber gerede haben Gefährliche KI, dass es sich so entwickelt?
• 1:16
  Speaker 0: Also aus Cyber-Sicherheitsperspektiv – das klingt jetzt irgendwie komisch.
• 1:19
  Speaker 0: Aus Cyber-sicherheits Perspektive ist gar nicht so neu.
• 1:21
  Speaker 0: ja weil das Problem ist ja je mehr wir automatisieren und je mehr wird irgendwie digital überlassen an Entscheidungen umso größer ist ja automatisch das Risiko, dass irgendwas passiert.
• 1:30
  Speaker 0: was ich glaube ich nicht so schnell habe kommen sehen is die Geschwindigkeit mit der wir digitalisiert.
• 1:35
  Speaker 0: also mittlerweile in China ist es zum Beispiel so dass sogar ein Seniorenheim KI Kurse für KI Agenten gegeben werden und dir dann quasi ganze Bankdaten usw.
• 1:42
  Speaker 0: eingeben.
• 1:43
  Speaker 0: Es wird ganz, ganz viel automatisiert in Verwaltung.
• 1:46
  Speaker 0: In der Privatwirtschaft bei Privatpersonen und ich glaube wir hatten letztes Jahr schon so ein bisschen einen relativ großen KI-Durchbruch.
• 1:53
  Speaker 0: aber dieses Jahr ist es ja wirklich ein Hype gewesen.
• 1:56
  Speaker 0: Und das wurde auch viel mehr über KI berichtet, auch jenseits den ganzen Hierupsbotschaften als letzten Jahr der Fall gewesen.
• 2:01
  Speaker 0: Diese
• 2:01
  Speaker 1: hierups Botschaften die sich in den letzten Wochen fast täglich ereignen.
• 2:05
  Speaker 1: Einmal bricht die KI glaube ich Australien war's im Gesundheitsministerium ein Clouddaten.
• 2:12
  Speaker 1: Bill Gates sagt noch, die KI kann in absehbarer Zukunft eine Milliarde Menschen ermorden.
• 2:17
  Speaker 1: So ungefähr.
• 2:18
  Speaker 1: und einer sagt noch die Wahrscheinlichkeit dass KI die Welt zerstören kann liegt bei zehn Prozent.
• 2:23
  Speaker 0: Ja das klingt erstmal ganz furchtbar.
• 2:25
  Speaker 0: so muss ich aber erst mal die Frage stellen wo kommen überhaupt diese Zahlen her?
• 2:28
  Speaker 0: Also es gibt bislang keine Belege irgendwie, dass das wirklich empirisch valide Zahlen sind.
• 2:32
  Speaker 0: Das heißt jede Schätzung die wir sagen egal ob somit sie zehn Prozent geht, egal ob man seit zwei Jahren wird die Menschheit zerstört oder dass jetzt Bill Gates eben mit dieser horrenden Zahl an Todesopfern kommt.
• 2:41
  Speaker 0: Wenn man sich das mal ganz genau anschaut, ist es so dass keine dieser Tech CEOs also die großen Tech Geschäftsführer oder KI-Konzernbetreiber überhaupt genau sagen kann.
• 2:51
  Speaker 0: Wo haben sie denn jetzt eigentlich ihre Zahlen her?
• 2:52
  Speaker 0: Das sind einfach nur Zahlen, die in den Raum geworfen werden aber mehr ist erst einmal nicht.
• 2:56
  Speaker 1: Aber trotzdem sind's doch Zahlen von denen, die Ahnung haben!
• 3:00
  Speaker 1: Also die das entwickeln.
• 3:01
  Speaker 0: Ja, das ist glaube ich das ganz große Problem.
• 3:03
  Speaker 0: Also viele dieser KI-Labore, die haben einfach diesen Grad der Automatisierung unterschätzt und das haben wir das erste Mal ja eigentlich jetzt richtig diskutiert.
• 3:11
  Speaker 0: Öffentlichkeit im Medien mit diesem Hugging-Face-Forfall.
• 3:13
  Speaker 0: Das war jetzt dieser Sommer, Ende Juli ist das bekannt geworden und haben sicher KI-Agenten also autonom handelnde Systeme verselbstständig.
• 3:22
  Speaker 0: Die waren eigentlich in einer abgeschlossenen Testumgebung gewesen aber dann haben sie einen Auftrag bekommen den Sie in diese abgeschlossen Umgebung nicht erfüllen konnten weil nicht genügend Informationen zur Verfügung standen.
• 3:31
  Speaker 0: Sicherheitsmechanismen technische wurden abgeschaltet und es war auch so dass die Sicherheitsumgebungen selbst eine Schwachstelle gehabt hat rausgebrochen, man hat dann hinterher noch festgestellt das waren irgendwie sogar siebenhundert KI-Agenden die sich auf so Messageboard oder Nachrichtenboards miteinander abgestimmt haben und eben dieses US unter dem Hugging Face angegriffen haben weil man da eben auch Lösungsansätze für dies gestellte Problem.
• 3:53
  Speaker 0: Das ist ja so ein Test gewesen den man den gegeben hat vermutet hat.
• 3:55
  Speaker 0: Das klingt jetzt erstmal ganz furchtbar als ob sich alles so verselbstständig wird.
• 3:58
  Speaker 0: aber ich glaube das wichtigste was wir uns immer vorstellen müssen ist dass KI darauf dafür entwickelt wurde ein bestimmtes Gesetzesziel zu erfüllen eine Aufgabe zu erreichen und da macht die KI alles um diese Aufgabe zu erreichen.
• 4:09
  Speaker 0: Aber das ist nicht so, dass die KI sich jetzt überlegt hätte.
• 4:12
  Speaker 0: Naja, wenn ich jetzt greif' ich einfach mal als nächstes an, um irgendwie jemanden
• 4:15
  Speaker 0: anzugreifen.".
• 4:16
  Speaker 0: Das ist
• 4:16
  Speaker 1: ja das Problem!
• 4:17
  Speaker 1: Ich geb dir mal ein Zitat...ich hab auch paar Zitate mitgebracht von KI-Skeptikern.
• 4:21
  Speaker 1: Weil du sagst, die KI macht eine Aufgabe und die erledigt zu halten.
• 4:24
  Speaker 1: Und jetzt sagt der schwedische Philosoph Nick Bostrom.
• 4:28
  Speaker 0: Ja, der ist ja sehr bekannt.
• 4:29
  Speaker 1: Okay, ich kann die vorher nicht haben wahrscheinlich.
• 4:32
  Speaker 1: In KI-Kreisen war euer Jusser bekannt?
• 4:35
  Speaker 1: Der macht so einen KI-Angedankenexperiment in Büroklammern Maschine.
• 4:39
  Speaker 1: Wird einer Superintelligenz aufgetragen, die Produktion von Büroklammern zu maximieren?
• 4:44
  Speaker 1: Wird sie nicht innehalten sondern die gesamte Erde einschließlich der Biosphäre, der menschlichen Körper und aller mineralischen Ressourcen in Fabriken für Büroklammern
• 4:54
  Speaker 1: umzuwandeln?".
• 4:55
  Speaker 0: Ja das ist so!
• 4:56
  Speaker 0: Das ist ja genau was beschrieben wird.
• 5:02
  Speaker 0: Vielfach sind diese Riedigen, über die wir sprechen auch irgendwie hausgemachte Risiken menschliche Risiken.
• 5:06
  Speaker 0: Also bei diesem Vorfall im Sommer ist es auch so gewesen.
• 5:09
  Speaker 0: man hat ja nicht nur Sicherheitsmechanismen abgeschaltet und man hat den Auftrag an die KI nicht hinreichend konkretisiert also eher auch nicht gesagt dass du nicht versuchen sollst um jeden Preis dein Gesetz das Ziel zu erreichen.
• 5:18
  Speaker 0: Es gibt dann noch ein viel schlimmeres Beispiel was man eigentlich aufhören kann wenn er zum Beispiel der KI jetzt sagen wird okay also übertätisch ja das ist rein Fiktion jetzt beende dem Klimawandel So.
• 5:29
  Speaker 0: Und dann wird die KI recherchieren und gucken, na ja, wer ist denn so für den Klimawandel verantwortlich?
• 5:32
  Speaker 0: Na ja, genau!
• 5:33
  Speaker 0: Wird die KI zum Schluss kommen?
• 5:34
  Speaker 0: Irgendwie sind die Menschen nicht ganz unverantwortlich, zumindest wissenschaftlichen Studien nachweisend... ...und dann müssen die Menschen halt weg, weil das erheblicher Faktor für den klimawandel ist.
• 5:43
  Speaker 0: Und so muss man sich das vorstellen.
• 5:44
  Speaker 0: wie ein Soziopath ist es eigentlich.
• 5:46
  Speaker 1: Ja, das beruhigt mich jetzt gerade nicht so.
• 5:48
  Speaker 1: Genau
• 5:48
  Speaker 0: also deswegen sollten wir eben auch der KI nicht immer mehr Kontrolle geben was sich dennoch für verfehlt halt.. ... diese Hubsbotschaften.
• 5:56
  Speaker 0: Ja, das sind ja quasi so ein bisschen fast schon wie so Nostradamus irgendwie... ... wo man auch immer gesagt hat naja die Welt wird dann und dann untergehen ist ja auch nichts an der Stelle geschehen.
• 6:03
  Speaker 0: also das Problem ist.
• 6:04
  Speaker 0: es gibt einfach keinen Nachweis dafür dass diese Zahlen so wie sie da stehen im Belegbar sind und es ist auch nicht so dass wir damit rechnen müssen.
• 6:10
  Speaker 0: Es kommt jetzt irgendwie in einem halben Jahr die Terminator
• 6:13
  Speaker 0: K.I.,
• 6:13
  Speaker 0: also wirklich so eine super ... Über den Begriff Superintelligenz müssen wir auch noch sprechen, da Donald Trump ja was vor kurzem zugesagt?
• 6:19
  Speaker 0: Ja!
• 6:20
  Speaker 0: Aber ich gehe nicht davon aus und da bin ich mir sehr sicher, dass nicht diese Superintelligenz irgendwie kommt weil da gehen die Wissenschaften wie meine auch wirklich sehr stark auseinander wie weit wir in der Forschung sind ob das überhaupt möglich ist an dieser Stelle Die dann sagt als Entität sie richtet sich ihren ganzen Willen gegen die Menschheit um die Menschen zu zerstören Weil K. I. Ist nicht emotional rein rational zu rational an der Stelle.
• 6:42
  Speaker 0: Aber das Problem, was ich sehe ist dass wir eben wie ich eingangs auch schon gesagt hat immer mehr KI überall reinpacken ja?
• 6:47
  Speaker 0: Wir geben immer mehr Kontrolle auf vertrauen irgendwie den KI-Entscheidung immer mehr.
• 6:51
  Speaker 0: Wir haben es allein schon beim Thema Desinformation gesehen haben wir auch schon viel übergesprochen.
• 6:55
  Speaker 0: Halluzination von KI.
• 6:56
  Speaker 0: KI macht nicht alles richtig aber dennoch ist es so, dass viele Menschen die Ergebnisse dieser Prompt gar nicht nachprüfen weil sie davon ausgehen er wird schon irgendwie stimmen wenn die KI das sagt und dieses Vertrauen in eine federhafte Technologie mit diesem agentischen System, das ist das große Problem der Weserkurier beispielsweise.
• 7:13
  Speaker 0: Der hat jetzt vor kurzem da wird auch drüber berichtet und da war ein Steuerberater und er hat mit seinen Mandanten über WhatsApp kommuniziert und da ist dann sehr viel auch an Kommunikation natürlich angefallen und der hat sich irgendwann gesagt naja vielleicht kann ich das so ein bisschen automatisieren dass es analysiert wird zusammengefasst wird dann brauche ich nicht mehr alles selber irgendwie aufbereiten.
• 7:30
  Speaker 0: Da hatte er einen KI-Agenten da reingesetzt in diese Konversation.
• 7:35
  Speaker 0: Der sollte eigentlich nur halt protokolliere Passiv sein, aber er hat bestimmte Sicherheitsmechanismen nicht aktiviert die auch nicht von Grund auf eingestellt gewesen sind.
• 7:42
  Speaker 0: und auf einmal fängt dieser KI-Agent an nicht nur Informationen zu sammeln und aufzubereiten sondern er spricht im WhatsApp unterhält er sich mit den Mandanten.
• 7:49
  Speaker 0: das ist ja schon ein Sicherheits Vorfall, das ist zwar das geringste irgendwie.
• 7:53
  Speaker 0: Das hat jetzt keine Todesopfer gefordert aber wir sehen so was an vielen, vielen Stellen und dass es eben dieses Risiko, was dadurch entsteht und dadurch können natürlich auch größere Risiken irgendwo entstehen.
• 8:03
  Speaker 1: Ja gut, jetzt rätst du ja von Privatpersonen die nicht so KI-Affim sind und bei denen dann die KI die Kontrolle übernimmt.
• 8:10
  Speaker 1: so ungefähr?
• 8:11
  Speaker 1: Genau,
• 8:11
  Speaker 0: als Steuerberater sollte man schon ein bisschen auf das Thema Datenschutzen gucken.
• 8:17
  Speaker 1: Aber ich rede noch von KI Entwicklern und Kontrolle behalten wo du gesagt hast, die im Juni oder Juli im Sommer ausgebrochen ist.
• 8:24
  Speaker 1: Die wurde ja entwickelt von KI-Entwicklern, also von Experten und da ist die KI schon außer Kontrolle geraten!
• 8:31
  Speaker 1: Also wenn die KI bei Experten außer Kontrollen gerät, das ist doch die Gefahr für dich?
• 8:35
  Speaker 0: Ja ich glaube aber dass ... Wenn
• 8:36
  Speaker 1: die das nicht in den Griff kriegen...
• 8:37
  Speaker 0: Also ich glaub weniger daran, dass es einfach daran liegt, dass sie's technisch nicht schaffen oder das komplett unterschätzt haben sondern ich meine du musst dir diese KI Konzerne anschauen, die machen Milliarden Minus.
• 8:47
  Speaker 0: Also das ist ein absolutes Minus-Geschäft und keiner von denen läuft überhaupt so richtig rund,
• 8:51
  Speaker 0: d.h.,
• 8:52
  Speaker 0: da stehen natürlich enorme Investitionen hinter und wir reden immer noch davon der KI Blase also diese, dass einfach so viel investiert wird und man auch spekuliert.
• 9:00
  Speaker 0: irgendwie wird das schon gewinntragen sein.
• 9:01
  Speaker 0: mittlerweile ist ja bei Chatchi PT auch Werbung drin in einer kostenlosen Version und man hat jetzt einfach so ein bisschen wahrscheinlich in der Vergangenheit gesagt Wir müssen immer schneller, immer leistungsfähiger neue Modelle auf den Markt bringen damit wie auch die Investoren befriedigen können, die Kunden befriedigend können Marketing per Sprech irgendwie befriedigen können und da hat man einfach zu wenig auf die Sicherheit geachtet.
• 9:20
  Speaker 0: Ich will aber nicht sagen, dass es unmöglich ist, Sicherheit umzusetzen bei so einer Entwicklung.
• 9:25
  Speaker 0: Diese
• 9:25
  Speaker 1: großen KI-Entwickler haben wir auch den Regierung gesagt praktisch ihr müsst Gesetze erlassen, um KI zu regulieren – die Entwicklung!
• 9:33
  Speaker 1: Ist das auch mit dem Grund weil sie Milliarden Verluste machen?
• 9:36
  Speaker 1: Dass sie dann sagen wenn die Regierung uns ... so schnell weiterzuentwickeln, haben wir eher die Chance, positive Ergebnisse zu erzielen.
• 9:44
  Speaker 0: Ja das ist ein super Beispiel und wir haben ja dieses hochinteressante Pressekonferenz jetzt die Tage gesehen vor dem Weißen Haus.
• 9:50
  Speaker 0: Das war irgendwie so eine Atop-Konferenz... Sehr, sehr seltsam alles.
• 9:54
  Speaker 0: Da waren ja so die Big Taxi und Zuckerberg war auch da, der war auch von den Kaila-Born.
• 9:59
  Speaker 0: Und die haben dann im Wesentlichen gesagt, wir machen das jetzt selber!
• 10:01
  Speaker 0: Also wie vertraut uns?
• 10:03
  Speaker 0: Donald Trump hat gesagt, naja wenn sie es nicht selber machen würden... ...und wenn es dann irgendwie zum fatalen Vorfall kommt, dann wäre ihr Unternehmen kaputt weil niemand wäre was davon kaufen würde.
• 10:10
  Speaker 0: Das ist schon eine sehr, sehr Seltsame... Ansicht von Sicherheit.
• 10:14
  Speaker 0: Nur vom Worst Case-Szenario aus zu gehen, der Grund ist warum wir auch diese Sitzung im UN Sicherheitsrat das es ja auch irgendwie letzte Woche gewesen hatten ist einfach meiner Meinung nach kein PR Gag oder Marketing Gag sondern die einfach Angst.
• 10:26
  Speaker 0: Die haben Angst davor dass eben jetzt die Politikerinnen und Politiker darauf aufmerksam werden weltweit im UN-Sicherheitsrat bestes Beispiel und sagen wir brauchen strengere Gesetze und vielleicht kann es auch verboten sein bestimmte KI Produkte auf den Markt zu bringen.
• 10:39
  Speaker 0: Es verzögert sich dass sie auf dem Markt kommt ganz viel Geld, auch weil die Erwartung entsprechend dahinter ist.
• 10:44
  Speaker 0: Und dass sie einfach dann die Sorge haben wenn irgendwas verboten wird oder... entschleunigt wird, dass dann eben vielleicht auch die Investoren abspringen.
• 10:50
  Speaker 0: Die Marktkapitalisierung sinkt, die Unternehmen weniger wert sind, die KI-Base platzt und das ist ja alles so ein Vorgang an der Stelle.
• 10:57
  Speaker 0: oder Silicon Valley ist schon lange bekannt dafür wenn irgendwo Probleme auftauchen, die dann öffentlich groß diskutiert werden, dass sie sagen naja dann nehmen wir es jetzt mal selber in die Hand vertraut uns.
• 11:06
  Speaker 0: Wir machen das also bestes Beispiel.
• 11:08
  Speaker 0: Social Media Regulierung ist ja noch einmal komplett eigenes Thema.
• 11:10
  Speaker 0: mit dem abhängig machten Algorithmen da können man auch einen eigenen Podcast zu machen hat ja Frau von der Leyen neulich diesen Kids Act verabschiedet dass Kinder unter dreizehn keine Social Media Accounts mehr haben dürfen.
• 11:20
  Speaker 0: Das ist natürlich ein gewaltiger Schlag für Metta, Facebook oder TikTok oder ähnliche soziale Medien, die natürlich abhängig machen.
• 11:28
  Speaker 0: und sowas möchte man jetzt glaube ich einfach vermeiden indem man sagt ja wir haben alles unter Kontrolle, wir regulieren das von uns aus vertraut uns ihr braucht gar keine Gesetze machen.
• 11:38
  Speaker 1: Okay, vertraust du den Firmenmachern vor Insilicon Valley?
• 11:42
  Speaker 1: Nein
• 11:42
  Speaker 0: man kann dir nicht trauen.
• 11:43
  Speaker 0: also ich glaube da spreche ich auch andere Menschen an der Stelle, weil es geht um Geschäftsinteressen.
• 11:49
  Speaker 0: Es geht um den Wert erhalt des Unternehmens.
• 11:51
  Speaker 0: also keines dieser Unternehmen ist jetzt so dass es sagt wir wollen den Weltfrieden oder wir wollen nur Gutes mit unserer KI tun.
• 11:57
  Speaker 0: das haben wir auch schon gesehen.
• 11:58
  Speaker 0: die KI wird ja schon zu militärischen Zwecken genutzt.
• 12:01
  Speaker 0: sie wird dazu genutzziele auszuwerten und gesagt zu sagen das greifen wir jetzt mit dem raketen Angriff an und was wird eben verschont?
• 12:07
  Speaker 0: Also da sieht man schon ganz klar durch diese Kooperation So was nicht verschließen.
• 12:12
  Speaker 0: Vor
• 12:12
  Speaker 1: kurzem gab es ja auch eine Meldung, dass die KI den amerikanischen Verteidigungsministerium signalisiert hat das chinesische Boot irgendwo anlegen und dass da kurz vor dem kriegerischen Akt stand, weil eine KI eine Falschmeldung gebracht hat.
• 12:27
  Speaker 1: Ich meine das ist auch eine Riesengefahr, dass KI einfach nicht nur durchdreht selber Waffensysteme vielleicht zu übernehmen sondern Falsschmeldungen verursacht und dadurch dann auch Konflikte entstehen.
• 12:36
  Speaker 1: Ja das
• 12:36
  Speaker 0: ist ein riesen Problem.
• 12:37
  Speaker 0: es hat eine Studie gegeben von einigen renommierten Universitäten also Stanford MIT Columbia University und die haben herausgefunden, dass eben diese KI-Agenten also diese autonom handelnde Systeme teilweise die Folgen ihres Handels gar nicht richtig abschätzen können.
• 12:50
  Speaker 0: Das heißt, die wissen teilweise gar nicht ist es eine Simulation?
• 12:52
  Speaker 0: Ist das jetzt echt an der Stelle?
• 12:54
  Speaker 0: oder wenn sie dann zusammenkollaborieren also mehrere Agenten KI Systeme zusammenwirken.
• 12:58
  Speaker 0: ist der Outcome, also das was am Ende geschieht teilweise wirklich unkalkulierbar gewesen?
• 13:03
  Speaker 0: und gleichzeitig wir haben es ja bei dem Steuerberaterfall gewählen.
• 13:05
  Speaker 0: Du hast jetzt vom Militär gesprochen, sagen wir naja das ist doch gut dann lass uns doch einfach noch viel mehr automatisieren, dann sparen wir irgendwie Leute ein, da können wir schneller handeln, wir haben mehr Ressourcen anderswo zur Verfügung.
• 13:15
  Speaker 0: und das ist einfach dieses Risiko dass alle diesen kurzsichtigen KI-Versprechen mittlerweile erlegen sind oder ganz viele und da können glaube ich gleich auch nochmal darüber sprechen welche Folgen das vielleicht für die Wirtschaft auch hat.
• 13:26
  Speaker 0: aber das sind diese Exists existenziellen Risiken.
• 13:28
  Speaker 0: Und wie mehr wir so etwas zulassen und eher auch aktiv in den letzten Jahren betrieben haben, die Amerikaner ja insbesondere Chinesen aber auch umso mehr müssen wir uns die Frage stellen, wie groß sind eigentlich diese existenzielle Risiken?
• 13:39
  Speaker 0: Und ich glaube das was wir diesen Sommer gesehen haben oder warst du auch mit Australien auf diesem Cellbank auf die Regierung gesehen hast Das ist jetzt der Wake-up Call, das ist wirklich der Weckeruf dass wir alle sagen müssen es ging viel zu schnell Wir haben viel zu viele Kontrolle zu schnell aufgegeben und jetzt haben wir noch die Chance zurückzugehen.
• 13:55
  Speaker 0: Aber wir müssen dieses Chance wahrnehmen Und das betrifft aber nicht nur irgendwelche Regierungen oder Militärs, sondern jeden von uns eigentlich.
• 14:01
  Speaker 0: Ja und
• 14:02
  Speaker 1: wie kannst du zurückgehen?
• 14:03
  Speaker 1: Gebt mir mal ein Beispiel!
• 14:03
  Speaker 1: Was kann man machen
• 14:04
  Speaker 1: jetzt?!
• 14:05
  Speaker 0: Naja, also wenn sich jetzt beispielsweise militärischen Einsatz-Szenarien eben wie du gesagt hast dieser Fall China erweisen soll das die KI halluciniert oder falsche Daten oder Informationen zur Verfügung gestellt hat dann ist es ein ganz klarer Hinweis dass man sowas nicht automatisieren kann in Zukunft.
• 14:18
  Speaker 0: Wenn wir gesehen haben der Steuerberater das falsch konfiguriert da muss in Zukunft deutlich mehr auf Sicherheit geachtet werden.
• 14:22
  Speaker 0: und wenn wir sehen dass Desinformationen verbreitet werden oder beispielsweise auch Programmierung ist ja auch zum Beispiel fehlerhafter Code wird erzeugt oder das beispielsweise auch Maschindaten falsch angegiert werden jetzt feststellen und müssen sehen, aha da kann man nicht so weit automatisieren wie uns das eigentlich vorschwebt sondern brauchen wir immer noch menschliche Kontrolle.
• 14:41
  Speaker 0: Und gleichzeitig haben wir natürlich das Problem dass viele Fachkräfte entlassen wurden in der Vergangenheit, derzeit nochmal massiv entlassen werden.
• 14:47
  Speaker 0: wird auch eben durch diese Entwicklung aus den USA ein bisschen hier rüber geschwemmt weil natürlich auch Geschäftsführer sagen ach da ist ja KI drin super dann kann das ja irgendwie dann brauche ich da niemanden mehr führen.
• 14:57
  Speaker 0: das sehen wir ganz ganz vielen Branchen.
• 14:59
  Speaker 0: also ich habe beispielsweise mit einer Firma gesprochen die Softwareentwicklung macht.
• 15:03
  Speaker 0: Das erste Jahr haben sie mir jetzt gesagt, dass sie keine Fachinformatiker für Anwendungsentwicklung mehr ausbilden.
• 15:09
  Speaker 0: Weil diese Menschen einfach nicht gebraucht werden.
• 15:11
  Speaker 0: aber irgendwo müssen wir uns hier die Frage stellen wo kommt ihr in Zukunft her?
• 15:14
  Speaker 1: Okay Kontrolle zurückgewinnen und nicht zu viel Kontrolle abgeben!
• 15:16
  Speaker 1: Das
• 15:17
  Speaker 0: ist das ist wichtigstens das liebe Issix.
• 15:19
  Speaker 1: Gesetze erlassen.
• 15:20
  Speaker 1: Das Blöde is an gesetzen man muss sich nicht dran halten.
• 15:23
  Speaker 0: Ja, also mit Gesetzen ist es halt natürlich wenn irgendwas gefährliches auftaucht.
• 15:27
  Speaker 0: Ist der Willen nach Regulierung da?
• 15:28
  Speaker 0: Das ist ja die Debatte die jetzt auch überall geführt wird und kurioserweise ist sie auch so gewesen bei dieser UN-Sicherheitsratssitzung vor Kurzem dass viele in der Staaten weltweit gesagt haben wir wollen das nicht, dass es so schnell läuft so unreguliert aber natürlich ... dies geopolitische Thema, ja?
• 15:41
  Speaker 0: Also USA sagen wir müssen ja Vorreiter sein.
• 15:45
  Speaker 0: Sonst macht China das und China sagt... Wir müssen Vorreiters sein, sonst machen die Vereinigten Staaten das.
• 15:48
  Speaker 0: Das heißt mal diesen Clash of Cultures an der Stelle.
• 15:51
  Speaker 0: Und das ist das Risiko.
• 15:52
  Speaker 0: Darum wird meiner Meinung nach schwierig sein wirklich eine einheitliche weltweite KI-Kontrolle einzuführen.
• 15:59
  Speaker 0: Allein schon deswegen aber auch bei KI man nennt das so eine Dual Use Technologie ist.
• 16:03
  Speaker 0: D.h.,
• 16:04
  Speaker 0: man kann sie zum Guten einsetzen wie auch gleichzeitig zum Schlechten.
• 16:07
  Speaker 0: Das kann man ja auf den ersten Blick nicht erkennen.
• 16:08
  Speaker 0: also es hat jetzt z.B.. im September hat ein KI-Unternehmen Entropic eine Studie, so einen Bericht veröffentlicht.
• 16:15
  Speaker 0: Wo sie geschrieben haben naja zu was wird denn unsere KI eigentlich?
• 16:18
  Speaker 0: Wer nutzt das?
• 16:19
  Speaker 0: und da hat man beispielsweise festgestellt dass Wissenschaftler aus Drittstaaten die KI zum Beispiel auch nutzen um Eingaben zu tätigen die theoretisch zur Entwicklung von gefährlichen Viren also biologische Waffen genutzt werden können.
• 16:30
  Speaker 0: aber auch andererseits genauso gut sind diese Erkenntnisse als Grundlagenforschung für neue Medikamente zum Beispiel einsetzbar gewesen.
• 16:37
  Speaker 0: und das ist eben das Problem.
• 16:38
  Speaker 0: wir wissen oftmals nicht, wenn so eine Eingabe kommt.
• 16:41
  Speaker 0: Ist es jetzt was Böses oder ist es an der Stelle etwas Gutes, was am Ende herauskommt?
• 16:45
  Speaker 0: Und Cyberkriminelle haben wir auch schon viel darüber gesprochen die nutzen das ja schon seit Jahren mittlerweile.
• 16:49
  Speaker 0: Der
• 16:50
  Speaker 1: Informatiker Thorsten Holz.
• 16:51
  Speaker 0: Ja, den kenn ich.
• 16:54
  Speaker 1: Vom Max Blank-Institut für Sicherheit und Privatsphäre.
• 16:58
  Speaker 1: Er hält die Warnung in ihr derzeitigen Form für überzogen.
• 17:00
  Speaker 1: So ungefähr wie du ja auch gesagt hast... So
• 17:02
  Speaker 0: wie sie sich konkret darstellen genau
• 17:04
  Speaker 1: Und das war damals so, er sagte als Internet eingeführt wurde gab es auch Probleme und hat mal auch Angst gehabt usw.
• 17:09
  Speaker 1: Also er hält es für überzogen aber er sagt auch eine konkrete Gefahr ist derzeit weniger dass es eine super intelligente KI gibt die außer Kontrollgerät als vielmehr ein Szenario in dem eine leistungsfähige KI von einer Regierung oder Firma missbraucht wird.
• 17:25
  Speaker 0: Ja, das ist auch ein realistisch... Also eines der realistischen
• 17:29
  Speaker 1: Szenarien.
• 17:29
  Speaker 1: Aber es gibt acht Milliarden Menschen auf der Welt!
• 17:31
  Speaker 1: Da gibts irgendein so einen idiotischen Super-Schurken, der das missbrauchen kann?
• 17:35
  Speaker 1: Die Wahrscheinlichkeit ist meines Erachtens relativ groß.
• 17:37
  Speaker 0: Es muss noch nicht mal eine Super-Schurke an dieser Stelle sein.
• 17:39
  Speaker 0: Also es können ja auch eine Institutionen sein.
• 17:41
  Speaker 0: Wir haben ja auch über Regierungen gesprochen und es können genauso die Vereinigten Staaten sein, es können genau die Volksrepublikaner sein.
• 17:46
  Speaker 0: Was glaube ich auch so ein bisschen das Problem ist, drehen wir's auch mal um.
• 17:50
  Speaker 0: wenn wir einfach mal schauen was würde eigentlich passieren?
• 17:53
  Speaker 0: Trump sich entscheidet, den Zugang zu künstlicher Intelligenz.
• 17:56
  Speaker 0: Alles was kommt, das kommt ja aus der Cloud alles raus von einem Tag auf den anderen abzuschalten in der Europäischen Union und Deutschland Was würde dann eigentlich hier passieren?
• 18:03
  Speaker 0: Wenn wir gar keine KI also diese Sprachmodelle gar nicht mehr... Kann er
• 18:06
  Speaker 0: das?!
• 18:07
  Speaker 0: Was kann er das?
• 18:08
  Speaker 0: Also Export-Kontrollbeschränkung.
• 18:09
  Speaker 0: Das hat er sogar schon gemacht, er hat ja gesagt im Mai, genau im Mai ist es gewesen, da der gesagt, eines dieser neuen Frontiermodelle, die Hochleistungs-KI-Modelle so gefährlich dass wir es gar nicht US Amerikanern zur Nutzung anbieten dürfen.
• 18:24
  Speaker 0: und der Tropic hat gesagt naja das können wir nicht kontrollieren während am PC sitzt und das steuert und deswegen haben was komplett ausgeschaltet.
• 18:30
  Speaker 0: So also und das war nur ein Hochleistungen Modell, das war seit wenigen Tagen auf dem Markt, das hat niemand irgendwie richtig... gemerkt.
• 18:36
  Speaker 0: Und wenn wir uns einfach mal vorstellen, so die ganzen Modelle, die täglich genutzt werden von allen Menschen auch in der Wirtschaftsverwaltung überall, wenn die auf einmal nicht mehr da sind... Also ich glaube, wir würden es schon merken.
• 18:45
  Speaker 0: Es ist nicht so als ob jetzt die Internetsuchmaschinen ausfallen würden.
• 18:48
  Speaker 1: Am Anfang hast du gesagt, wir wollten mal von Trump und seiner Super-Inkligenz reden?
• 18:53
  Speaker 0: Oh ja!
• 18:55
  Speaker 1: Er hat den Begriff ja jetzt geprägt.
• 18:57
  Speaker 1: Ist das jetzt wieder mal so typisch Trump oder wie ist dies aus?
• 19:00
  Speaker 0: Ja, man weiß auch nicht warum irgendwie das in Kopf kommt.
• 19:05
  Speaker 0: Das ist ja sowieso mittlerweile sehr erratisch was der Stadt findet.
• 19:08
  Speaker 0: Wissenschaftlich um es darauf wieder zu stützen gibt es diesen Begriff der Superintelligenz bislang noch nicht.
• 19:13
  Speaker 0: also wir sind noch ganz weit davon entfernt und es ist hoch umstritten ob wir auch in den nächsten Jahren soweit sein werden ob wir überhaupt jemals soweite sein werden dass wir eine superintelligenz entwickeln die eben nicht nur mit dem menschen eben ist, sondern weder Hinsicht auch überlegen ist.
• 19:26
  Speaker 0: Die KI-Konzerne sind optimistischer, ja die sagen das kann man schon vielleicht in einigen Jahren haben.
• 19:31
  Speaker 0: aber diese müssen ja optimistisch sein, da haben wir eben darüber gesprochen.
• 19:34
  Speaker 0: sie können ja gar nichts anderes behaupten als dass sie gute Produkte an der Stelle entwickeln, aber ansonsten ist es mit der Superintelligence rein politisches Statement.
• 19:42
  Speaker 0: also dadurch, dass wir jetzt eine KISI nennen ändert sich ja nicht die Technik dahinter.
• 19:47
  Speaker 0: erst mal.
• 19:48
  Speaker 1: Macht ihr das Superintelligenz?
• 19:49
  Speaker 1: hofft oder Angst?
• 19:51
  Speaker 0: Ich bin aus meiner Sicht weder ängstlich noch hoffnungsvoll, sondern besorgt.
• 19:54
  Speaker 0: So sagen was mal so weil wir haben es ja auch schon gesagt du vertrauen einfach einer Technologie die unausgereift ist nur weil der Computer sagt das ist richtig.
• 20:03
  Speaker 0: Wir wissen ja alle mit den Halluzinationen dass es nicht so ist und das ist erst der Anfang von dem Ganzen.
• 20:06
  Speaker 1: Du hattest auch nochmal angedeutet bei unserem Gespräch jetzt wirtschaftliche Folgen.
• 20:10
  Speaker 1: Was gibt es für wirtschaftliche Folgen, wie sieht's aus?
• 20:12
  Speaker 1: So hast du ja schon angedeutet, dass schon viele Leute nicht mehr einstellen oder Leute entlassen die im Informatikbereich tätig sind.
• 20:19
  Speaker 0: Ja also Informatika ist ja nur eine Sache.
• 20:20
  Speaker 0: Also gucken wir uns mal Übersetzer an.
• 20:22
  Speaker 0: da ging es ja schon viel früher los.
• 20:23
  Speaker 0: Dieb Elm kennt wahrscheinlich jeder.
• 20:25
  Speaker 0: Es ist ne deutsche Firma, ne europäische Firma.
• 20:27
  Speaker 0: so in so weit... gut und ein Bereich spezifisches Modell, was ich auch gut finde.
• 20:31
  Speaker 0: Aber das hat dazu geführt, dass viele gesagt haben, wofür solche Übersetzer anstellen?
• 20:34
  Speaker 0: Wenn ich das über die Bell machen kann... Das ist ein sehr leistungsfähiges Modell von Übersetzern.
• 20:38
  Speaker 0: Übersetzen habe ich immer wieder gehört, aber es kommt vielfach auf die Nuancen an!
• 20:42
  Speaker 0: Und wenn du einen guten Text gut übersetzen willst, dann reicht nicht nur eine maschinelle Übersetzung an der Stelle aus.
• 20:46
  Speaker 0: Und das ist eben das Problem.
• 20:48
  Speaker 0: Wir ersetzen immer mehr und verlieren Qualität.
• 20:51
  Speaker 0: Marketing beispielsweise sagen auch viele.
• 20:52
  Speaker 0: Ich brauche keine Marketingagentur, ich mache mir meine Logos alles.
• 20:55
  Speaker 0: Visuals, die gestalt ich mittlerweile selbst.
• 20:57
  Speaker 0: Musikbranche ist betroffen, beispielsweise hier auch mit den Kronensprecher, der in Stimmen werden ja auch mittlerweile mehr und mehr gekapert wird geklaut.
• 21:04
  Speaker 0: also die ganze kreativbranches.
• 21:06
  Speaker 0: massiv betroffen sind auch schon Bereich im Juristerei da würde sagen Anwaltskanzlei dann brauchen wir auch keinen anfänger mehr.
• 21:11
  Speaker 0: das machen wir mit der KI.
• 21:12
  Speaker 0: teilweise sagen die Mandanten naja wofür brauchen wir anwältern können wir mit dem KI machen?
• 21:15
  Speaker 0: Also das sind glaube ich diese Auswirkungen.
• 21:17
  Speaker 0: und Medienbranche vielleicht noch ganz ganz
• 21:20
  Speaker 1: okay.
• 21:20
  Speaker 1: mach ruhig!
• 21:21
  Speaker 0: Ich sehe es immer mehr dass eben auch da viel auf KI ... erkennst die KI geschrieben mit Texten auch einfach, weil sie so gottenschlecht teilweise sind.
• 21:29
  Speaker 1: Ja okay du erkennste!
• 21:30
  Speaker 0: Ja also genau das ist immer so.
• 21:31
  Speaker 0: bestimmte Merkmalwerte, komische Wörter teilweise... ...die ja nicht ganz reinpassen und nicht ganze hundert Prozent reinpassen in so einen Text und so Überschriften.
• 21:38
  Speaker 0: Also was ich eigentlich sagen will ist wir haben also die Auswirkungen, die wirtschaftlichen, die sind schon ganz enorm.
• 21:43
  Speaker 0: Und ich habe teilweise gerade das Gefühl auch mit der Medienbranche In vielen anderen Bereichen dass wir uns einfach viel viel schneller um die eigenen Achse drehen.
• 21:50
  Speaker 0: Also dass wir nicht wirklich Produktivität erzeugen sondern ganz wie Pseudo-Produkt Produktivität.
• 21:55
  Speaker 0: Ich sehe es auch teilweise eben bei Studierenden, die dann sagen naja, ich verstehe das Thema wenn ich gut prompten kann und am Ende ein gutes schönes Ergebnis rausfällt aber... Wir verlieren ganz, ganz viele Kenntnisse.
• 22:07
  Speaker 0: Und da hat es auch Studien beispielsweise im medizinischen Bereich gegeben das Ärzte die eben viel KI einsetzen an der Stelle auch weniger analytische Fähigkeiten Urteilsfähigkeit haben dass er schon relativ schnell auch abnimmt was man an eigenen Fertigkeiten besitzt.
• 22:20
  Speaker 0: und das ist ja wieder das sind wir aber ein Problem.
• 22:22
  Speaker 0: also einerseits wollen wir sagen naja wir wollen nicht die Kontrolle immer weiter weggeben dafür brauchen wir Fachkompetenz.
• 22:28
  Speaker 0: andererseits sagen kurzsichtig wirtschaftlich im Mittelstand ist es genauso ausgeprägt wie in Großkonzernen.
• 22:33
  Speaker 0: dann lasst uns doch mal die KI ran.
• 22:35
  Speaker 0: noch einen letzten Punkt.
• 22:36
  Speaker 0: Haben wir denn wirklich nachweisbare Produktivitätsgewinne?
• 22:39
  Speaker 0: Was man halt erlebt, ist dass wir versuchen mehr und mehr Kompetenz nicht zu ergänzen sondern zu ersetzen.
• 22:44
  Speaker 0: So obwohl für eine Technologie die uns alle überrollt hat und die wir auch nicht einschätzen können und das ist das Fatale einfach daran weil ich meine Chatchi PT weißt du wie lange es gedauert wird bis Chachi PT hundert Millionen Nutzer weltweit hatte ... zwei Monate.
• 22:57
  Speaker 0: Sechzig Tage!
• 22:59
  Speaker 0: Und da ist natürlich auch kein Spektrum, dass wir irgendwie das Buhr teilen können ja?
• 23:02
  Speaker 0: Alle waren ganz toll du brauchst auf einmal... Es hat ja nur angefangen.
• 23:05
  Speaker 0: ich brauche irgendwie keine Geburtstagsrede mehr selber schreiben, sowas Fuchtbares eigentlich ne?
• 23:10
  Speaker 0: Das mache jetzt einfach mit einer KI.
• 23:12
  Speaker 0: Das waren die ersten Sachen, die ich von den Leuten aus meinem Umfeld so gehört habe und jetzt haben sie auf einmal festgestellt die KI kann einfach viel viel selber machen an der Stelle.
• 23:19
  Speaker 0: Also das ist glaube ich so der ganz zentrale Punkt um dem es geht.
• 23:23
  Speaker 1: Okay Dennis erst mal danke, dass ihr da warst.
• 23:26
  Speaker 1: breites Thema, ein großes Spektrum und ich denke dass wir uns nochmal öfters hören werden in den nächsten Wochen, Monaten weil KI lässt uns nicht los.
• 23:34
  Speaker 0: Auf jeden Fall nicht.
• 23:35
  Speaker 1: Danke
• 23:41
  Speaker 0: dir!