Latest / Cyber-Tango – der echte TRUST Podcast / KI übernimmt die Weltherrschaft. Oder doch nicht?

Transcript

KI übernimmt die Weltherrschaft. Oder doch nicht? · Cyber-Tango – der echte TRUST Podcast

• 0:07
  Speaker 1: Hallo zusammen, da sind wir wieder mit dem Cybertango.
• 0:11
  Speaker 1: Dem echten Trust Podcast!
• 0:15
  Speaker 1: Ja liebe Zuhörer wie ihr schon an meiner Stimme erkennen könnt heute mit mir und nicht dem lieben Stefan der nämlich noch im Urlaub ist.
• 0:24
  Speaker 1: aber ich habe mir dafür einen Gast mitgebracht und den darf ich jetzt mal herzlich begrüßen.
• 0:30
  Speaker 1: hallo Christoph.
• 0:32
  Speaker 0: ja hallo Axel Ich weiß nicht ob mich die Ein oder anderen Zuhörer vielleicht schon mal eine oder andere Stelle gesehen haben, deswegen erzähle ich mal
• 0:40
  Speaker 1: kurz.
• 0:41
  Speaker 1: Gerne, stelle dich mal kurz vor!
• 0:43
  Speaker 0: Ja gerne.
• 0:44
  Speaker 0: Ich bin der Christoph bei der TÜV Trust IT und komme selbst außer Dortmund in der Ecke auf, wenn ich in Köln mal loche.
• 0:52
  Speaker 0: Und wie sagt man doch so schön als Kerr aus dem Pott?
• 0:55
  Speaker 0: Egal wo gehst du mit den Herzen bleibst im Pott... ...und trotzdem würde ich mal sagen auch in Kologne fühle ich mich poolwohl Ja, wie der Kölner seid.
• 1:03
  Speaker 0: Er hat noch immer Jotje jagen, ne?
• 1:06
  Speaker 1: Meine Güte!
• 1:07
  Speaker 1: Du bist ja schon vollkommen akklimatisiert.
• 1:11
  Speaker 1: also dann kann ja eigentlich nichts schief gehen würde ich sagen
• 1:15
  Speaker 0: Das finde ich doch offen.
• 1:17
  Speaker 1: Und ich habe mir ein Thema für heute überlegt denn einen Thema da habe ich den Eindruck das bewegt im Moment sehr viele.
• 1:25
  Speaker 1: man kann viel in der Presse lesen drüber.
• 1:30
  Speaker 1: Vielleicht überfahre ich dich ein Stück.
• 1:32
  Speaker 1: Ich frage dich einfach mal, KI ist in aller Munde?
• 1:37
  Speaker 1: Christoph geht nächstes Jahr die Welt unter.
• 1:41
  Speaker 0: Spannende Frage!
• 1:45
  Speaker 0: Das hört man immer öfter muss sich ja wirklich sagen diese Situation und wenn ich den Spruch höre da muss ich direkt erstmal an einen Matrix denken.
• 1:55
  Speaker 0: wo es dann hier hieß zu Beginn des einstanzigsten Jahrhunderts war die ganze Menschheit in euphorischer Stimmung Wunderten die eigene Genialität bei der Schöpfung der KI und dann kam es eben zu diesem West-Case-Szenario, was du gerade angesprochen hast.
• 2:10
  Speaker 0: Und das ist natürlich so ein Ding wo die Angst ein bisschen größer wird, wo man auch sagen muss Es kommt drauf an wie sich alles entwickelt und wohin wir uns entwickeln und was wir darunter wirklich verstehen wollen.
• 2:26
  Speaker 1: Ich glaube, das ist ein guter Punkt.
• 2:28
  Speaker 1: Ich persönlich hatte dir auch schon mal gesagt ich denke immer auch so ein bisschen an iRobot als der Film mal rauskam vor Ewigkeiten hat man vielleicht auch ein bisschen drüber gelächelt.
• 2:40
  Speaker 1: manchmal habe ich heute den Eindruck es vielleicht auch hier und da aktueller denn je ja.
• 2:47
  Speaker 1: aber jetzt muss man natürlich schonmal sehr ernsthaft betrachten.
• 2:52
  Speaker 1: das durchaus prominente Köpfe, auch aus Amerika.
• 2:56
  Speaker 1: Die Geschäftsführer von Open AI, Claude wahrscheinlich auch andere selbst Elon Musk hat sich zu Wort gemeldet habe ich gesehen ja so ein bisschen in diesen Chor eingestimmt haben.
• 3:10
  Speaker 1: müssen wir uns jetzt wirklich Sorgen
• 3:12
  Speaker 0: machen.
• 3:13
  Speaker 0: Ja, durchaus ist mir es ähnliches zu Orgen gekommen.
• 3:16
  Speaker 0: Also um jetzt auch mal die Köpfe, die du erwähnt hast zu zitieren... Was hat denn der Kollege Oldman so gesagt?
• 3:23
  Speaker 0: Ich glaube das war noch in dieser oder in der letzten Woche, dass er gesagt hat Es ist inakzeptabel ein zehntprozentiges Risiko einzugeben, dass zum Ende des Jahrzehnts die Menschheit ausgelöscht wird.
• 3:33
  Speaker 0: Das ist ein sehr harter Satz und was man natürlich sagen muss Er hat den Börsengang verzögert weil er ihnen gesagt hat ich sehe ganz große Risiken KI entstehen können, weil wir eben hier von einer exponentiellen Entwicklung sprechen.
• 3:48
  Speaker 0: Also das ist halt nicht wie wir es kennen linear sondern man sieht diese Entwicklung geht immer schneller voran und wir sehen aber auch wie du es gerade auch gesagt hast mit Elon Musk die Perspektiven gehen vollkommen auseinander.
• 4:01
  Speaker 0: Denn was sagt Musk im Gegensatz dazu?
• 4:04
  Speaker 0: Wir brauchen eine Umgebung, die frei von Regulierung sind Und in der EU finden wir das Level an Regulierungen einfach extrem hoch und erstmal sind alle Dinge illegal.
• 4:12
  Speaker 0: Also das ist, was er gesagt hat.
• 4:15
  Speaker 0: Und... Das ist natürlich richtig!
• 4:19
  Speaker 0: Aber man macht sich natürlich auch Gedanken, warum ist denn das so?
• 4:23
  Speaker 1: Ja wie schätzt du das denn jetzt persönlich ein?
• 4:26
  Speaker 1: Gibt es Risiken?
• 4:28
  Speaker 1: sind die wirklich unbeherrschbar?
• 4:32
  Speaker 1: Ich würde mal also ein bisschen interessieren.
• 4:34
  Speaker 1: Du hast ja sehr viel natürlich auch Prominente skizziert.
• 4:38
  Speaker 1: Jetzt könnte ich auch sagen, dass es durchaus auch Stimmen, die ja direkt dagegen wettern.
• 4:42
  Speaker 1: Ich möchte jetzt den amerikanischen Präsidenten nicht direkt zitieren aber ich glaube ihm ist es eh nur an einer potenziellen Technologieführerschaft gelegen an der Stelle ohne über Konsequenzen nachzudenken.
• 4:54
  Speaker 1: Aber ja müssen wir uns Sorgen machen und wenn wir uns Sorge machen und ich glaube konstruktiv Sorgen Machen ist erst mal in Ordnung Was können wir auch tun vielleicht?
• 5:08
  Speaker 0: Also, ich bin erstmal bei dir und wenn ich das ganze jetzt relativ trivial ausdrücken würde, würde ich sagen ja Sorgen sind erst mal nicht verkehrt.
• 5:17
  Speaker 0: Ja aber man muss es natürlich auch relativieren.
• 5:21
  Speaker 0: Wichtig ist halt aus meiner Sicht dass wir uns mit dem Thema auseinandersalzen und dass wir unsere Bedanke machen was sind die Besiken Was kann passieren?
• 5:29
  Speaker 0: Und was müssen wir berücksichtigen?
• 5:31
  Speaker 0: Und ich sage lass uns erst einmal alles machen und das wird schon.
• 5:34
  Speaker 1: Also lass vielleicht mich gerade mal einhaken an der Stelle.
• 5:37
  Speaker 1: Entschuldige, wenn ich dich darunter breche.
• 5:39
  Speaker 1: Man fühlt sich auch so ein bisschen hilflos erstmal weil da ist das unheimliche unterwegs und Das macht unheimlich Dinge man fühlt es sich ausgeliefert.
• 5:52
  Speaker 0: Das ist natürlich eine Perspektive.
• 5:54
  Speaker 0: ja also in gewisser Form kann ich diesen Gedanken von der einen oder anderen Person nachvollziehen Und dann geht's ja dann wirklich darum wie du es schon sagst Risiken zu bewerten und sich eben auch damit auseinanderzusetzen, weil wir jetzt ein KI-System haben.
• 6:08
  Speaker 0: Was ist das für ein System?
• 6:09
  Speaker 0: Was kann ich machen?
• 6:11
  Speaker 0: Fließen die Sachen, die ich habe direkt in Trainingsdaten mit ein, woraus sich das System weiterentwickelt?
• 6:17
  Speaker 0: Und natürlich auch wenn ich mir Gedanken über das System mache Auch Wie wird das System genutzt?
• 6:22
  Speaker 0: also Wir haben ja die Unterscheidung zwischen dem KI-system selbst und im Use Case.
• 6:27
  Speaker 0: Ja Das sind ganz entscheidende Unterschiede.
• 6:31
  Speaker 1: Vielleicht grüßelst du das auch noch mal ein bisschen auf gerade, vielleicht sitzt nicht jeder so tief drin wie du und ich.
• 6:37
  Speaker 0: Ganz genau!
• 6:38
  Speaker 0: Also es gibt immer grundsätzlich diesen Gedanken, wie du es erwähnt hast wir haben Claude, wir haben ChatGPT Wir haben Co-Pilot, wir hatten innzellige verschiedene KI Anbieter die aktuell im Umlauf sind Und die kann man ja jetzt zunächst einmal für ganz viele verschiedene Elemente nutzen.
• 6:56
  Speaker 0: muss ich jetzt glaube gar keine Beispiele veraufzählen.
• 6:59
  Speaker 0: Es ist aber ganz entscheidend, dass wir uns Gedanken machen.
• 7:01
  Speaker 0: das ist unser Szenario was es unser use case so und viele sagen Ich möchte das System gerne nutzen um einen langen text zusammenzufassen.
• 7:08
  Speaker 0: Jetzt mal im relativ trivialen fall ich bestelle information von zwei texten konsolidieren Dann geht es und dann kann man das risiko überschaubar machen wenn man Jetzt sich aber Gedanken macht so ein system lässt sich ja auch nicht nur für solche zwecken nutzten sondern für andere Zwecke, ja?
• 7:25
  Speaker 0: Für Erstellung von Fake-Bildern.
• 7:27
  Speaker 0: Von Personen.
• 7:28
  Speaker 0: Für Erstellungen von Personenprofilien.
• 7:32
  Speaker 0: Es gibt ja auch dieses Thema verbotene KI-Praktiken.
• 7:35
  Speaker 0: Da wär's auch denkbar dass das auf einmal Nutzerverhalten ausgelädet wird.
• 7:39
  Speaker 1: Ja richtig!
• 7:41
  Speaker 1: Wie kann ich mich denn dagegen schützen?
• 7:43
  Speaker 1: vielleicht dann konkret also ich habe selbst... Ich meine wir sind ja noch auf der Zielgraden Landtagswahlkampf in zwei Bundesländern, da habe ich auch heute Morgen erst wieder von irgendwelchen Fake-Animationen gelesen.
• 7:58
  Speaker 1: Ich glaube die Personen im öffentlichen Leben werden sich schwer tun, sich selbst dagegen zu schützen.
• 8:03
  Speaker 1: aber wie kann ich das vielleicht auch erkennen als profaner Betrachter denn die wären ja immer besser?
• 8:10
  Speaker 0: Ja wir müssen natürlich noch mal unterschalten.
• 8:12
  Speaker 0: wer ist der profane Betrechter?
• 8:13
  Speaker 0: meinst du jetzt den profanen betrechter dich und mich als Privatperson oder mehr, als das Unternehmen?
• 8:19
  Speaker 1: Genau.
• 8:20
  Speaker 1: Nicht mal als Privaatperson an der Stelle.
• 8:22
  Speaker 0: Ich sag mal für mich als privatperson ist es natürlich die übliche Situation wo hast du deine persönlichen Daten, wo hast Du Deine Bilder hochgeladen?
• 8:31
  Speaker 0: was für Bilder lädst Du hoch?
• 8:33
  Speaker 1: Na,
• 8:34
  Speaker 0: so ein Thema war ganz schnell auch mal in das Thema Datenschutz abdriftet.
• 8:38
  Speaker 0: Was möchte ich angeben?
• 8:39
  Speaker 0: Wo melde ich mich überall an?
• 8:41
  Speaker 0: Oder auch wie schnell im Früh oder wie spät lad ich denn auch Bilder von vielleicht Kindern hoch, die dann hochstalliert werden können.
• 8:48
  Speaker 1: Ja da agieren manche doch immer noch recht hemmungslos glaube ich.
• 8:53
  Speaker 0: Ganz genau und da merke ich aber auch in meinem freundlichsten Bekanntenkreis dass diese Perspektiven vollkommen auseinandergehen.
• 8:58
  Speaker 0: Da heißt es mein Kind wird doch früher oder später eh bei einem sozialen Netzwerk sein.
• 9:03
  Speaker 0: warum soll dich die Bilder nicht jetzt schon hochladen?
• 9:07
  Speaker 0: Die Meinung würde ich jetzt nicht unterstützen.
• 9:10
  Speaker 0: Ich weiß nicht wie du das siehst.
• 9:12
  Speaker 1: Da bin ich bei dir, auch das kann ich hin und wieder wahrnehmen wie gedankenlos manche damit umgehen.
• 9:19
  Speaker 0: Ganz genau!
• 9:20
  Speaker 0: Und da geht es halt wirklich darum.
• 9:21
  Speaker 0: Je mehr ich von mir preisgebe, je mehr ich auch an diesen Datensverfüllungsstellen umso mehr kann in potentielle KI-Systeme in irgendeiner Form einfießen oder auch durch Dritte die ich jetzt gar nicht auf dem Schirm habe in diese KI System integriert werden.
• 9:37
  Speaker 1: Das ist ja eigentlich auch ein Prinzip, wenn wir jetzt vielleicht wieder zu den Unternehmenschwenken, was man schon immer propagiert hat, da eine Sparsamkeit.
• 9:47
  Speaker 0: Mit Sicherheit!
• 9:50
  Speaker 1: Man sollte nicht unnötig und auch nie to know Prinzip natürlich, es sollten nur diejenigen mit Dingen befasst sein, die wirklich entsprechende Informationen um Zugang zum gewissen System brauchen.
• 10:03
  Speaker 0: Ganz genau.
• 10:03
  Speaker 0: Und gerade auch am unternehmerischen Kontext sehr spannend, wenn man da einen falschen Use Case für eine KI nutzt.
• 10:10
  Speaker 0: Dann bekommt man ja auf einmal neue Daten heraus.
• 10:12
  Speaker 0: also dass ein Unternehmen vielleicht Arbeitszeiten erfasst ist jetzt nicht gänzlich überraschend.
• 10:18
  Speaker 0: Dass diese Arbeitszeit in Personen zugeordnet sind, ist vielleicht auch nicht ganz so überrascht, dass mehr Personen Abteilung zuordnen kann und so weiter.
• 10:25
  Speaker 0: das ist alles logisch.
• 10:26
  Speaker 0: Stände uns aber nun vor, dass das Ganze durch eine KI in irgendeiner Form ausgewertet wird durch irgendwelche Zusammenhänge Nutzungskarakteristik, Nutzungsstatistiken ableiten kann und sagen kann, der ist produktiver als der andere.
• 10:40
  Speaker 0: Wo wir dann wieder bei den verbotenen KI-Praktiken sind?
• 10:43
  Speaker 0: Da ist man auf einmal beim Szenario was man sich vor ich sage mal zehn Jahren in der Form gar nicht hätte vorstellen können.
• 10:50
  Speaker 1: Sehr spannend auch wo du für übers Arbeitsleben sprichst weil darüber habe mich auch letzten schon etwas gelesen in der Tat vernichtet die KI jetzt Arbeitsplätze.
• 11:03
  Speaker 1: Wie würdest du das sehen?
• 11:04
  Speaker 1: Ist das so?
• 11:07
  Speaker 0: Ich würde das ganz diplomatisch mit, es kommt darauf an, interpretieren.
• 11:11
  Speaker 0: Denn wenn wir uns das Ganze im heutigen Standpunkt angucken dann siehst Du in erster Linie ganz so einfach und ganz so fähig ist das Stand heute noch nicht was Du sagen kannst dass nahezu jeder Job in irgendeiner Form ersetzt werden könnte.
• 11:26
  Speaker 0: Das wäre auch ein bisschen traurig aber ein bisschen Sorge davor besteht absolut.
• 11:30
  Speaker 0: Wir sehen es schon jetzt.
• 11:31
  Speaker 0: Ich weiß nicht, ob du schon mal bei Amazon oder sonstigen Streaming-Anbietern zu einem Film gesehen hast, der jetzt nicht mehr von Synchronsprecher gesprochen wird, sondern von Kais und das ist schon relativ gut!
• 11:47
  Speaker 0: Und trotzdem kommen dann teilweise die Übersetzungskräler, die der Nutzer hört, wo man dann sagt, wow... Das hat mir jetzt nicht so gut gefallen.
• 11:57
  Speaker 1: Bin ich auch bei dir?
• 11:58
  Speaker 1: Also, ich selbst will da jetzt auch gerne mal noch eine Meinung reinstreuen.
• 12:02
  Speaker 1: Ich sehe das in der Tat gar nicht so negativ.
• 12:04
  Speaker 1: Ich glaube dass die KI vorrangig die Arbeitswelt verändern wird.
• 12:10
  Speaker 1: Man hat ja auch fast Weltuntergangsszenarien skizziert als man E-Mail-Systeme eingeführt hat unter dem Motto, jetzt werden wir die Post abschaffen.
• 12:24
  Speaker 1: Nur oder sonst wie?
• 12:26
  Speaker 1: Ich glaube es wird die Arbeitswelt verändern und sicher aber auch produktiver machen.
• 12:31
  Speaker 1: Ich meine mal muss das ja auch mal ein Stück positiv sehen.
• 12:34
  Speaker 0: Genau!
• 12:35
  Speaker 0: Auch das bin ich ganz bei hier denn wir sehen ganz viele Möglichkeiten die es in der Form vorher nicht gab vor herigen Zeit wesentlich, wesentlich anders behandelt wurden und wo wir das Ganze auch einfach als Chance betrachten müssen.
• 12:48
  Speaker 0: Dass wir eben sagen können wir können Elemente anders auswerten aber eben auch wie sagt man so schön wenn ich jetzt wieder sieben zwanzig tausend eins Kapitel sechs im Kopf habe mit Risiken und Chancen.
• 12:59
  Speaker 0: natürlich ist mein Heimatland steht den ganzen natürlichen Risiko auch gegenüber weil du hast natürlich nicht nur dass das Thema dass es mehr Möglichkeiten gibt sondern dass dadurch die ein oder anderen Risiken auch dazukommen.
• 13:15
  Speaker 1: Genau, und ich finde da hast du einen sehr schönen Bogen gerade gezogen weil auch wir lassen unsere Kunden natürlich nicht in diesem Dilemma alleine.
• 13:26
  Speaker 0: Das wäre auch traurig,
• 13:27
  Speaker 1: sagen wir mal so!
• 13:28
  Speaker 1: Da haben
• 13:31
  Speaker 0: wir jetzt schon die eine oder andere, die sich eben genau mit diesen Themen auseinandersetzen wollen und sie sich das dann genau angucken.
• 13:38
  Speaker 0: Jetzt habe ich hier so'n KI-System.
• 13:40
  Speaker 0: Warte mal, wie soll ich denn das bereiten?
• 13:42
  Speaker 0: Denn manchmal kommt es halt nicht darauf an, was das und nicht alleine.
• 13:47
  Speaker 0: Was das Risiko ist sondern auch einfach mal die Perspektive zu wechseln.
• 13:51
  Speaker 0: Du kannst ja schlechte KI fragen ob die KI dir mal eben ihre Risiken aufzeigt?
• 13:55
  Speaker 0: Vielleicht wird sie dir in der Kriterie sagen.
• 13:57
  Speaker 0: Interessante Frage
• 13:58
  Speaker 1: eigentlich!
• 14:00
  Speaker 1: Genau.
• 14:01
  Speaker 0: aber da geht's wirklich darum sich damit auseinanderzusetzen.
• 14:04
  Speaker 0: Was machen wir hier?
• 14:05
  Speaker 0: Und dass wäre vielleicht auch einfach Mal als Unternehmen den Blick von Außenbrauchen drauf.
• 14:09
  Speaker 0: Was wird hier gemacht?
• 14:10
  Speaker 0: Als Unternehmen gesagt wird Joa, das wird schon.
• 14:13
  Speaker 0: Das machen doch alle!
• 14:15
  Speaker 0: Warum sollen wir das nicht?
• 14:16
  Speaker 0: Und ich kann mir gut vorstellen du wirst diesen Gedankengang auch nachvollziehen können dass der dir oft zugetragen wird.
• 14:23
  Speaker 1: Ja, das ist so und ich glaube Risiken erkennen sie benennen ist immer der erste Schritt und dann kann man sich aufmachen sie irgendwie zu beherrschen
• 14:33
  Speaker 0: Ganz genau.
• 14:34
  Speaker 0: Und deswegen das war auch das, was ich ursprünglich mal gesagt habe.
• 14:37
  Speaker 0: Dass man sich halt initial damit auseinandersetzt welche Systeme können wir einsetzen?
• 14:40
  Speaker 0: wie funktionieren die wo?
• 14:41
  Speaker 0: wie hosten sie die?
• 14:43
  Speaker 0: und im zweiten Schritt dann auch damit aueinandersetzen wofür werden Sie eingesetzt?
• 14:47
  Speaker 0: Wie sehen eben diese Nutzungsszenarien diese Use Cases aus um es eben konkret zu bewerten um sich eben da einen Eindruck zu verschaffen?
• 14:57
  Speaker 1: Ja, super.
• 14:58
  Speaker 1: Christoph ich fand das mega spannend!
• 15:00
  Speaker 1: Ich glaube dass wird auch weiter ein Thema sein was uns einige Zeit begleiten wird und ich glaube da wird es auch noch mal später viel zu sagen geben.
• 15:10
  Speaker 0: Da bin ich ganz deiner Meinung.
• 15:12
  Speaker 0: und ja was ich nochmal zum Abschluss erwähnen möchte wenn ich mir vorstelle wie ich vor zehn Jahren auf das Thema KI geschaut habe Und jetzt noch mal einen Blick drauf werfe finde ich die Entwicklung tatsächlich erschreckend und beeindrucken zugleich.
• 15:27
  Speaker 0: Und ich bin tatsächlich sehr gespannt, wie das Ganze in weiteren fünf oder zehn Jahren dann aussehnt wird.
• 15:33
  Speaker 1: Super!
• 15:34
  Speaker 1: Wir werden es verfolgen.
• 15:35
  Speaker 1: und damit erst mal herzlichen Dank an dich und ich würde mich freuen liebe Zuhörer wenn ihr uns auch gerne noch Feedback dazu gibt.
• 15:47
  Speaker 1: vielleicht habt ihr ja auch eine entsprechende Perspektive dazu?
• 15:51
  Speaker 1: Ja damit würden wir uns verabschieden.
• 15:54
  Speaker 1: Tschüss, Christian.
• 15:55
  Speaker 0: Herzlichen Dank, dass ich dabei sein durfte!
• 15:57
  Speaker 1: Macht es gut.
• 15:58
  Speaker 1: bis dann tschüß
• 16:00
  Speaker 0: tschüs.