Latest / #digdeep - Neues aus der digitalen Welt / Hat Europa bei KI noch was zu melden, Aljoscha Burchardt?

Transcript

Hat Europa bei KI noch was zu melden, Aljoscha Burchardt? · #digdeep - Neues aus der digitalen Welt

• 0:02
  Speaker 1: Die einen halten KI für allmächtig, die anderen halten sie für einen sehr charmanten und penetranten Lügner.
• 0:08
  Speaker 1: Für unseren heutigen Studio Gast ist daher der Begriff der vertrauenswürdigen KI doch sehr fragbarig denn Vertrauen ist gut aber Kontrolle manchmal auch besser.
• 0:17
  Speaker 1: Während KI sich ancheckt Kunden zu bedienen Patienten zu behandeln rechts zu unterstützen und zu sprechen da ist doch die Frage vor allem was wollen wir Menschen überhaupt?
• 0:28
  Speaker 1: Und wahrscheinlich werden wir in eine Koevolution von Mensch und Maschine hineingeraten.
• 0:33
  Speaker 1: Wir haben deswegen einen ganz fundierten Studiengast eingeladen, der sich für ein Berufswegen mit dem Thema KI auseinandersetzt.
• 0:40
  Speaker 1: Er arbeitet am DFKI ist aber inzwischen ein Kommunikator zum Thema Künstlichenilligenz und hat einen eigenen AD-Podcast KI und Jetzt.
• 0:49
  Speaker 1: Er ist von Haus aus Computer Linguist und ihn hat die Entwicklung der LLMs der großen Sprachmelle jedoch auch ganz schnell überrascht.
• 0:56
  Speaker 1: Und so freuen wir uns auf ein spannendes Gespräch mit Al-Yosha Borchardt.
• 1:14
  Speaker 1: Herzlich willkommen bei Dig Deep, unserem Podcast zur neuen aus der digitalen Welt!
• 1:17
  Speaker 1: Hallo Al- Yosha!
• 1:19
  Speaker 0: Ja ich erlaub mir mal zu sagen guten Morgen!
• 1:21
  Speaker 1: Guten Morgen, schön dass du hier bist.
• 1:23
  Speaker 1: Wir haben eine sehr unkristlichen Zeit auf acht Uhr morgens.
• 1:27
  Speaker 1: Aber es ist ja morgen nach der Apple Keynote.
• 1:30
  Speaker 1: also die Apple hat gestern Abend mal verkündet wie sie mit Siri AI tatsächlich jetzt den zweiten Anlauf gewinnen wollen.
• 1:38
  Speaker 1: Verzweiern haben sie schon mal versucht und sind kläglich gescheitert, haben etwas angekündigt was sie nicht hingekriegt haben.
• 1:44
  Speaker 1: Und jetzt haben sich die Hilfe von Google genommen.
• 1:46
  Speaker 1: Und aus Sierra dem mit Abstand dümmsten Chatbot der gerade auf dem Markt ist da wirklich nichts ging.
• 1:53
  Speaker 1: das soll jetzt Sierra AI daraus werden aber mit dem kleinen Wermutstropfen oder dem großen Nicht in der EU Denn aufgrund des Data AI-Acts in der EU, also der Datenschutzverordnung wird Siri erst mal nicht nach Europa kommen.
• 2:07
  Speaker 1: So Aljosha, lass uns mal ganz groß rein starten!
• 2:10
  Speaker 1: In diesem Podcast hat die EU alles falsch gemacht oder vielleicht auch alles richtig gemacht?
• 2:15
  Speaker 0: Ja das hatten wir ja an anderer Stelle auch schon dass es dann hieß irgendwas gibt's nicht in Europa.
• 2:19
  Speaker 0: naja da gibts irgendwie dreihundert Millionen Kundinnen und Kunden potenzielle und irgendwann werden die dann doch nochmal interessant ja die ja auch finanzkräftig sind.
• 2:26
  Speaker 0: Und dann plötzlich geht´s dann doch in Europa und lässt sich in Europa.
• 2:30
  Speaker 0: Ich habe mal mit der Person gesprochen, die die Untertitlung und Transkription für Zoom bereitgestellt hat.
• 2:36
  Speaker 0: Und dann hieß es auch wegen DSGVO muss das halt in Europa gerechnet werden?
• 2:41
  Speaker 0: Und zack ging es!
• 2:42
  Speaker 0: Zack wurde also die Untertitelung und Transcription von Zoom dann in Europa gerechnet.
• 2:47
  Speaker 0: Hat die EU alles falsch gemacht?
• 2:50
  Speaker 0: ist deine Frage... Ich denke zwischen dem Gesetz, was auf dem Papier steht und der Umsetzung ist sehr viel Raum und sehr viel Interpretationsspielraum.
• 2:58
  Speaker 0: Und ich denke das Gesetz, das auf dem papier steht ja es gibt den Stand weitgehend von Fordchats GPT wieder.
• 3:06
  Speaker 0: man hat versucht natürlich sehr generisch die Regulierung zu formulieren mit Risikoklassen und mit Ausnahmen und mit Hochrisiko Bereichen.
• 3:13
  Speaker 0: und damals war man aber auf dem stand würde ich sagen das schlimmste was man sich vorstellen konnte waren autonomes Auto was ein Unfall verursacht oder ein falsches Medikament, was von einem KI-System empfohlen wird und zum Nachteil der Patientinnen oder des Patienten ist.
• 3:26
  Speaker 0: Was natürlich an sich auch schlimme Dinge sind das will ich nicht sagen.
• 3:30
  Speaker 0: aber das was wir heute sehen an Demokratiegefährdung durch Deep Fakes oder dass er das ganze Online Business SEO zusammenbricht durch KI Suche das hatte man damals so noch nicht gesehen.
• 3:43
  Speaker 0: ja du wolltest groß einsteigen und ich wollte sagen von der Regulierung sind wir wahrscheinlich.
• 3:47
  Speaker 0: an der einen Stelle haben wir viel zu wenig gesehen Und an der anderen Stelle, wie du sagst haben wir ja noch nicht mal den AI-Act umgesetzt und sind jetzt noch am Diskutieren.
• 3:57
  Speaker 0: Es gibt den Omnibus.
• 3:58
  Speaker 0: soll man die Deadlines nochmal verschieben?
• 4:00
  Speaker 0: das heißt es herrscht noch große Unsicherheit.
• 4:02
  Speaker 0: ist es wahrscheinlich nicht einmal bei Apple der Fall dass sie nicht glauben dass in der EU nicht geht sondern es ist die Unsicherkeit Wie wird es kommen?
• 4:09
  Speaker 0: Wann wird es genau kommen?
• 4:10
  Speaker 0: was wird man dann dürfen?
• 4:12
  Speaker 0: also eine typische Antwort eines Wissenschaftlers länglich und erst kommt drauf an
• 4:17
  Speaker 1: Es kommt darauf an, könnte es auch rechtsanwalt geworden sein.
• 4:19
  Speaker 1: Sehr schön!
• 4:20
  Speaker 0: Ja du beschäftigst
• 4:21
  Speaker 1: dich ja also du kommst vom DfKi da steckt er schon im Namen das Thema künstliche Intelligenz drin und ich glaube auch ihr hättet euch vor fünf Jahren wahrscheinlich nicht vorstellen können wo wir heute sind, vermute ich mal so weil die Geschwindigkeit mit der dass alles passiert jetzt eben in diesen exponentiellen Aster einsteigt.
• 4:37
  Speaker 1: also das heißt KI beschleunigt sich selber weiter.
• 4:40
  Speaker 1: Was hat das denn mit deinem eigenen Gebiet gemacht?
• 4:43
  Speaker 1: Du bist eigentlich Computer Linguist, also von der Ausbildung.
• 4:45
  Speaker 0: Ja ich habe vor dreißig Jahren mal Computer Linguistik studiert, also sagen wir mal zwei technologische Wellen zurück und wir haben das auch nicht wirklich kommen gesehen.
• 4:57
  Speaker 0: Also die Mittelgroßen nennt man sie oder Small Language Models nennten Sie heute, also Bird und so, die glaube ich im Jahr von google und anderen auf den markt kam.
• 5:06
  Speaker 0: die haben damals eigentlich schon bei uns das ganze gebiet wieder mal umgekrempelt.
• 5:10
  Speaker 0: also ich komme noch aus der fang vorne an aus der symbolischen welt wo wir noch mit experten systemen und formalen grammatiken ja und weltmodellen und wenn dann und was weiß ich gearbeitet haben.
• 5:20
  Speaker 0: dann kam die erste welle der statistik baser statistik mit feature engineering und die modelle.
• 5:29
  Speaker 0: Die Daten waren immer zu viel und die Rechenleistung war immer zu wenig.
• 5:32
  Speaker 0: Man musste sehr, sehr viel eingreifen in die Prozesse und hat dann immer optimiert und gewichtet und weggeschnitten und verallgemeinert und solche Dinge gemacht.
• 5:40
  Speaker 0: Das hat dann nie wirklich funktioniert weil der Mensch halt immer versucht hat das Machine Learning zu optimieren in dieser ersten Welle.
• 5:46
  Speaker 0: Das war eigentlich immer ein Kampf sozusagen.
• 5:47
  Speaker 0: man weiß in den Daten steckt sehr viele Informationen aber man hatte nicht die rechten Power sie automatisch rauszuholen.
• 5:54
  Speaker 0: Und das war also immer immer immer relativ krampfig.
• 5:57
  Speaker 0: und dann kam eben diese Sprachmodelle, die sozusagen einfach alles selber mitgebracht haben.
• 6:01
  Speaker 0: Die haben eben die Muster in der Sprache erkannt und sie konnten dann eben Emotionen erkennen in Tweets und die konnten dann plötzlich übersetzen und die kommt dann alles Mögliche ohne dass wir ihnen überhaupt irgendwas erklären mussten.
• 6:12
  Speaker 0: Einfach nur die Macht der großen Daten und der großen Rechenpower.
• 6:17
  Speaker 0: Und das hat dann eben schon vor zehn Jahren bei uns eigentlich alles umgeworfen, ganz viele Dinge die wir halt sozusagen früher gemacht haben und auch nur wir konnten.
• 6:26
  Speaker 0: Die waren dann plötzlich sozusagen allgemein verfügbar und wir sind dann ja haben unsere Forschungsthemen eben auch entsprechend angepasst oder anpassen müssen.
• 6:36
  Speaker 0: Das hat sich halt so wahnsinnig verändert.
• 6:40
  Speaker 0: Anfang.
• 6:41
  Speaker 0: Dreiundzwanzig, glaube ich als als ChatGPT gerade auf dem Markt war hatte ich ihn mit meinem unserem CEO ein Gespräch und der gesagt Mensch al-Yosha glaubst du bis wir in Rente gehen reicht?
• 6:49
  Speaker 0: reden über KI?
• 6:49
  Speaker 0: sehr
• 6:50
  Speaker 1: schön die Frage stellt sich wahrscheinlich alle hier genau.
• 6:57
  Speaker 0: naja Als unabhängiges Forschungsinstitut muss ich sagen ziehe ich jetzt eigentlich auch gerne die Karte und nutze sie auch zu sagen Ich gehe jetzt nicht mehr als Berater zu den Leuten oder nicht mehr Die Sachen beherrscht und die Sachen bauen kann, sondern eben als Begleiter, als Reflexionspartner.
• 7:14
  Speaker 0: Und das hilft sehr.
• 7:15
  Speaker 0: Also viele experimentieren natürlich.
• 7:17
  Speaker 0: man spricht von Demokratisierung.
• 7:18
  Speaker 0: alle vormitteln irgendwie ein bisschen rum ja teils auf dem Privatrechner auf den Knie in Schatten KI teils schon.
• 7:24
  Speaker 0: irgendwie dürfen sie es und machen Sie's Aber sie kommen nicht systematisch vorwärts, das merken wir immer wieder.
• 7:30
  Speaker 0: Und schon die Tatsache dass wir im Raum sind.
• 7:32
  Speaker 0: und dann fragen hast du dir mal deine Prozesse angeguckt?
• 7:35
  Speaker 0: Hast Du dir mal Personas überlegt?
• 7:36
  Speaker 0: Hast du den Evaluationskriterium überlegt?
• 7:38
  Speaker 0: was willst du eigentlich erreichen mit deiner Toolchain?
• 7:42
  Speaker 0: Hast so legacy Systeme drin die du erstmal überkleben willst oder willst du es gleich richtig machen?
• 7:46
  Speaker 0: All diese Fragen, da braucht man dann eben doch die Wissenschaft und die Leute, die auf das Ganze ein bisschen systematischer drauf gucken.
• 7:53
  Speaker 0: Also insofern denke ich, dass breite Ausrollen in der Breite auch in unserer mittelstandsgetriebenen Wirtschaft, da liegen so viele Detail-Fragen noch – Ich mache mir keine Sorgen um uns!
• 8:07
  Speaker 1: Und nun gibt es etwas Werbung?
• 8:09
  Speaker 1: Ihr kennt das alle.
• 8:10
  Speaker 1: Egal was ihr im Internet macht überall stoßt sie auf Ranglisten, auf Wertesysteme, Punkte,
• 8:16
  Speaker 0: Sternchen,
• 8:17
  Speaker 1: auf Scores.
• 8:18
  Speaker 1: Diese Klickzahlen Fitnesszahlen, Bestselleristen, Political Rankings.
• 8:23
  Speaker 1: Sie sollen alles sortierbar machen in einer Dimension.
• 8:27
  Speaker 1: Unsere Gesellschaft ist gerade besessen davon!
• 8:30
  Speaker 1: Doch wann gibt diese Orientierungshilfe etwas was eigentlich ein Instrument der Beherrschung wird?
• 8:36
  Speaker 1: Was macht denn dieses Scores so mächtig und auch so
• 8:39
  Speaker 1: attraktiv?!
• 8:40
  Speaker 1: Wir machen uns damit dann selber zum Objekt.
• 8:43
  Speaker 1: Statt uns mit einer Vielfalt von Meinungen und Werten zu konfrontieren Machen wir einfach eine Dimension daraus und vergeben eine Beanzahl von Punkten.
• 8:52
  Speaker 1: Die sagen uns, was wichtig ist um von nachher streben zu sollen und bringen uns in eine verführerische Klarheit in unsere Denken und Handeln.
• 8:59
  Speaker 1: Das wollen wir ein bisschen besser verstehen.
• 9:01
  Speaker 1: Und im Englischen gibt es einen Buch The Score.
• 9:04
  Speaker 1: das ist nun endlich verfügbar Im Deutschen beim CH-Backverlag.
• 9:08
  Speaker 1: Der Auto ist Tie Wing der Name schreibt sich NGUYEN Und das Buch THE SCORE.
• 9:14
  Speaker 1: wie wir aufhören das Spiel der anderen zu spielen.
• 9:17
  Speaker 1: Wir werden Tywing auch hier im Podcast begrüßen können und uns länger mit ihm unterhalten.
• 9:22
  Speaker 1: Wir finden sein Buch, gibt einen tollen Einblick in die Mechanik und die Wirkungsweisen der Scores und warum sie so mächtig geworden
• 9:30
  Speaker 1: sind.".
• 9:32
  Speaker 1: Und natürlich findet ihr den Link zum Buch in unseren Shownotes.
• 9:36
  Speaker 1: Ende der Werbung!
• 9:41
  Speaker 1: Jetzt ist es ja so... also zumindest wir in der Wissenschaft sehen das.
• 9:45
  Speaker 1: durch diese nach wie vor große Geschwindigkeit sich die Arbeitsabläufe hier aber auch total geändert haben.
• 9:53
  Speaker 1: Und viele der Kollegen machen sich Sorgen, dass die Schere aufgeht.
• 9:59
  Speaker 1: also diejenigen die gut waren vorher sind jetzt mithilfe der KI extrem viel besser.
• 10:06
  Speaker 1: Diejenigen die vorher vielleicht nicht so gut waren sind mit Hilfe der KI allenfalls genauso gut wie vorher aber oft auch schlechter weil sie sagen in dem dadurch welche Weise noch größer generiten Chaos ertrinken.
• 10:20
  Speaker 1: Siehst du das bei den Firmen, die du bereits auf oder bei den Leuten, die bei euch arbeiten?
• 10:27
  Speaker 0: Ja ich sehe es also auf jeden Fall sichtige Fahrtditonenz natürlich auch in vielen Gesprächen.
• 10:31
  Speaker 0: Ich bin ja auch viel auf Panels und in ganz vielen unterschiedlichen Bereichen mit ganz unterschiedlichen Leuten unterwegs.
• 10:38
  Speaker 0: diese positiv gesprochen dieser Gestaltungsspielraum für unsere Wissens- und Kommunikations Ökonomie oder unser, ich sag mal das Betriebssystem.
• 10:49
  Speaker 0: Unser Wissens- und Informationsgesellschaft wird langsam gesehen und die Effekte, die du siehst und da hängt ja ganz viel dran.
• 10:59
  Speaker 0: Da hängt natürlich für jede einzelne Branche oder jeder einzelne Anwendung die Frage daran wie wollen wir zwischen Mensch und Maschine übergeben und aufteilen?
• 11:09
  Speaker 0: Und ich bin immer derjenige, der dann sagt Leute nicht.
• 11:11
  Speaker 0: die Frage kann KI recht sprechen?
• 11:13
  Speaker 0: Kann KI Patientin behandeln.
• 11:14
  Speaker 0: Kann KI dies oder jenes Jahr?
• 11:17
  Speaker 0: Die Antwort ist dann meistens entweder schon jetzt ja oder in kürzester Zeit Ja.
• 11:21
  Speaker 0: Die Frage ist wollen wir das KI Recht spricht?
• 11:23
  Speaker 0: Wollen wir das KIP Patientinnen behandelt und die kann man dann diskutieren und seine Prozesse dann angucken und sich überlegen?
• 11:31
  Speaker 0: und wenn KI uns dann entlastet Dann gibt es ja immer diese Spruch Routine-Tätigkeiten übernehmen, den ich auch doof und kurz gedacht finde.
• 11:39
  Speaker 0: Denn was wäre denn unser Alltag wenn wir keine Routine Tätigkeiten hätten?
• 11:42
  Speaker 0: Acht Stunden am Tag tiefe und fundamentale Entscheidungen treffen oder nur die KI Ergebnisse abhaken als Haftungsknecht dafür herhalten dass KI mir irgendwas hin ratscht und Ich bin dann doch derjenige der aus Faulheit oder Zeitmangel das einfach durchwinkt.
• 11:56
  Speaker 0: Das kann's nicht sein.
• 11:57
  Speaker 0: also irgendwo muss die Wahrheit dazwischen liegen.
• 11:59
  Speaker 0: das heißt Wir müssen gescheite Prozesse modellieren und ich habe kürzlich mit meinem Nachbarn Jürgen Renn, der ist Direktor am Max-Planck-Institut für Geoantropologie in Jena und Wissenschaftshistoriker.
• 12:12
  Speaker 0: Der hat es mal schön erklärt das eigentlich mit jeder neuen Repräsentationsform und Möglichkeit auch kognitive Prozisse auszulagern, der Mensch immer geschafft hat mehr daraus zu machen.
• 12:22
  Speaker 0: Du hattest das Kerbholz, hast da reingeritzt.
• 12:24
  Speaker 0: Du konntest die Zahlen erfinden.
• 12:26
  Speaker 0: Du hättest die Arithmetik bauen und dann Fast Forward.
• 12:29
  Speaker 0: Du kannst Tabellenkalkulationen bauen.
• 12:31
  Speaker 0: Du könntest PCs bauen.
• 12:34
  Speaker 0: Und immer hat der Mensch es geschafft eigentlich wenn er wieder was auslagern konnte Zeit gewonnen hat oder eben neue Muster, neue Strukturen erkannte etwas Neues zu bauen eine Co-Evolution quasi aus Menschen und Repräsentations Business-Technologie, wenn ihr so wollt.
• 12:48
  Speaker 0: Dass man Telefonnummern speichern kann hat dann wieder andere Marketingmodelle ermöglicht und so weiter.
• 12:55
  Speaker 0: Und so sollte das auch mit KI sein.
• 12:57
  Speaker 0: also ich bin einfach nicht bereit anzuerkennen oder zu sagen wir haben jetzt das Ende der Geschichte erreicht und ab jetzt wird nur noch die Technologie besser und die Menschen werden dover und die Schere geht auseinander sondern frage genau das ist unsere Aufgabe dafür zu sorgen dass es eben nicht passiert dass wir eben dass wir inklusiv sind dass wir vernünftig Ob das jetzt mit Quoten ist, ob das mit Gamification in jedem zweiten Fall ist haben wir einen Fehler versteckt.
• 13:20
  Speaker 0: Ich habe die Lösungen nicht aber dass wir eben Mittel und Wege finden wie wir auch zu mehr Menschlichkeit kommen.
• 13:26
  Speaker 0: wenn ich nochmal ein bisschen ausholen darf Das ist sozusagen der Lieblingsteil meines Standardvortrags Wenn man so will Da frage ich immer so oder sage ich immer So wenn wir im Sonntags reden darüber reden wie wir arbeiten wollen oder wie wir unsere Studierenden ausbilden wollen.
• 13:41
  Speaker 0: Dann kommen da Begriffe wie kritisches Denken, Selbstwirksamkeit, Partizipation, Entscheidungsfreudigkeit und das sind alles so.
• 13:49
  Speaker 0: die Begriefe wie wir eigentlich arbeiten wollen und die Faktor arbeiten viele gar nicht so im Hamsterrad überreguliert viel zu viel auf dem Tisch, gar keine Zeit für die interessanten Dinge, gar eine Zeit für Kunden, die vielleicht ein bisschen mehr Rückfragen haben usw.
• 14:03
  Speaker 0: Und wenn wir es schaffen eben mit KI, die uns zunächst mal Das möchte ich auch ganz klar machen.
• 14:11
  Speaker 0: Erst mal daran erinnert, was auch alles schiefläuft in unseren Ämtern, in unseren Universitäten, in unserem Medizinsystem und unserem Journalismus.
• 14:19
  Speaker 0: Viele Dinge im Wissenschaftssystem, viele Dinge die waren schon kaputt und das war uns bekannt dass sie kaputt sind.
• 14:24
  Speaker 0: Und KI ist jetzt ein Aufwecker.
• 14:27
  Speaker 0: Je nachdem ob man positiv oder negativ drauf ist Katalysator- oder Brandbeschleuniger von Veränderungen die eh anstanden.
• 14:33
  Speaker 0: So Punkt!
• 14:34
  Speaker 0: Jetzt noch letzter Satz Die Frage ob KI dann auch Teil der Lösung ist.
• 14:39
  Speaker 0: Journalistinnen, Journalisten eine bessere Arbeitsgrundlage zu schaffen um Lokaljournalismus zu machen und die Leute wieder in ihre Blätter zu holen.
• 14:47
  Speaker 0: Im medizinischen Bereich eben sich Freiräume zu schaffen, um dann die Leute behandeln zu können und nicht irgendwie Standardsachen machen zu müssen.
• 14:55
  Speaker 0: In der Schule was weiß ich durch bessere Fremdsprachen Unterricht die Kinder multilingualer zu machen usw.
• 15:01
  Speaker 0: und sofort individuellere Lernmaterialien an den Universitäten erzeugt zu können?
• 15:07
  Speaker 0: Das ist nochmal eine ganz andere Frage, aber das wäre ihr Lächelt schon.
• 15:10
  Speaker 0: Ja, das wäre eben mein Ziel mehr Menschlichkeit durch KI.
• 15:16
  Speaker 1: Jetzt gibt es ja erst mal noch ne ganz seltsame Wahrnehmung von KI was KI heute überhaupt kann.
• 15:22
  Speaker 1: Ich weiß ein bisschen wie Schrödinger aus Katze.
• 15:24
  Speaker 1: also KI ist unfassbar allmächtig.
• 15:26
  Speaker 1: schon Es gibt schon fast diese AGI also dieser ganz menschenähnliche Übermenschliche Intelligenz die alles kann und so weiter Kann man auf ganz sicher nicht.
• 15:37
  Speaker 1: Und auf der anderen Seite erleben wir aber auch, dass ja KI unfassbar schlechte Ergebnisse liefert weil sie eben darauf trainiert ist das wahrscheinlichste wiederzugeben und so weiter.
• 15:46
  Speaker 1: wie kriegen wir denn dann Griff dran?
• 15:48
  Speaker 1: was ist denn tatsächlich gut in der KI heute?
• 15:51
  Speaker 1: Was kann sich auch heut noch nicht?
• 15:52
  Speaker 1: und wie finden wir heraus wo die Trendlinien sind?
• 15:56
  Speaker 1: Denn wir haben einen sehr charmanten Lügner da auf der andern Seite stirbt uns ja über das Gipfas zu hören wollen
• 16:01
  Speaker 0: Christoph, du piekst sehr früh am Morgen genau eigentlich in ein sehr spannendes Wespennest rein.
• 16:07
  Speaker 0: Denn bei Menschen haben wir einen Kompass und der stimmt auch manchmal nicht.
• 16:12
  Speaker 0: aber wir denken wenn die Person an einer oder anderen Stelle mal gut war und uns im Vorstellungsgespräch überzeugt hat und bestimmte Arbeiten abgeliefert haben dann generalisieren wir und sagen wird diese Person auch weiterhin auf dem Niveau gute Arbeit leisten und sich noch verbessern gegebenenfalls, usw.
• 16:28
  Speaker 0: Und da haben wir meistens einen Kompass.
• 16:34
  Speaker 0: Wir wissen eben sozusagen für welche Aufgaben wir wie lange jemandem auf die Finger gucken müssen bis wir ihm trauen können.
• 16:42
  Speaker 0: Deshalb eben auch vertrauen und vielleicht sollten wir nachher nochmal über vertrauenswürdige KI sprechen ob das ein gutes Konzept ist.
• 16:48
  Speaker 0: Aber da haben wir eben ein gutes Bauchgefühl und das kann uns natürlich auch täuschen.
• 16:52
  Speaker 0: Ja, wenn dann dein geliebter Schauspieler der als Schauspielerin sich bewährt hat in der Talkshow über Gaza spricht oder über Weltwirtschaft, dann kann es auch schiefgehen ja?
• 17:01
  Speaker 0: Dann können wir da eben auch Vertrauen übergenerieren und sagen ja, das ist ein toller Schausspieler, dann denken wir eben nicht dass ihr denkt immer die älteren erinnern sich an Manfred Krug, der dann die Telekom-Aktien verkauft hat.
• 17:12
  Speaker 0: Ja, Advokat ist Anwaltsliebling und so der hat viel Werbung gemacht.
• 17:15
  Speaker 0: Und dann waren viele Leute enttäuscht ja weil sie eben gedacht dem tollen Schauspieler getraut haben und dann eben Aktien gekauft haben die dann abgerutscht sind.
• 17:22
  Speaker 0: also da haben wir auch in den menschlichen Bereich ist es uns manchmal nicht gelungen unser Vertrauen richtig einzusetzen.
• 17:29
  Speaker 0: das finde ich auch immer auf die Begrifflichkeit achten.
• 17:31
  Speaker 0: vertrauen schenkt man und der andere genießt dein Vertrauen.
• 17:36
  Speaker 0: Das ist schon was.
• 17:37
  Speaker 0: darüber sollte man mal drüber nachdenken.
• 17:39
  Speaker 0: Also wen man in den Genuss seines Vertrauens bringen soll und Christoph, wie man letztlich die KI-Systeme evaluiert.
• 17:47
  Speaker 0: Das ist ja noch völlig unklar.
• 17:49
  Speaker 0: also gerade damit beschäftigen wir uns sehr stark.
• 17:51
  Speaker 0: aber wir sind uns glaube ich einig dass die gängigen Benchmarks vom Sudoku bis zum Jurarexam waren für Menschen gemacht.
• 17:58
  Speaker 0: Die sind in den Trainingsdaten drin und sie sind eben auch nicht dafür geeignet solche allzweck Systeme zu testen.
• 18:09
  Speaker 0: Theoretisch eine schwere Frage.
• 18:10
  Speaker 0: Du hast jetzt zwei Pianistinnen da, die eine hat bei Keith Jarrett Free Jazz gelernt und die andere hatte klassisch gespielt.
• 18:16
  Speaker 0: Und du fragt mich mal welche von den beiden ist die bessere Pianisten?
• 18:20
  Speaker 0: Ja also ich meine jede kann sehr gut Klavier spielen und die eine braucht ein bisschen länger um Klassik zu spielen Die anderen brauchen etwas länger um Free Jazz zu spielen.
• 18:27
  Speaker 0: aber das ist für beide natürlich nicht unmöglich.
• 18:29
  Speaker 0: Sie sind einfach ein Zeichen ihrer Ausbildung bei dem KI System Ein Zeichen des Trainings und des Post Trainings.
• 18:36
  Speaker 0: Das heißt auch wenn ein KI System irgendwas Mal nicht kann, das habt ihr auch alle erlebt.
• 18:40
  Speaker 0: Mit dem nächsten Update kann es das können oder auch wieder vielleicht verlernt haben?
• 18:44
  Speaker 0: Auch das wird ja schon berichtet.
• 18:46
  Speaker 0: also Meinungen der KI-Systeme verändern sich und andere Dinge, dass man kritisch sehen kann.
• 18:53
  Speaker 0: Also von daher ist das eine total offene Frage.
• 18:56
  Speaker 0: wie man die evaluiert
• 18:58
  Speaker 1: Muss jetzt da reinspringen bei den vertrauenswürdigen KI Und diesen Evaluationsgedanken, die du hast.
• 19:03
  Speaker 1: Wir haben hier in der LMU ein ganzes graduierten Programm zu vertrauenschwürdiger KI in der Regel technisch besetzt von den Doktoranden her.
• 19:15
  Speaker 1: Wie siehst du das?
• 19:16
  Speaker 1: In welche Richtung sollte es gehen, ist das überhaupt möglich?
• 19:19
  Speaker 1: Ich habe das Gefühl dass ich zwischen den Zahlen gehört habe und du denkst das geht nicht und die Updates sprechen vielleicht auch in dieser Richtung schon Bänder.
• 19:28
  Speaker 1: aber wo sind da eure Gedanken und wo geht ein Evaluationsvorschlag hin bei euch?
• 19:34
  Speaker 0: also Ich finde vertrauenswürdige KI eigentlich nur halbgut, denn ihr wisst im Deutschen wir sagen Vertrauen ist gut aber Kontrolle ist besser.
• 19:42
  Speaker 0: Eigentlich wollen wir Technologie die wir kontrollieren können, die beweisbare Eigenschaften hat wo wir uns darauf verlassen können dass sie so funktioniert und wo wir nicht nur ungefähr wissen das sie meistens so funktioniert auch wenn wir sie auf Herz und Nieren geprüft haben.
• 19:55
  Speaker 0: Das ist besser als nichts!
• 19:57
  Speaker 0: Auf jeden Fall wenn wir ihr trauen können wenn wir eben auch für die KI den Kompass entwickeln wäre eigentlich mein Gedanke, auch um auf diesen Co-Evolutionsgedanken nochmal das vielleicht noch mal kurz auszuführen.
• 20:11
  Speaker 0: Damit hängt nämlich auch noch die Frage zusammen wie wir die Technologie auf unsere Prozesse loslassen und erinnere mich daran dass ich nachher nochmal über Evaluation wolltest du noch wissen?
• 20:19
  Speaker 0: erinnern mich kurzer Exkurs wieder.
• 20:24
  Speaker 0: Früher habe ich immer gesagt, und habt ihr wahrscheinlich auch immer gesagt einen Schlechter-Analoga-Prozess wird auch ein schlechter Digitalprozess wenn ihr den nicht sauberzieht.
• 20:33
  Speaker 0: Also guckt euch an welche Daten habt ihr welches wissen habt ihr?
• 20:36
  Speaker 0: zieht die Prozesse gerade macht dann Digitalisierung und KI und dann habt ihr ein schönes scheinige Ergebnis.
• 20:41
  Speaker 0: so.
• 20:42
  Speaker 0: Jetzt haben wir aber die prozesse nicht gerade gezogen obwohl wir das auch schon länger.
• 20:46
  Speaker 0: Das liegt zum Teil daran, dass die Leute es nicht können.
• 20:48
  Speaker 0: Das liegt z.T.
• 20:49
  Speaker 0: daran das Regulatorik dranhängt, dass man die Gesetze und so weiter nicht so schnell ändern kann.
• 20:53
  Speaker 0: Das liegen darin, dass Legacy-Systeme, heterogene Datenbestände usw.
• 20:57
  Speaker 0: und sofort Altlasten einfach da sind, die man nicht mehr anfassen möchte oder die man sich nicht ändern möchte.
• 21:02
  Speaker 0: Und dann habe ich mich inzwischen überzeugt lassen auch von Leuten, dass es genauso valide ist zu sagen Kleister halt erstmal KI drüber lasst Cloudcode, sich einfach durchwuschen durch dein ganzes System hier von Daten und Tools und Zeug.
• 21:18
  Speaker 0: Und lass es den Laden erstmal schmeißen, ohne dass wir vielleicht genau verstehen wie's funktioniert.
• 21:24
  Speaker 0: also Stichwort um ein Ziel zu erreichen musst du dich auch manchmal von ihm entfernen wenn Du quer fällt einen auf dem Dorf zuläufst da ist ein Bach dazwischen dann musst du Dich eben möglicherweise ein Stück weit von diesem Dorf entfernt bist Du eine Brücke findest und dann kannst Du wieder draufzugehen.
• 21:37
  Speaker 0: Also lasst uns doch ruhig KI als Thesa Film drüberkleistern damit wir erst mal handlungsfähig sind und auch Erfahrungen machen können.
• 21:45
  Speaker 0: Aber dann die spannende wissenschaftliche Frage jetzt, Frauke wie fangen wir das hinterher wieder ein?
• 21:51
  Speaker 0: Wie kommen wir aus dem was das KI-System dann möglicherweise erfolgreich macht?
• 21:56
  Speaker 0: Wie kriegen wir daraus wieder eine modellierte saubere Modellierung, die wir als Menschen verstehen, die nicht nur vertrauenswürdig ist sondern kontrolliert ist, die beweisbare Eigenschaften hat, die auditierbar ist, unseren Ansprüchen, die wir eigentlich derzeit haben genügt.
• 22:13
  Speaker 0: Und manche Leute antworten, kommen wir nie mehr dazu!
• 22:16
  Speaker 0: Das wird dann einfach so weiterlaufen.
• 22:17
  Speaker 0: Aber ich bin trotzdem, ich bleibe romantisch und bleibe eben bei der Hoffnung dass man das dann wieder hochziehen kann mithilfe der KI in was wo wir sagen, das ist unser Geschäftsmodell, das sind unsere Daten, die Muster da drin nutzen wir usw.
• 22:32
  Speaker 0: Also eben... Kann ich aus der Theorie Bildung?
• 22:34
  Speaker 1: Ja.
• 22:34
  Speaker 1: Kann ich auch aus der wirtschaftlichen Situation genau spiegeln.
• 22:38
  Speaker 1: als hofftungsloser Romantiker hier.
• 22:41
  Speaker 1: Wir haben ja die Situation, dass wir tatsächlich in großen Unternehmen immer kaputte Prozesse haben.
• 22:46
  Speaker 1: Warum liegt das?
• 22:46
  Speaker 1: Wir haben im Prinzip ja die Prozese eingebacken.
• 22:49
  Speaker 1: Menschen fangen an, Unternehmen zu bewohnen.
• 22:51
  Speaker 1: also es ist eine sehr große Resilienz im negativen Sinne.
• 22:54
  Speaker 1: Also was von mal besetzt besitzt dann geht man das auch nicht wieder her.
• 22:57
  Speaker 1: Dann ist jede Lösung so wie man sie früher gelernt hat egal was das Problem ist.
• 23:02
  Speaker 1: Und jetzt ist eben die Frage, das übersetzt sich auch in IT-Systeme, in Tools und so weiter.
• 23:06
  Speaker 1: Alles sehr, sehr schwer zu ändern.
• 23:08
  Speaker 1: Wenn ich KI drauf loslasse kann ich ihm jetzt genau einerseits der Impfter sagen, na gut, ich mache den Prozess gerade dann warte ich ja aber da bis ich das alles sortiert habe mit dem großen Risiko dass die Menschen wieder nur sich selber sehen.
• 23:20
  Speaker 1: also es ist ein menschengemachter Prozess den Menschen sich gegenseitig den Staffelstab übergeben anstatt sich zu fragen was muss ich denn am Ergebnis bekommen und wie komme ich da direkt hin?
• 23:31
  Speaker 1: Also, wie komme über diesen Bach den du gerade beschrieben hast mit KI ohne dass sich die menschliche Vorgehensweise brauchen.
• 23:37
  Speaker 1: Was aber dabei passiert ist eben das unglaublich viel Wissen eigentlich von diesem, es hat ein Mensch geschrieben und dann gibt's einen anderen Menschen und das alles nachlesbar hingeht in Modelle, in Datenstrukturen, die vielleicht gar nicht mehr menschlich lesbar sein werden.
• 23:51
  Speaker 1: Und dann kommen wir eben weder in diese Vertrauensfrage rein.
• 23:54
  Speaker 1: wenn ich dann KI frage was hast denn da gemacht?
• 23:56
  Speaker 1: ja dann weiß immer weniger eigentlich was denn eigentlich tatsächlich im mit der zusatz
• 24:01
  Speaker 0: schwierigkeit dass die menschen die die prozesse und die kunden und die struktur noch mit aufgebaut haben und kennen in den nächsten fünf jahren in rennte gehen?
• 24:10
  Speaker 0: das ist wissen ja das wird das wird.
• 24:12
  Speaker 0: jetzt bin ich doch wieder der romantiker.
• 24:13
  Speaker 0: dieses wissen wird so oder so abfließen das heißt die kobol Programme, die möglicherweise gerade noch einer von den älteren Mitarbeiterinnen und Mitarbeitern bedienen kann.
• 24:24
  Speaker 0: Die können in fünf Jahren sowieso keiner mehr bedienen.
• 24:26
  Speaker 0: also auch spannend.
• 24:27
  Speaker 0: ja also auch diese Frage wie schaffen wir eben diese Transition Digitalisierung plus KI plus Nachhaltigkeit?
• 24:33
  Speaker 0: Also es ist ja nicht eine Triple Transition über die wir inzwischen reden.
• 24:37
  Speaker 0: aber ich betrotz sie bleibe romantisch und nehme mal dieses DDR-Motor überholen ohne einzuholen.
• 24:43
  Speaker 0: Frau Kutte, du wolltest noch über Evaluationen reden.
• 24:46
  Speaker 0: Wie kann man es machen?
• 24:47
  Speaker 0: Und meiner Meinung nach eben nicht ist dieses Modell besser als dieses Modelle sondern wirklich scharf auf die Aufgabe, die ich vorhab an das Modell auszulagern.
• 24:56
  Speaker 0: da kommen ja dann natürlich noch drum herum.
• 24:58
  Speaker 0: Rahmenbedingungen sind es vertrauliche Daten die nur im Haus gerechnet werden dürfen.
• 25:02
  Speaker 0: Das hat man ja auch ganz oft.
• 25:03
  Speaker 0: Es wird viel übersehen, dass du auch mehr kleinere Modelle sprichst.
• 25:07
  Speaker 0: Wir sprechen über Edge-Modelle die vielleicht sogar auf der Druckerpresse irgendwo in einem Chip sitzen weil wir gar nicht die Konnektivität haben oder weil die Daten da gar nicht raus sollen und müssen.
• 25:16
  Speaker 0: also die Frage was ist das gesamte Setup?
• 25:20
  Speaker 0: Und dann eben wie kann ich dynamisch mit Tests bauen für meine Aufgabenstellung Wohngeldvergabe oder was sich jetzt gerade stemmen muss um eben das KI System so zu testen?
• 25:30
  Speaker 0: oder tausend, oder zehntausend.
• 25:31
  Speaker 0: Oder wie viel Testfällen sagen kann?
• 25:33
  Speaker 0: Das macht im Großen und Ganzen die Sache mindestens so gut wie der Mensch wenn nicht besser.
• 25:38
  Speaker 0: was jetzt auch lustig ist.
• 25:39
  Speaker 0: wo ich dann sage wenn es dann geht um Biasis und Verzerrungen zum Beispiel beim Human Resource.
• 25:44
  Speaker 0: Ich meine gut da dürfen wir vielleicht gar keine KI einsetzen wegen Hochrisiko.
• 25:47
  Speaker 0: aber angenommen Wir wollen das.
• 25:49
  Speaker 0: Wir bauen uns Testcases ja ob die KI eben auch so entscheidet wie wir wollen also unabhängig von Geschlecht und Vornahmen und Religionszuwürichheiten was wir sonst noch alles über die Leute wissen Dann sage ich, man nimmt doch diese selbe Testbatterie und schickst die mal durch deine menschliche Abteilung.
• 26:03
  Speaker 0: Mach doch mal ein paar Tests, Bewerbungen ja?
• 26:05
  Speaker 0: Und dann guck halt ob Alexander und Ibrahim und Fatima und Maria die gleichen Einladungsquoten haben.
• 26:13
  Speaker 0: bei der Bewerbung viel Erfolg.
• 26:15
  Speaker 0: wenn man sich die derzeitigen Wahlergebnisse anguckt Wenn wir über kognitive Verzerrungen sprechen Ja da ist jeder fünfte in manchen Bundesländern bald jeder zweite ja von stärksten leidet unter stärkstem Kognitiven Verzerringen im menschlichen Gehirn.
• 26:29
  Speaker 0: Das heißt, die Baseline spielt ja auch für die KI zum Teil.
• 26:32
  Speaker 0: Die menschliche Baseline ist jetzt nicht so hoch.
• 26:35
  Speaker 1: Da haben wir da viel Scheinheiligkeit im System.
• 26:38
  Speaker 1: Wir berühren sehr große ethische komplexe
• 26:41
  Speaker 0: Fragen.
• 26:41
  Speaker 1: Wenn du in den USA mal schaust... Ich kenne es vor allem aus dem Umfeld autonomes Fahren oder andere industrielle Anwendungen wo die denkweise in der USA relativ pragmatisch sind.
• 26:51
  Speaker 1: Wenn das Thema besser als ein Mensch ist, also ein Zettel Menschen umbringt auf den Straßen dann sollten wir das tun.
• 26:57
  Speaker 1: In der EU haben wir ganz klar eine andere Vorgehensweise, also wir wollen das ganz perfekt haben.
• 27:01
  Speaker 1: Wir wollen im Vorfeld alles abgesichert haben.
• 27:03
  Speaker 1: Hängt auch sehr stark mit dem Rechtssystem zusammen, wie die jeweils funktionieren in den beiden Kontinenten.
• 27:08
  Speaker 1: Jetzt bist du ja genau an dieser Schnittstelle zur Politik.
• 27:10
  Speaker 1: Du bist ja ein Erklärer und aber auch jemand, der gefragt wird bei diesen komplexen Fragen.
• 27:16
  Speaker 1: Wie erlebst du denn diesen Dialog?
• 27:18
  Speaker 1: Also was ist eigentlich der Leitsterne und was wollen wir erreichen?
• 27:22
  Speaker 0: Ich glaube an der Stelle herrscht wirklich Unverständnis vor... über die Funktionsweise von KI.
• 27:28
  Speaker 0: Die Leute leben lustiger Weise, sie sehen zwar jeden Tag wie die KI-Systeme funktionieren und lesen die lustigen Videos was klappt und was nicht klappt.
• 27:36
  Speaker 0: aber das alte, die alte Denkweise Computer können ja immer Null und Eins also Computer können es gar nicht oder sind perfekt.
• 27:43
  Speaker 0: Die steckt irgendwo noch drin.
• 27:45
  Speaker 0: diese Vorstellung man kann es am Computer kann man's dann eben perfekt machen.
• 27:48
  Speaker 0: wir Menschen sind nur wir Menschen und wir haben unsere Tagesform usw.
• 27:51
  Speaker 0: Aber ein Computer Der macht es eben gar nicht oder erkanns perfekt.
• 27:55
  Speaker 0: Da steckt so lustig noch drin und da muss man glaube ich viel Aufklärungsarbeit leisten, eben genau das was wir... Was du gerade zusammengefasst und ich davor ausgeführt habe.
• 28:03
  Speaker 0: Eben Leuten vor Augenführende überlegen, was ist die Baseline?
• 28:05
  Speaker 0: Was können wir gewinnen?
• 28:06
  Speaker 0: Wir haben dreitausend Verkehrstote in Deutschland pro Jahr.
• 28:09
  Speaker 0: ungefähr roundabout, ja neunzehntsiebzig waren sie glaube ich über zwanzichttausend Tote.
• 28:13
  Speaker 0: Das war der Peak den wir in Deutschland hatten und wenn's jetzt mit Autonomen fahren dann eben noch hundert sind.
• 28:19
  Speaker 0: Aber die sind dann auch.
• 28:20
  Speaker 0: möglicherweise werden von autonomen Autos angefahren.
• 28:24
  Speaker 0: Jeder einzelne Tote ist natürlich einer oder eine zu viel, aber das wäre dann eben die Frage nach welcher Moralvorstellung man das entscheidet und nicht... Aber auch da ist man, wie du sagst vielleicht auch doppelt wie Gott eben dieses, ich sage mal ein Mensch der irgendwie angetrunken aufs Handy geguckt oder so irgendwie unverursacht war.
• 28:43
  Speaker 0: Das kamen man irgendwo menschlich nachvollziehen sagt man das wollen wir nicht machen?
• 28:48
  Speaker 0: Das ist natürlich unser Ziel aber wenn es passiert dann kann jeder nachvollziehend wie's passiert ist.
• 28:52
  Speaker 0: aber wenn ebenso ein autonomes Auto dann eben dasselbe macht weil eben keine Ahnung irgendwas in den Daten im Radar in der Straße eine Situation war die so nicht vorher sie war, aber dann ist der Aufschrei eben ungleich größer.
• 29:07
  Speaker 0: Und das Interessante eigentlich auch denkt mal in die Werkshalle rein.
• 29:11
  Speaker 0: da will man ja auch viel natürlich mit Robottern, Autonomen und so weiter arbeiten, weil man sieht jetzt auch eigentlich auch unmenschliche Mischformen derzeit in der Lagehaltung und so wo die Menschen dann mit irgendwelchen Glases an das Regal geführt werden das Produkt aus dem Regal rausnehmen müssen, weil die Menschen besser greifen können als Roboter und billiger sind.
• 29:31
  Speaker 0: Das gibt es ja.
• 29:31
  Speaker 0: auch muss man auch mal sagen dass da KI wirklich für unmenschliche Arbeitsbedingungen genutzt wird.
• 29:36
  Speaker 0: aber eine rein autonome Lagerhalle ist völlig easy.
• 29:40
  Speaker 0: Die Roboter- und Gabelstabler fahren rum Aber die wo Mensch und Maschine aufeinandertreffen ist immer die gefährlichste.
• 29:45
  Speaker 0: Eine rein menschliche funktioniert auch gut, aber die wo der Roboter dir mal irgendwie zehn Tonnen in die Hand gibt und sagt halt mal kurz ich muss mein Akku aufladen Wer hat da haste halt ein Problem?
• 29:56
  Speaker 1: Jetzt gucken wir ja bei KI gerne in beide Himmelsrichtungen.
• 30:00
  Speaker 1: den Vergleich nach USA, mal gerade schon gezogen.
• 30:03
  Speaker 1: China wird ihr dann auch schnell herangezogen vor allem weil die grundlegende denke dort ja bisschen anders ist.
• 30:11
  Speaker 1: Da guckt man eher auf die Gesamtzahl der Toten.
• 30:16
  Speaker 1: sag ich jetzt mal also was für die Gesellschaft insgesamt vielleicht in zwanzig Jahren relevant ist.
• 30:23
  Speaker 1: welche Scheibe sollten oder könnten wir uns da abschneiden?
• 30:30
  Speaker 0: China ist ja immer so ein interessantes Beispiel.
• 30:32
  Speaker 0: Es gab letztens in der Lage der Nation eine sehr interessante Folge über China, wo eben auch die Frage gestellt wurde.
• 30:38
  Speaker 0: Auch im der Nachhaltigkeit und dem Klimaschutz sind sie sehr gut und dennoch lehnen wir natürlich eigentlich vieles von deren Grundvoraussetzungen, ihr Verhältnis zu Demokratie, Ihr Verhältniss auch zudem wie Individuen sich entfalten dürfen sehen wir grundsätzlich anders.
• 30:52
  Speaker 0: Und trotzdem die Frage, was kann man von dort lernen?
• 30:57
  Speaker 0: Und letztlich befinden wir uns natürlich in dem Konkurrenzkampf auch international.
• 31:00
  Speaker 0: Jetzt haben wir gerade gesagt mit drei D-Druck und mit Spezialanwendungen können wir auch Produktion vielleicht aus China zurückholen nach Deutschland und können unsere Wirtschaft hier nochmal interessanter aufstellen.
• 31:12
  Speaker 0: Und jetzt kommt China mit Roboter Armehen und möchte eben sozusagen in der Produktion sozusagen machen macht den nächsten Riesenschritt wird dann doch wieder günstiger und individuell maßgeschneiderte Klamotten usw.
• 31:23
  Speaker 0: und sofort mit ihren moderneren Produktionsweisen möglicherweise, da haben sie uns ja auch sozusagen abgeguckt wie man eben mit Innovation Wirtschaftskraft schafft.
• 31:33
  Speaker 0: und wir sind so zu sagen wie du sagst Christoph mit Traditionen und Beharrungskraft versuchen wir den Verbrenner zu retten und das was früher in den Siebziger Jahren gut war kann heute nicht ganz schlecht sein.
• 31:43
  Speaker 0: versuchen wir eben in so einem Zwischenzustand unsere Wirtschaft zu halten und ich denke, da können wir uns schon eine Scheibe abschneiden.
• 31:49
  Speaker 0: Zu sagen auch auf Forschung das sage ich natürlich jetzt als Wissenschaftler aber schon auf Forschungen und Innovationen zu setzen und darauf zu vertrauen dass wir als Europäerinnen und Europäern und das wäre dann wirklich der Unterschied oder einer von vielen unterschieden im Datenschutz in der Frage wie wir Arbeitsplätze gestalten in der Mitbestimmung und ähnlichen Dass wir eben einen zeigen, dass es auch besser geht Ja, das also zwischen Raubtier Kapitalismus und Staats-KI.
• 32:15
  Speaker 0: Dass es eben einen dritten Weg in Europa gibt aber den auch auszuspezifizieren und zu zeigen wie wir das eben besser machen.
• 32:21
  Speaker 0: Wir haben vorhin schon mal kurz den romantischen Traum von mehr Menschlichkeit angeträumt Aber eben auch wie wir mit einem besseren Datenschutz Mit einem besserem Arbeitnehmerin Schutz Sinnhafter Arbeit.
• 32:36
  Speaker 0: Ja, dann kommt Karl Marx wieder ins Spiel.
• 32:38
  Speaker 0: Wir können ja auch viele Entfremdungen vielleicht vorbeugen.
• 32:40
  Speaker 0: Wir haben vorher gesagt, Routine abschaffen ist zu wenig gedacht aber eben die Leute sinnvoll in the Loop on The Loop et the Loop in die neue Welt reinbringen.
• 32:49
  Speaker 0: also ihr merkt ich bin einfach durch und durch Romantiker und stellen mir vor dass wir das hinkriegen.
• 32:53
  Speaker 1: Das freut mich zu hören weil oft ist er an so einem Gesprächspunkt dann dass man sagt hier ist alles schlecht und wir kriegen es nicht hin.
• 33:00
  Speaker 1: Hast du denn gute Beispiele gesehen wo du sagst So geht es und so kann man das machen?
• 33:06
  Speaker 0: Also ich habe letztens ein Beispiel gesehen, dass wir eigentlich überzeugen.
• 33:11
  Speaker 0: Wir haben das Programm des Green AI Hub Mittelstand Das ist also eine Initiative des letztlich Umweltministeriums wo es darum geht den Mittelstand eben diese Twin Transition zu ermöglichen Digitalisierung plus Nachhaltigkeit.
• 33:24
  Speaker 0: Und da haben Kolleginnen und Kollegen sind in einer Art Stahlwerk gegangen, die irgendwelche Spezialstahle hergestellt haben und da wird gegossen und gewalzt und gesägt und gezogen.
• 33:34
  Speaker 0: Und was weiß ich?
• 33:35
  Speaker 0: Irgendwelche Materialien daraus erzeugt.
• 33:38
  Speaker 0: Da muss man viele Dinge regeln wie viel Sauerstoff wird in den Ofen geblasen und so fort.
• 33:43
  Speaker 0: Da gab es viele Stationen in dieser Werkstatt oder in diesem Werkshalle Und da gab es Expertinnen und Experten, die das seit Jahrzehnten machen.
• 33:52
  Speaker 0: Und ihren Teil kannten und wussten was sie dazu tun haben und wie Sie Ihren Teilprozess optimieren.
• 33:57
  Speaker 0: und am Ende des Tages kommt ein gewisser Ausschuss raus.
• 33:59
  Speaker 0: Da gibt's irgendwelche Einschlüsse und ein Stall der ist besser oder schlechter.
• 34:04
  Speaker 0: Dann haben die Kolleginnen und Kollegen das alles mal mit Sensorik aber eben auch mit was weiß ich Protokollmöglichkeiten und mit irgendwelchen Glasses und was man eben alles machen kann.
• 34:15
  Speaker 0: Wie man diese Prozesse dokumentiert kann und analysieren kann.
• 34:19
  Speaker 0: Und haben dann eben mit KI-System am Ende des Tages Zusammenhänge rausbekommen, die keiner von diesen einzelnen Menschen, die sich einzelne Prozessschritte da angucken überblicken konnten.
• 34:29
  Speaker 0: Also einfach ganz normale Datenwirtschaft aber heute viel einfacher.
• 34:33
  Speaker 0: innerhalb von einem halben Jahr oder so hochgezogen konnte man plötzlich am Ende eines Tages wenn Ausschuss kam sagen ah das lag daran dass wir drei Schritte zurück.
• 34:42
  Speaker 0: Ja das und das Sauerstoff verhältnis da war das ein stück heißer oder stück kälter oder sowas man sonst nie gesehen hätte weil man einfach nicht die ganze kette im blick hatte also sozusagen wirklich in der alten wirtschaft sozusagen wertschöpfung schaffen oder.
• 34:55
  Speaker 0: Ein anderes beispiele der der microsoft chef hat letztens so schön gesagt in dem panel discussion wenn ich in bosten zum zahnarzt gehe dann bin ich umringt von deutscher feinmechanik.
• 35:06
  Speaker 0: aber nichts von dem ist vernetzt bring es doch einfach ins nächste level.
• 35:10
  Speaker 0: das ist doch jetzt nicht Ja, kein Hexenwerk.
• 35:13
  Speaker 1: Wenn ich in einem heutigen Zustand das ändern wollte... ...in einem Unternehmen ohne jetzt auf KI zuzugreifen,... ...dann muss sich eine Ausschreibung machen, dann muss ich ein Unternehmen engagieren,... ....dass mir irgendwelche Daten-Schnittstellen baut und dann muss sich anfangen,... ...das in einem großen Projekt sechs Monate lang zu programmieren usw.
• 35:33
  Speaker 1: Worauf ich hinaus will ist da steckt immer so ein Experte dahinter.
• 35:37
  Speaker 1: dazwischen oder auch dahinter, der eigentlich mich hindert das selbst zu machen.
• 35:42
  Speaker 1: Jetzt wird er ganz oft von Demokratisierung gesprochen wenn wir über KI reden.
• 35:45
  Speaker 1: also dass dieses Thema ich musste jemand fragen den muss sich beauftragen der sagt oh das ist schwierig das kostet es aufhändig ja das fällt alles weg.
• 35:54
  Speaker 1: wie erlebst du das?
• 35:55
  Speaker 1: Ist das diese Demokratisierung?
• 35:57
  Speaker 1: weil es berührt ja auch dieses Verhältnis macht.
• 36:00
  Speaker 1: KI's ist eben nicht nur die Routine Arbeit Es ist immer noch ganz viel Expertenarbeit.
• 36:04
  Speaker 1: Wie siehst du das?
• 36:05
  Speaker 0: Ja, ich würde mal sagen Demokratisierung leid.
• 36:08
  Speaker 0: Denn es wird ja teuer bezahlt.
• 36:10
  Speaker 0: Es wird bezahlt mit den Tokens die wir rüber schicken übern Teichern, die Wertschöpfung in USA oder vielleicht auch in Irland aber weitestgehend in der USA betreiben.
• 36:20
  Speaker 0: und auf der anderen Seite verschenken wir natürlich unser Know-how indem diese großen Modelle oder die Anbieter halt unsere Daten bekommen.
• 36:27
  Speaker 0: Die wissen was wir anfragen, die wissen das wir tun.
• 36:30
  Speaker 0: Das ist wie mit Suchmaschinen, die verbessern sich ja in der Nutzung.
• 36:34
  Speaker 0: Tausend Millionen, hunderte Millionen von Nutzern hast jeden Tag die eben mit Cloud Code programmieren.
• 36:39
  Speaker 0: Dann weißt du ja genau wenn ich immer zum siebten Mal dieselbe Anfrage stellt dann hat es nicht gut geklappt und dann weißt Du genau wo Du optimieren und verbessern kannst damit das nächstes mal diese Sache funktioniert.
• 36:49
  Speaker 0: Wenn es eben zig tausende oder hunderttausende von Nutzerinnen und Nutzeren betrifft dann hast Du ganz schnellen Update wo hundert tausenden von Nutzern merken wow!
• 36:56
  Speaker 0: Das Ding ist echt besser geworden weil Du genau weißt was die jeden tag damit machen.
• 37:00
  Speaker 0: das heißt dieser Abfluss von unserem Spezialwissen, den musst du ja mit einpreisen.
• 37:06
  Speaker 0: Das ist eben der große Schluck Wasser im Wein der Demokratisierung über auf den ich jetzt zu sprechen komme.
• 37:13
  Speaker 0: in einer Saison würde ich dir natürlich recht geben.
• 37:15
  Speaker 0: Ja dass alle Leute jetzt damit spielen können Erfahrungen machen können das immer nennt wichtig denn viele haben ja gar keine Vorstellung was alles geht.
• 37:23
  Speaker 0: und erst wenn Du bastelst und tust und machst und das kannst Du eben Rapid Prototyping ist jetzt einfach die Norm geworden.
• 37:29
  Speaker 0: das ist natürlich gut weil dann können die Wenn Sie einen Plan haben und wenn sie den Bauchgefühl haben, dann können Sie die Experten hinzuziehen.
• 37:39
  Speaker 0: Und jetzt werden wir wieder romantisch und sagen baut mir eine europäische, baut meine eigene Lösung macht auf der Basis von Open Source und Mistral
• 37:44
  Speaker 0: usw.,
• 37:45
  Speaker 0: was hier bei uns läuft wo keine Daten abfließen das ist ja auch möglich.
• 37:49
  Speaker 0: also insofern ist es dann möglicherweise auch nur ein Zwischenzustand.
• 37:53
  Speaker 1: Es geht dir doch mal so ein bisschen die Landschaft die KI als Infrastruktur-Thema
• 37:58
  Speaker 0: betrachtet.
• 37:59
  Speaker 1: Wir reden ja ganz viel über diese LLMs und die großen Modelle, die Foundation Models.
• 38:03
  Speaker 1: auf der anderen Seite hast du schon erwähnt dann gibt es die chinesische Gegenbewegung die jetzt den Markt flutet
• 38:08
  Speaker 0: mit
• 38:09
  Speaker 1: Open Source Modellen was auch ein direkter Angriff letztendlich ist auf die Bezahlmodelle.
• 38:13
  Speaker 1: das ist auch klar.
• 38:14
  Speaker 1: aber es ist ja nicht so einfach Es ist ja nur das foundation model sondern da sind viele Schichten dabei.
• 38:18
  Speaker 1: also wo ist denn unser sweet spot?
• 38:20
  Speaker 1: wo wir aus europäischer Sicht eigentlich sagen müssten Da stecken wir uns Intelligenz-Hahlen, da ist unser Wissen drin und das geben auch nicht her.
• 38:27
  Speaker 1: Also welche Punkte müssen wir besetzen?
• 38:29
  Speaker 0: Na ja, interessant ist eben bei uns tatsächlich natürlich erst mal das BtoB-Geschäft mit den kleineren Modellen.
• 38:34
  Speaker 0: da wo du weniger Daten hast.
• 38:36
  Speaker 0: Wo du auch weniger Computer im Krankenhaus oder so.
• 38:39
  Speaker 0: Da arbeiten wir auch... Da willst Du die Sachen nicht in die Cloud geben und schonmal gar nicht an die großen Anbieter gehen.
• 38:44
  Speaker 0: Du hast auch nicht so viel Rechenkapazität im Haus sondern Du musst eben mit dem was Du dort an Rechen Kapazität hast oder kurzfristig aufbauen kannst arbeiten.
• 38:51
  Speaker 0: und da haben wir den Sweetspot.
• 38:55
  Speaker 0: die Modelle klein schneiden.
• 38:56
  Speaker 0: Wie klein können sie sein, damit Sie eben diesen Arztbrief, diesen Patient Record und dieses ganze Zeugs halt verbinden können oder lesen können?
• 39:04
  Speaker 0: Da forschen wir dann aktiv dran.
• 39:05
  Speaker 0: Dann kann man eben die Großen als Baseline nehmen.
• 39:07
  Speaker 0: Zum Teil können die ja auch nicht gut damit umgehen weil sie den medizinischen Codes und Fachbegriffe usw.
• 39:13
  Speaker 0: nicht kennen, denn hängen auch heraichische Strukturen, Entscheidungsstrukturen in Krankenhäusern andere Dinge also viel ich sage mal auch Modellierungsaufwand von Prozessen noch mit dran, also den darf man auch nicht von euch verachten.
• 39:26
  Speaker 0: Das heißt da kommen dann eben auch kleinere Modelle ins Spiel und vor allem eben auch Hybrid Systeme ja die Rack Systeme wo du eine Datenbank mit meinem Wissen an ein Sprachmodell gibst und das verwurstelt es dann fast zusammen macht ne schöne Mail oder einen schönen Brief raus oder sowohl das sprachmodel eigentlich nur sprechen können muss, aber dir das eigentliche Wissen kommt aus meiner Domäne oder aus meiner Datenbank.
• 39:50
  Speaker 0: Oder eben auch diese Agenten, Mix of Experts und wie das dann alles heißt?
• 39:53
  Speaker 0: Du kannst verschiedene Tools aus der alten Welt ganz normal meinen Kalender und meine E-Mail und das Sprachmodell und eine Datenbank.
• 39:59
  Speaker 0: du kannst ja ganz hybrid bauen und kannst im Grunde auch zwischendurch noch Frau Schulz anrufen Wenn die noch einen Wissen hat, was nicht digitalisierbar ist, Erfahrungswissen und kannst es auch noch mit in den Prozess reingeben.
• 40:11
  Speaker 0: Auch das ist ja nicht ausgeschlossen.
• 40:13
  Speaker 0: Ja, den Sprichstichwort der Longtail von den Dingen, die wir einfach nur im Gehirn der Menschen stecken oder vielleicht auch gut so.
• 40:20
  Speaker 0: Das kannst du dann alles eben in die Prozesse reinbauen.
• 40:23
  Speaker 0: Im Endkundengeschäft ist völlig klar, die super funktionierenden großen Allzweckmodelle haben wir erst mal nicht.
• 40:30
  Speaker 0: Wir sollten sie langfristig Sonst vielleicht nachher nochmal drüber sprechen, noch mal ein bisschen uns überlegen.
• 40:40
  Speaker 0: Ob man nicht unserer Bevölkerung auch eine Grundversorgung anbieten muss.
• 40:43
  Speaker 0: Stichwort Frauke Schere.
• 40:45
  Speaker 0: Also das eben nur die Leute.
• 40:46
  Speaker 0: oder vielleicht können wir jetzt darüber reden ja dass nur die leute die sich leisten können dann die guten modelle kriegen und fürs folgt bleibt dann eben werbung und grock und nazi inhalt über weil es eben kostenlos kommt.
• 40:57
  Speaker 0: das kann eigentlich nicht so sein des betriebssystem unser öffentlichen sfäre unserer Wirtschaft, unsere Ausbildungsorte, unser Demokratie letztendlich sein.
• 41:06
  Speaker 0: Sondern ich wundere mich wirklich massiv!
• 41:10
  Speaker 0: Wir haben Recht auf Telekommunikation.
• 41:13
  Speaker 0: Du hast ein Recht, dass du in den Internetanschluss kriegst?
• 41:15
  Speaker 0: Du hast einen Recht, das dir Post ausgeliefert wird zum Teil privat organisiert, zum Teil staatlich organisiert aber das ist verbrieft, dass jeder irgendwie da rankommt.
• 41:22
  Speaker 0: ja wir haben Bibliotheken aufgebaut damit Leute an Bücher kommen Lehrmittelfreiheit damit Schülerinnen und Schüler an Büchern rankommen geschenkt von den Alliierten ein öffentlich-rechtlichen Rundfunk aufgebaut, damit Leute an pluralistische Informationen kommen.
• 41:35
  Speaker 0: Staatsfern aber eben geprüft und reguliert und durch einen Medienstaatsvertrag und durch gewisse Boards usw.
• 41:42
  Speaker 0: und sofort auf Unabhängigkeit abgeklopft.
• 41:45
  Speaker 0: Wir kennen doch diese Infrastrukturen die wir gebaut haben um die Leute an Kommunikationen und Wissen ranzuführen.
• 41:52
  Speaker 0: Warum?
• 41:53
  Speaker 0: Haben wir so eine demokratische Vision oder eben auch so eine förderliche Vision?
• 41:58
  Speaker 0: nicht für KI?
• 41:58
  Speaker 0: also ich meine wenn du Weil die Leute sagen immer, wer soll's bezahlen?
• 42:02
  Speaker 0: Wer solls betreiben?
• 42:02
  Speaker 0: Na ja lass uns doch erst mal drüber reden.
• 42:04
  Speaker 0: Wenn du von den acht Milliarden, die wir im öffentlich-rechtlichen Rundfunk hast sagst... Wir hätten nur zehn Prozent davon!
• 42:09
  Speaker 0: Wir hätten eine Milliarde für die Deutschland öffentlich- rechtliche KI oder in Bibliotheken ausgeliefert und wer auch immer.
• 42:17
  Speaker 0: Jeder Deutsche hat das Recht auf fünf verschiedenen Modellen unterschiedlichster Koleur.
• 42:21
  Speaker 0: Auf Pluralismus wird geachtet.
• 42:23
  Speaker 0: Von rechts bis links kann er oder sie wählen mit was er versorgt werden will.
• 42:28
  Speaker 0: Also stellt euch das mal
• 42:30
  Speaker 1: vor.
• 42:30
  Speaker 1: Ich
• 42:33
  Speaker 0: will den das nicht wegnehmen, aber wir können jetzt weiter ein Gabel machen.
• 42:35
  Speaker 0: Kannst ja eine KI-Abgabe machen und sagen zehn Euro im Quartal zahlt jeder Bürgerinnen und Bürger dafür dass wir eben diese Wissensinfrastruktur aufbauen.
• 42:44
  Speaker 0: oder lass uns doch wenigstens darüber diskutieren.
• 42:45
  Speaker 0: ich werde nicht sagen dass ich schon die Lösung habe aber wo ist denn der Diskurs?
• 42:49
  Speaker 1: Das ist ja genau der Punkt.
• 42:50
  Speaker 1: Also das ist ein positives Bild von unserer Zukunft, wo wir mit eigentlich hin...
• 42:54
  Speaker 0: Weil Regulierung?
• 42:55
  Speaker 0: Entschuldigung!
• 42:57
  Speaker 0: Was wir nicht wollen haben wir deutlich reguliert.
• 42:59
  Speaker 0: aber was wir wollen mit KI sozusagen Regulierung heißt ja nun auch dass das negative verhindern oder das positive machen.
• 43:06
  Speaker 0: und ich lese die die EU will souverän sein.
• 43:09
  Speaker 0: Ich dachte vorhin darauf ging deine Frage heraus, was ist denn eigentlich die gesamte Kette?
• 43:13
  Speaker 0: Na ja klar Chips Rechenzentren Daten Ökosysteme Talente.
• 43:17
  Speaker 0: Die Kette ist lang.
• 43:18
  Speaker 0: man kann überall ansetzen.
• 43:19
  Speaker 0: wir müssen überall souveränen werden.
• 43:22
  Speaker 0: das Ministerium sagt immer nicht autark aber souverähn dass wir Entscheidungsmöglichkeiten haben Dass wir immer einen Plan B haben wenn das eine mal abgeschaltet wird Wenn jetzt Cloud Code mal ab geschaltet wird oder Google oder GPS Ja Haben wir oder Microsoft Office ja haben wir einen plan b Wie wir weitermachen können.
• 43:39
  Speaker 0: Also das wäre eben Souveränität, aber ich sehe im EU-Ebene und in der deutschen Roadmap des WMFTR Wir wollen ein oder zwei oder drei oder fünf Modelle bauen Und wir machen dafür Ausschreibungen Ja, auf EU eben nicht, ich sag mal, siebenhundert Millionen oder so ist jetzt auch nichts irgendwie.
• 43:55
  Speaker 0: Aber natürlich auch nicht dasselbe wie zwei Hundert Milliarden was Microsoft in KI investiert.
• 44:00
  Speaker 0: Das ist schon nochmal ein Unterschied.
• 44:01
  Speaker 0: aber meine Frage ist eben die und dann in zwei Jahren oder anderthalb Jahren sind die Modelle da?
• 44:05
  Speaker 0: Und die gefallen uns.
• 44:05
  Speaker 0: wer betreibt Sie denn?
• 44:06
  Speaker 0: Wer sorgt denn dafür das die demokratiefreundlich ja Stichwort Schere, dass die zum Guten eingesetzt werden, dass sie dann nicht einfach da sind und dann findet sich niemand der die dann betreibt?
• 44:15
  Speaker 0: Oder wie wollen wir dann also?
• 44:18
  Speaker 0: das Problem
• 44:19
  Speaker 1: haben wir praktisch überall wo die EU einerseits fördern möchte und auch die richtigen Themen aufgreift, auf der anderen Seite aber die Strukturen in denen die EU fördern darf und kann eben sehr kompliziert sind.
• 44:29
  Speaker 1: Und sie langsam sind und immer kotal sein müssen usw.
• 44:32
  Speaker 1: Das erleben wir auch in der Industrie dass damit Lösungen entstehen die eigentlich keiner braucht.
• 44:37
  Speaker 1: man kann immer noch argumentieren zumindest schafft sie Plattformen die richtige Menschen zusammenkommen und so weiter.
• 44:43
  Speaker 1: Aber am Ende ist das natürlich ergebnislos und wird natürlich weggespült in einer Taktung, die einfach so ein Apparat für die EU nicht bethalten kann, wo wir alle vier Wochen aufwachen und sagen oh es hat sich wieder die Welt gedreht und was Neues ist da?
• 44:57
  Speaker 0: Aber die Leute fragen mich welchen Vorteil oder wie weit sind sie uns denn voraus in den USA?
• 45:02
  Speaker 0: Und wenn du mal nüchtern betrachtest, wir sind im Jahr vier der Technologie also ich sage mal eigentlich maximal vier Jahre abgesehen davon, dass sie eben diese zig Millionen von Nutzerinnen und Nutzern uns voraus sind.
• 45:13
  Speaker 0: Ja die müssten wir natürlich auf unsere Seite kriegen.
• 45:16
  Speaker 0: aber nimm mal eben drei Hundert Millionen Nutzer in Europa, die würden jetzt umswitschen auf unsere Modelle und unsere Modälle verbessern.
• 45:23
  Speaker 0: Roberto Semanovski das schöne Buch Die Sprachmaschinen geschrieben hat eine Philosophie der künstlichen Intelligenz.
• 45:30
  Speaker 0: Der vergleicht das er sagt es ist ein bisschen wie die DDR-Bürger nach der Wende.
• 45:34
  Speaker 0: ja die Cornflakes Packung aus dem Westen, die sieht schöner aus und unsere eigene Wirtschaft geht halt ein Bach runter.
• 45:39
  Speaker 0: Weil wir eben sozusagen das andere ein bisschen schöner ist.
• 45:41
  Speaker 0: also möglicherweise muss man da auch einfach mal sagen hey dann muss man vielleicht auch mal eine patriotische Entscheidung treffen uns sagen ja wir werben mal dafür dass wir unseren eigenen unser Idiot und Dogfood dass wir dann unsere eigenen EU Lösungen unsere deutschen Lösungen dass für die dann eben denen auch ne Chance geben wenn sie auch möglicherweise nicht so shiny sind aber dass man dann vielleicht auch mit aufklärt oder auch Leute sanft dazu zwingt.
• 46:06
  Speaker 1: Und der ist ja auch durchaus Bewegung da, also der Deutschland-Stack.
• 46:09
  Speaker 1: Also das heißt eine vereinheitliche Infrastruktur zum Beispiel in Verwaltung.
• 46:13
  Speaker 1: Das sind ganz wichtige Themen.
• 46:14
  Speaker 1: wir sehen dass eben das Thema Open Source wieder an Schwung gewinnt, also München und andere viele Behörden usw.
• 46:20
  Speaker 1: gehen auf Open Source Lösungen.
• 46:21
  Speaker 1: Wir sehen, dass die deutschen Cloud-Lösungen eigentlich sehr gut funktionieren.
• 46:25
  Speaker 1: Nicht so umgreifend umfassend vielleicht sind wie die amerikanischen aber sie sind extrem stabil und leistungsfähig und auch kostengünstig usw.
• 46:33
  Speaker 1: Also ich denke da ist viel mehr da als wir eigentlich so wahrnehmen.
• 46:36
  Speaker 0: noch ein Kaviat zu Open Source Modellen.
• 46:41
  Speaker 0: kürzlich damit Mario Brandenburg von SAP darüber diskutiert.
• 46:46
  Speaker 0: Wir wollen die natürlich und finden das auch gut, Open Source ist da nicht.
• 46:49
  Speaker 0: Da schlägt unser Herz dafür.
• 46:50
  Speaker 0: aber wenn du dir überlegst dass bei diesen Modellen eben manchmal ja auch Dinge schiefgehen, da sind Verzerrungen drin, da werden Leute diskriminiert in anderen Dingen Da hast du es dann natürlich in der kommerziellen geschlossenen Welt einfacher zu sagen, wir fahren einfach ein Update.
• 47:05
  Speaker 0: Ab morgen benutzt ihr das neue Modell alle.
• 47:07
  Speaker 0: Das andere wird nicht mehr angeboten und in der Open Source-Welt hast Du dann eine Vielzahl möglicherweise von eben Cloning dieses Modells rumfahren die du nicht mehr einfangen kannst, die dann möglicherweise auch berserk gehen und Zeug in die Welt setzen.
• 47:21
  Speaker 0: Das heißt wenn man so unter diesem Aspekt dass man eben auch irgendeine Art von Regulierung und Kontrolle ausüben muss, hat man es dann natürlich wieder etwas schwerer in der Open Source Welt.
• 47:35
  Speaker 0: Ja,
• 47:35
  Speaker 1: also Open Source ist ein komplexes Thema denn Open Source heißt ja erstmal einen Weg wie wir vielleicht gemeinsam an den Themen arbeiten.
• 47:46
  Speaker 1: wenn wir über kommerzielle Produkte reden, dann ist normalerweise immer eine Diskussion da von irgendjemandem als kommerziellen Nutzt.
• 47:53
  Speaker 1: Also Open Source heißt ja nicht immer automatisch kostenlos sondern da ist jemand da
• 47:57
  Speaker 0: das paketiert
• 47:58
  Speaker 1: und meistens es eben so zumindest im industriellen Anwendung.
• 48:02
  Speaker 1: Da muss noch ganz viel Aushaltung gebaut werden Das muss integriert werden, das muss als Flucht betrieben werden.
• 48:06
  Speaker 1: Und dann habe ich euch jemand da der sagt Ich stelle für gerade Gerade in solchen Lieferketten ist es eben genau nicht So dass sich das irgendwie runterladen ist es da?
• 48:15
  Speaker 1: Auf der anderen Seite ist schon richtig diese Modelle sind In the wild.
• 48:18
  Speaker 1: Also das heißt, dass ist ja auch ein Teil des Ganzen.
• 48:20
  Speaker 1: ich kann mir heute die Computer Hardware locker kaufen auf dem diese Modelle einfach von mir installiert werden
• 48:26
  Speaker 0: und es kann kein Mensch kontrollieren
• 48:27
  Speaker 1: was ich damit
• 48:28
  Speaker 0: mache.
• 48:29
  Speaker 1: aber das ist eben so.
• 48:30
  Speaker 1: also auch heute kannst du dir eine Säge kaufen und damit machen was du willst.
• 48:35
  Speaker 0: Die Leute sagen auch bei Agentic wenn KI jetzt sich kann mir auch einen Programm schreiben was meine Mails liest was mein Konto zugreift hat und welches Zeug da mitmachter?
• 48:43
  Speaker 0: Das verbietet der ja keiner.
• 48:48
  Speaker 1: Ja, wie siehst du denn die Zukunft Europas?
• 48:53
  Speaker 1: Wieder mal eine ganz kleine Frage in Richtung Abschluss.
• 48:56
  Speaker 1: Wo werden wir dann hinsteuern und was ist denn wenn man wirklich optimistisch sind, wenn wir visionär sind, sagen wir sind in der Lage, vier Jahre ist nicht viel und vielleicht sind wir auch in der Lage weil diese ganze Erzählung von Wir brauchen jetzt Rechenzentren, die so groß sind wie der Saarland und die Stromproduktion von Belgien verbrauchen.
• 49:17
  Speaker 1: Vielleicht stimmt das ja auch nicht?
• 49:18
  Speaker 1: Vielleicht werden wir effizienter wenn wir mal positiv bleiben.
• 49:21
  Speaker 1: was ist denn aus deiner Sicht ein gutes Bild für dieses europa?
• 49:24
  Speaker 0: ich denke auch wenn Wenn wir neue Chips schaffen, wenn die KI-Modelle selber kleiner und effizienter werden.
• 49:32
  Speaker 0: Und wenn wir auch lernen mit ihnen umzugehen.
• 49:34
  Speaker 0: das ist so eine Mischung ja aus beiden.
• 49:35
  Speaker 0: auch die Endkunde dass wir jetzt im Restaurant mit fünf Freunden irgendwo oder Freundinnen sitzen und dann über einen Eiffelturm sprechen und dann fünf Leute eine Chat anfragen machen wie hoch der Eiffelturm ist da kann man ja auch sozusagen als Endkund vielleicht auch ein bisschen sich aus dem Energieverbrauch ein bisschen raus Stichwort Medienbildung herausziehen glaube ich, dann wenn wir diese Co-Evolution hinbekommen dass das eben wirklich ein Werkzeug ist was uns hilft irgendwie Neues und Höheres zu schaffen.
• 50:02
  Speaker 0: Und Ich hoffe eben auch noch und das ist in Europa auch auch in Deutschland oder so haben wir ja viele Probleme die eigentlich nicht am Wissen scheitern.
• 50:12
  Speaker 0: also Stichwort irgendwie Dass es die Klimakrise gibt wissen wir irgendwie.
• 50:16
  Speaker 0: sie war neun zu neun siebzig Das erste Mal In der Tagesschau.
• 50:20
  Speaker 0: Ja das ist sich mal gut klar.
• 50:21
  Speaker 0: Es ist eine kurze Zeit für einen Menschen Gehirn.
• 50:24
  Speaker 0: Aber wir haben oft nicht die Wissensprobleme, auch was für sich den Trassenbau von Nord nach Süd und andere Dinge, die wir machen müssen.
• 50:29
  Speaker 0: Sondern wir haben Kommunikationsprobleme.
• 50:31
  Speaker 0: Und KI wäre eigentlich für mich gut gemacht.
• 50:34
  Speaker 0: Eigentlich eine Moderatorin, eine Möglichkeit eben Diskurse mit der Kognitiv zu begleiten, zu reflektieren.
• 50:42
  Speaker 0: uns zur Hälfte – ich meine bei Timi der Waal oder so haben Leute gefragt, was hätte KI entschieden?
• 50:46
  Speaker 0: Ich sagte, KI hätte möglicherweise uns jedem einst denn gesagt pass mal auf!
• 50:50
  Speaker 0: Du bist in einem ganz anderen Film als dein Gegenüber Du dich interessiert gerade Tierschutz und den anderen, da interessiert grad aber das wissenschaftliche Fakt dass der keine Überlebenschance hat.
• 50:59
  Speaker 0: Und ihr müsst irgendwie ein bisschen anders miteinander reden.
• 51:01
  Speaker 0: ja ich habe das Gefühl der Staat tut nichts und du hast das Gefühl sozusagen die sind doof.
• 51:05
  Speaker 0: Ja also wie bringen wir Menschen zusammen?
• 51:08
  Speaker 0: Das was die sozialen Medien eigentlich mal hätten leisten sollen was auch Gründungsmythos des Internet war das Global Village, wo die Menschen gemeinsam am runden Tisch sitzen ja in der Habermaschen Agora und die Probleme der Welt lösen.
• 51:24
  Speaker 0: Herrschaftsfrei dezentral so war es ja mal angedacht.
• 51:26
  Speaker 0: Das war die demokratische Vision vom Internet.
• 51:29
  Speaker 0: Die ist dann natürlich durch die großen Plattformen
• 51:31
  Speaker 0: usw.,
• 51:31
  Speaker 0: mindestens nach dem arabischen Frühling kaputt gemacht worden.
• 51:34
  Speaker 0: Wenn einzelne Leute sich dann wenn wir das auch erlauben dass einzelne oder damals Twitter kaufen, das war ja auch ein Fehler eigentlich sozusagen.
• 51:42
  Speaker 0: Dass man nicht dafür gesorgt hat
• 51:44
  Speaker 1: dass diese
• 51:45
  Speaker 0: wichtigen Kommunikationsinfrastrukturen eben offen und frei bleiben oder so frei wie sie halt sind wenn wir da schaffen mit KI diese Fehler zu vermeiden Stichwort auch selber zu betreiben und dann eben die Leute zusammenzubringen, dass sagen wir bauen eben Kommunikation auf wo nicht wie in den sozialen Medien Hass und gegeneinander aufhetzen.
• 52:05
  Speaker 0: Und die sind so doof und nur wir sind so schlau damit mit einem Markt ökonomischen Aufmerksamkeitsstrategie agiert wird sondern wir sagen wenn wir Menschen zusammenbringen unsere europäischen Werte eben ja für Vereint in Diversity Wenn wir die halt rein bringen in unsere KI Systeme dann kann das doch eine schöne Zukunft werden.
• 52:29
  Speaker 1: Wunderbar!
• 52:31
  Speaker 1: Man kann noch ganz viel mehr von dir hören, du hast einen eigenen Podcast KI und jetzt in der ARD.
• 52:36
  Speaker 1: also da bist du der große KI Erklärer.
• 52:38
  Speaker 1: ich hätte aber noch eine allerletzte Abklassfrage.
• 52:41
  Speaker 1: es ist gerade die Zeit der Abiturprüfungen.
• 52:44
  Speaker 1: Also die Menschen kommen jetzt gerade raus aus der Schule.
• 52:47
  Speaker 1: was freutst du denn jungen Menschen?
• 52:50
  Speaker 1: Was sollen sie machen?
• 52:51
  Speaker 1: Was soll sie studieren?
• 52:52
  Speaker 1: Was wollen Sie aus dem Leben werden?
• 52:55
  Speaker 0: Ich habe immer schon gesagt, weil es mir auch selber gut getan hat.
• 52:59
  Speaker 0: Immer zwei Standbeine.
• 53:00
  Speaker 0: Ich habe Computerlinguistik.
• 53:02
  Speaker 0: Das hängt sogar unter der philosophischen Fakultätigen ist damals heute bei den Übersetzern in Saarbrücken, wo ich studiert hab die Ingenieurswelt und die geisteswissenschaftliche Welt zu kennen und vermitteln zu können.
• 53:15
  Speaker 0: zwischen dem das fand ich erst so ein bisschen zweimal halb Aber am Ende des Tages sozusagen bin ich anschlussfähig in verschiedene Richtungen und das hat eigentlich viel gebracht.
• 53:24
  Speaker 0: Und ich bin der festen Überzeugung, dass sich auch Disziplinkränzen schnell verschieben werden durch KI.
• 53:30
  Speaker 0: Denn zu der Winchis Zeiten habe man alles studiert Recht und Medizin und Kunst.
• 53:34
  Speaker 0: und was es halt damals gab Der Wissenstand das waren zwei Hundert Bücher.
• 53:37
  Speaker 0: Ja den hat man gelesen und dann hatte man wusste Man hatte mal das wissen der Menschheit einfach Intus nahe.
• 53:41
  Speaker 0: gut und da stieg das wissend halt so rapide an auch durch den Buchdruck und anderes, dass man Disziplingrenzen einziehen musste damit einen Mensch irgendwie in einer vernünftigen Zeit studieren konnte.
• 53:49
  Speaker 0: Und dann noch irgendwie arbeiten konnte.
• 53:52
  Speaker 0: Jetzt haben wir aber diese Möglichkeit kognitive Prozesse und Merkprozesse, Memorisierung usw.
• 53:56
  Speaker 0: eben auszulagern natürlich nicht endlos völlig klar.
• 53:59
  Speaker 0: Wir brauchen Experten die KI weiterhin verbesseren Ergebnisse kritisch prüfen und so weiter ist völlig klar.
• 54:05
  Speaker 0: Aber wir können glaube ich mit den Disziplinkränzen spielen denn die interessanten Lösungen der Probleme Stichwort Klimawandel, Pandemie, Fluchtbewegungen
• 54:15
  Speaker 0: usw.,
• 54:16
  Speaker 0: die liegen ja nicht in einer Disziplin.
• 54:17
  Speaker 0: Auch KI-Entwicklung liegt nicht in eine Diszipline sondern ist ein hochinterdisziplinäres Ding.
• 54:21
  Speaker 0: Niemand kann auch die gesamte Perspektive haben.
• 54:24
  Speaker 0: das hat juristische, ethische, technische, gesellschaftliche und so weiter Aspekte.
• 54:30
  Speaker 0: Das würde ich den Studierenden dann eben raten stelle dich auf zwei oder drei Kontakariere bis hier das Bachelor und Master System, ja sozusagen eine Schmalspur Abschluss sozusagen aller Abitur zwei Null zu machen.
• 54:48
  Speaker 0: Sondern versuch dich eben interdisziplinär aufzustellen und dann mit Binde Strich irgendwas zu machen.
• 54:54
  Speaker 0: ich glaube dann bist du besser und sicherer und zukunftstauglicher aufgestellt.
• 55:02
  Speaker 1: Fantastisch!
• 55:03
  Speaker 1: Vielen Dank!
• 55:04
  Speaker 1: Super ganz herzlichen Dank auch von mir!
• 55:06
  Speaker 0: Ja danke für die Einladung.
• 55:33
  Speaker 0: Algorithms writing our future and our
• 55:37
  Speaker 1: past.
• 55:38
  Speaker 1: From classrooms to boardrooms, the code is running deep.
• 55:43
  Speaker 1: AI
• 55:44
  Speaker 0: as a new
• 55:45
  Speaker 1: colleague
• 55:46
  Speaker 0: that never falls asleep.
• 55:48
  Speaker 0: Brocken Christopher's the questions no one dares!
• 55:53
  Speaker 0: They talk to builders & thinkers from
• 55:59
  Speaker 1: Munich to
• 56:00
  Speaker 0: Vegas.
• 56:01
  Speaker 0: The
• 56:01
  Speaker 1: signals never stop.
• 56:03
  Speaker 0: Digital Transformation, it's racing
• 56:07
  Speaker 1: to the top.
• 56:09
  Speaker 1: Robots getting muscles Twins inside the cloud Human and machine Turning
• 56:17
  Speaker 0: too deep.
• 56:19
  Speaker 0: Episode a window To a digging through noise.
• 56:26
  Speaker 0: define Which just starts today.
• 56:46
  Speaker 1: It's time
• 56:47
  Speaker 0: to find.
• 56:56
  Speaker 0: Dig deep Startups
• 56:58
  Speaker 1: finding pivots
• 56:59
  Speaker 0: Cities reinventing still Das war's.