Latest / MY DATA IS BETTER THAN YOURS / Fairness by Design: KI ohne Bias bauen – mit Alex U., Fujitsu

Transcript

Fairness by Design: KI ohne Bias bauen – mit Alex U., Fujitsu · MY DATA IS BETTER THAN YOURS

0:00
Speaker 1: In der heutigen Folge spreche mit der lieben Alex von Fuji zu.
0:05
Speaker 1: Es geht um das Thema AI-Responsibility, Fairness und wie bewertet man es eigentlich im Unternehmen?
0:10
Speaker 1: Und warum hat Alex in den letzten Jahren geschafft über vierhundert Keynotes genau zu dem Thema zu sprechen?
0:22
Speaker 1: Neue Folgen jeden
0:23
Speaker 0: Freitag!
0:23
Speaker 0: In dieser digitalen Welt gibt es einen speziellen Faktor, der über Erfolg und Misserfolg entscheidet – Daten.
0:30
Speaker 0: Doch nur die wenigsten wissen sie für sich zu nutzen.
0:34
Speaker 0: Wer seine Kunden verstehen will, um ihnen das bieten zu können was sie brauchen
0:38
Speaker 1: kommt um ein professionelles Datenmanagement nicht
0:40
Speaker 0: herum.
0:41
Speaker 0: Jonas Raschidi interviewt andere Experten aus den Data Bereichen und zeigt Schritt für Schritt wie genau das funktioniert.
0:54
Speaker 1: Mein heutiger Gast ist die Liebe Alex Ulbricht.
0:57
Speaker 1: Sie ist seit über zwölf Jahren bei Ful G zu.
1:02
Speaker 1: Ich habe es richtig ausgesprochen zum Glück war die jüngste Vertriebsleiterin in der Firmengeschichte im Datacenter Sales-Bereich, also auch ein datanahes Thema.
1:12
Speaker 1: Sie hat in den letzten Monaten und Jahren über vierhundert Kinos aufgenommen bzw.
1:18
Speaker 1: gesprochen.
1:18
Speaker 1: ist mein Stand.
1:20
Speaker 1: Sie beschäftigt sich nämlich vor allem mit dem Thema AI Fairness.
1:25
Speaker 1: Hi Alex!
1:28
Speaker 1: Wir haben, muss man gestehen im Vorfeld schon ein bisschen hin und her diskutiert zum Thema Sport um Chor.
1:33
Speaker 1: Also wir sind warm gesprochen.
1:36
Speaker 1: Alex was habe ich denn eigentlich jetzt bei meiner Vorstellung nicht vorgestellt?
1:40
Speaker 1: Was man über dich vielleicht auch noch wissen sollt weil wenn man ganz ehrlich ist Euren Firmnahmen mit Datacenter hab' ich jetzt ehrlich gesagt nicht so in Verbindung gebracht.
1:49
Speaker 1: Vielleicht kannst du das nochmal irgendwie auflösen.
1:51
Speaker 0: Ja Fujitsu ist ja schon sehr stark doch im Infrastrukturumfeld, also man kennt uns ja vielleicht noch von Fujitsu Siemens.
1:57
Speaker 0: Wir hatten mal gute NetTops und jetzt haben wir immer noch saugute Server- und Storage-Systeme.
2:03
Speaker 0: Wofür man uns allerdings nicht kennt ist dass wir auch KI Lösungen rund um unsere Infrastrukturlösung bauen.
2:10
Speaker 1: Also sozusagen als Layer und Top?
2:12
Speaker 0: Ja und eher so rund um sorglos Pakete mit zusätzlichen Dienstleistungen.
2:18
Speaker 0: So bin ich zum Thema Fairness gekommen!
2:22
Speaker 1: Was bedeutet Fairness für dich?
2:25
Speaker 0: Fernis ist eine sehr schwierige Definition.
2:27
Speaker 0: Und die direkt am Anfang zu sagen, ist sehr fies.
2:30
Speaker 0: Ein Fernis is ja leider kein Wert, es ist also nichts was man irgendwo festtreiben kann.
2:34
Speaker 0: Fernis immer ne Entscheidung, die von Menschen getroffen wird.
2:37
Speaker 0: Also hat jeder seine eigene Definition von Fernis und ich muss sagen einer meiner höchsten Antiwerte ist Ungerechtigkeit.
2:46
Speaker 0: Mir liegt das gegen Ungerechtkeit zu kämpfen.
2:49
Speaker 0: Mir ist es wichtig dagegen vorzugehen.
2:54
Speaker 0: Bei mir geht es halt sehr viel um Bauchgefühl, in dem Fall wenn ich oder andere oder wenn ich bemerke dass Menschen und andere Lebewesen unfair behandelt werden.
3:01
Speaker 0: Und ich glaube da hat aber wirklich jeder eine ganz eigene Definition das Thema Fairness angeht.
3:08
Speaker 1: Jetzt hast du kamst du eher aus dem Vertrieb hast sich mit dem Thema Data Center eher als Infrastruktur beschäftigt.
3:15
Speaker 1: jetzt haste dich weiterentwickelt zum Thema AI was natürlich gerade auch ein Hype-Thema ist.
3:21
Speaker 1: Was war deine persönliche Motivation sich da weiter zu entwickeln?
3:26
Speaker 0: Ich bin da ganz komisch reingerutscht.
3:29
Speaker 1: An den Neugier ist gestiegen!
3:32
Speaker 0: Ich wurde vor ein paar Jahren mal gebeten, ins Slam zu halten und zu dem Zeitpunkt war ich auch schon gute zehn Jahre in IT-Branche als Frau in der Männerbranche also da wo...
3:42
Speaker 1: Ist eine Data-Männerbranche?
3:45
Speaker 0: Also IT, wo ich damals richtig drin war, schon komplett zu ... über neunzig Prozent.
3:51
Speaker 0: Im Vertrieb vielleicht dann ein bisschen besser, aber insgesamt schon und gerade auch was die Kunden angeht.
3:55
Speaker 0: Das heißt ich habe in den zehn Jahren doch das eine oder andere erlebt, was mich so ein bisschen getriggert hat vielleicht auch und ich dachte jetzt musste ich schon für so vieles gefühlt schon immer ein Stückchen mehr kämpfen als meine männlichen Kollegen.
4:08
Speaker 0: Den mache ich über Ungerechtigkeit.
4:11
Speaker 0: Weil es gibt ja sonst sehr, sehr wenig Themen die man auf einer Bühne erzählen kann, die jetzt so ein IT-Publikum wirklich interessiert.
4:16
Speaker 0: Man hält sich da natürlich schon an die Sachen und die Leute auch hören wollen gerade wenn ich als Peaker für die Filme unterwegs bin.
4:23
Speaker 0: Ich dachte bei Nifflam wird das was anderes?
4:25
Speaker 0: Da gehe ich mal richtig ins Eingemachte.
4:27
Speaker 0: und dann habe ich so halt paar Sachen aufbereitet, die mich persönlich schon immer getriggert haben.
4:32
Speaker 0: Zum Beispiel, also die einfachsten Beispiele sind ja so Crash Test-Dummies.
4:36
Speaker 0: Crash Test Dummies sind ja ausschließlich männliche Personen, also männliche Dummies.
4:42
Speaker 0: Das heißt alle Crashs, die simuliert werden, werden mit männlichen Dummis gemacht.
4:47
Speaker 0: Frauen haben da eine seventy zwei Prozent höhere Wahrscheinlichkeit schwer verletzt zu werden bei dem Frontalcrash.
4:53
Speaker 0: Die haben eine achtzehn prozent höhere Wahrscheinlichkeit, wenn ein Frontalkrash zu sterben als Männer.
4:58
Speaker 0: Einfach weil die Crash Tests mit männlichem Dammis gemacht werden.
5:01
Speaker 1: Ah, weil die sozusagen der Körperbau auch ein anderes?
5:05
Speaker 1: Der
5:05
Speaker 0: Körperbau ist anders.
5:06
Speaker 0: Das Gewicht ist anders Die Gewichtsverteilung ist anders.
5:10
Speaker 0: Und jetzt gibt es in den USA erst seit zwanzig-fünfzwanzig in einem Gesetz dass auch weibliche Dammys getestet werden müssen und in der EU Seit zwanzigs-sechstenzwanziger.
5:19
Speaker 0: erst seit diesem Jahr wären weiblichen Crashtestdammys verwendet.
5:23
Speaker 0: Vorher wurde das alles mit männlichen getesteten.
5:25
Speaker 0: Das war so ein typisches Beispiel.
5:26
Speaker 0: oder in der Medizin Alle Medikamentenforschung werden eigentlich mit männlichen...
5:31
Speaker 1: Ja, da kann ich nur eine Folge empfehlen.
5:33
Speaker 1: Mit der Professorin ist sie Irith, haben wir genau dazu gesprochen.
5:38
Speaker 1: Also diese Beispiele der unterschiedlichen Medikamente, ja?
5:41
Speaker 1: Faire Punkte!
5:42
Speaker 0: Und ich dachte die Ungerechtigkeit muss aufgearbeitet werden und so bin ich in das Thema Fernis dann auch reingerutscht weil im Grunde jetzt kriegt man das vielleicht noch mit.
5:50
Speaker 0: aber wenn irgendwann diese Daten an KI-Systeme gehen was Sie jetzt schon gehen Aber wenn diese KI Systeme dann autonom entscheiden Dann kriegen wir nämlich nicht mehr mit wenn da Benachteiligungen entstehen, wenn da Diskriminierungen drin sind.
6:01
Speaker 0: Und deswegen soll das meine Mission sein, das aufzubereiten und die Leute darüber zu informieren wie wichtig es ist diesen Bayes Ausdehendaten vorher rauszukriegen damit die KI-Systeme eben nicht gebayeste Entscheidungen dann treffen.
6:16
Speaker 1: Das Lärm ist gut gelaufen?
6:18
Speaker 0: Ja!
6:19
Speaker 0: Hinterher kamen wahnsinnig viele Leute, die das noch nie gehört hatten.
6:22
Speaker 0: Und es war für mich erst so richtig der Moment, wo ich dachte... Jetzt er ist
6:26
Speaker 1: recht!
6:26
Speaker 0: ...jetzt wird das wohl mein Thema.
6:28
Speaker 0: Dann bin ich das wohl, die dies kundtut.
6:31
Speaker 1: Und das klappt?
6:32
Speaker 0: Ja.
6:32
Speaker 1: Seit wann machst du Kino's?
6:35
Speaker 0: Für die Firma schon seit vier, fünf Jahren selbstständig jetzt seit so einem Jahr.
6:41
Speaker 1: Und die Vierhunderter Zahl ist keine Webseitenzahle, sondern die ist wirklich passiert?
6:45
Speaker 1: Ich
6:46
Speaker 0: bin eigentlich, mein Arbeitsleben besteht daraus dass ich irgendwo hin fahre.
6:50
Speaker 0: Kinot haltet und mir zurückfahre oder weiter zur nächsten Fahre.
6:53
Speaker 1: Ja krass!
6:54
Speaker 1: Was war die Kino die dich am meisten beeindruckt hat?
6:57
Speaker 1: Die du selber gehalten hast?
6:58
Speaker 1: Für welchen Publikum?
6:59
Speaker 1: Kann jetzt
6:59
Speaker 0: nicht von meiner eigenen Kino sterben.
7:01
Speaker 1: Doch für welche Kino also?
7:03
Speaker 1: vor welchem Publikums?
7:04
Speaker 1: wo hast du das Gefühl gehabt es war Du hast da wirklich was hinterlassen.
7:10
Speaker 0: Also es gibt sehr viele Kino ziehe ich ausschließlich vom männlichen Publikum halte und ich sehe in den Gesichtern, dass da so ein AHA-Effekt passiert.
7:17
Speaker 0: Ich habe aber jetzt vor drei Wochen das erste Mal von dem Publikums gesprochen was zu neunzig Prozent aus Frauen bestand Und da dennoch in den Augen zu sehen Da gibt es auch einen AHA Moment obwohl das alles Leute sind die eigentlich dieselben Erfahrungen gemacht haben wie ich denen das genauso bewusst ist Aber denen das einmal so aufzubereiten Das waren ganz viele aus Marketing und interne Kommunikationen und HR Und denen das aufzubereiten, dass da in ihren eigenen Bereich so ein AH-Effekt kommt mit ach verrückt.
7:46
Speaker 0: Da müssen wir ja wirklich was machen!
7:48
Speaker 0: Das hat mich fasziniert weil ich dachte immer nur, ich müsste Männer belehren.
7:52
Speaker 0: Was sie natürlich nicht
7:53
Speaker 1: so macht.
7:54
Speaker 1: Gute Voraussetzung für unsere Folge.
7:59
Speaker 1: Du sagst auf der Bühne KI diskriminiert nicht von sich selbst sondern sie zeigt so'n bisschen die Muster, die wir geschaffen haben.
8:06
Speaker 1: Da hast du ja jetzt gerade so ein bisschen erzählt, wo du gemerkt hast, dass die Crash-Dummies diejenigen sind.
8:20
Speaker 1: Du bist also oder vertrittst die Meinung das es kein technisches Problem ist sondern eher ein historisches Problem was nicht geliehen kann?
8:30
Speaker 0: Ja im Grunde lernen KI Systeme aus Daten.
8:34
Speaker 0: Daten müssen irgendwo herkommen und sind oft natürlich historischer Natur Und in den historischen Daten sind eben sowohl alle Vorurteile aus der Vergangenheit irgendwo abgebildet, aber vielleicht auch weitere Verzerrungen.
8:45
Speaker 0: Auch wenn wir die heute gar nicht mehr so leben wollen.
8:48
Speaker 0: Aber die sind ja in den Datensätzen drin und ein Grunde macht einen KI-System oder ein Algorithmus ja nichts anderes als darin, in der Vergange ein Muster zu erkennen.
8:56
Speaker 0: Und diese Muster wollen interpretiert werden und die wären dann eben reproduziert.
9:00
Speaker 0: Das Blöde ist eben nur das ein KI System, die relativ ungesehen reproduzirt ohne dass wir wirklich wissen... oder prüfen können, ob dieses Muster jetzt wirklich reproduziert werden soll.
9:09
Speaker 0: Oder nicht?
9:10
Speaker 0: Es ist also ein hausgemachtes Problem was durch die Technik verstärkt wird.
9:18
Speaker 1: Kannst du das hast ein gutes Beispiel auf eine Firma zu übertragen mit Kundendaten und anderen Daten?
9:23
Speaker 0: Ich glaube das einfachste Beispiel ist immer Thema Recruiting.
9:28
Speaker 0: Emisen ist das zum Beispiel passiert.
9:30
Speaker 0: Ich glaube, es sind jetzt echt schon eine ganze Weile her als sie zuallererst mal eine Recruiting-KI über sich eingeführt haben also was heute mittlerweile jeder hat.
9:38
Speaker 0: Eine KI die Lebensläufe scannt und die mit der Stellenausschreibung den Anforderungen abgleicht und dann der Recruitting Abteilung eben Lebensläuche empfiehlt die es sich lohnen zu einem Gespräch einzuladen.
9:50
Speaker 0: Und da ist Emisen nach zwei drei Jahren aufgefallen Na hui, irgendwie hat sich die Frauenquote im Unternehmen verschlechtert und niemand wusste so richtig woher das kommt.
9:57
Speaker 0: Damals, als ich vierzehn war ja auch noch ein bisschen eine andere Zeit da war ihm das alles noch nicht so bewusst.
10:01
Speaker 0: Und dann ist man in den Zeit lang auf Ursachenforschung gegangen und hat dann herausgefunden dass das KI-System halt Frauen einfach diskriminiert hat.
10:09
Speaker 0: Ja sowas wie wenn man Mitglied im Women's Chess Club oder sowas war also irgendwo wo women's davor steht, abqualifiziert, weil die KI einfach gelernt hat das Amazon in der Vergangenheit hauptsächlich Männer eingestellt hat.
10:23
Speaker 0: Früher war es in der Pongie ja auch so und hat dieses Muster dann reproduziert und hat dann eben wieder Männer weiter empfohlen.
10:29
Speaker 0: Und ich meine wenn das Amazon passiert ... Dann auch jedem anderen!
10:36
Speaker 1: Wenn du... Ich bin immer ein großer Freund von Pragmatismus aber von Problem- und Lösung.
10:41
Speaker 1: Wenn wir das Beispiel jetzt des Recruitments nehmen und ich jetzt hier die Gegenübersitzen würde und würde sagen hey Alex Was muss ich denn jetzt aber Schritt für Schritt machen, dass mir das nicht passiert?
10:51
Speaker 1: Was wäre deine Meinung?
10:54
Speaker 0: Zuerst sollte man bevor man ein KI-System in den Bereich einführt eine Art Biasordid machen.
11:04
Speaker 0: Des Systems also man testet es.
11:06
Speaker 0: Das kommt ganz auf die Firmgröße darauf an wie man das testet wenn's ne sehr kleine ein kleiner Bereich ist und hat ein fertiges Recruiting System gekauft dann kann man das selber testen indem man einfach Lebensläufe mit verschiedenen... Eigentlich gleiche Lebensläufe, die sich in wenigen Kriterien dann unterscheidet an seinen KI-System schicken und einfach gucken was passiert.
11:25
Speaker 0: Wenn das eine deutlich größere Use Case ist vielleicht ein Konzern, dann sollte man jetzt auch ein bisschen intensiver testen weil es gibt ja nicht nur das Bayes, was man mit menschlichen Auge sieht sondern es gibt da auch das Intersectional Bayes.
11:36
Speaker 0: also was... Was man mit einem menschlichem Auge nicht mehr sehen kann, was Intersectionals Bayes ist wenn mehrere Attribute zusammen kombiniert erst eine Diskriminierung ergeben.
11:44
Speaker 0: Es wird Also jetzt ist vielleicht die Geschlechterverteilung gleich bei einem Recruiting-System, aber wenn das geschlecht weiblich ist und das Alter zwischen dreißigundvierzig gebärfähiges Alter dann tritt die Diskriminierung ein.
11:59
Speaker 0: Aber nicht bei dreizig bis vierzigjährigen generell oder bei Weiblich generell sondern nur wenn die beiden Attribute miteinander kombiniert sind.
12:05
Speaker 0: Und das kann auch über zwei, drei, vier, fünf Attributes sein.
12:08
Speaker 0: Dann sieht man es mit menschlichen Augen nicht mehr und dafür gibt's Tools... um sein KI-System auf dieses Intersectional Byes auch zu testen, um wirklich herauszufinden welche Kriterien kombiniert ergeben denn jetzt eine Diskriminierung die ich nicht haben möchte.
12:21
Speaker 1: Ja
12:22
Speaker 0: Dann neufralisiert man das und dann... Das ist eigentlich relativ wichtig weil man sollte es nicht nur einmal zur Einführung machen sondern wir brauchen einen kontinuierlichen Prozess dass regelmäßig das System oder diese Systeme darauf getestet werden Und vielleicht findet man intern auch in der Art Score, den man sich vornimmt, dem er nicht überschreiten möchte.
12:42
Speaker 0: Man kann wenn man es richtig professionell angeht auch das KI-System selber dazu bringen dass es regelmäßig so Entscheidungs Outputs einmal rauslässt damit man selbst sieht nach welchen Kriterien entschieden wurde oder wie bei einem Recruiting System zum Beispiel die Einstellungsrate nach bestimmten Merkmalen ist.
12:59
Speaker 1: Ja ich glaube denn... Ich kauf deinem Thema auch wieder bei gekauften Systemen, weil man das glaube ich eher testen kann.
13:12
Speaker 1: Ich tue mich gerade schwer, dass viele Unternehmen es meiner Erfahrung vor allem wenn du die Data Science und Co anguckst, die Modelle früher, dass oft Blackboxen gekauft wurden und keiner auf der Unternehmenseite, der es kauft.
13:26
Speaker 1: Feg war den Algorithmus, feg war diesen Beis zu testen und zu bewerten.
13:32
Speaker 1: Jetzt gibt es natürlich viele offene Large-Language-Modelle die man holen kann Open Source.
13:36
Speaker 1: aber auf der anderen Seite kannst du dir ja auch vielleicht ChatGBT oder OpenAI in Tropic oder sowas einkaufen und da sitzt ja keiner auf der andern Seite und erklärt ihr das Modell sondern musstest selber testen.
13:48
Speaker 1: also glaubst du dass der Mittelstand dass die Konzerne dafür bereit sind und das eigene Knowhow haben?
13:55
Speaker 0: Auch da kommt es ganz drauf an.
13:57
Speaker 0: Es gibt durchaus Konzerne, die haben sogar ein eigenes Ethics-Bord was sich um so etwas kümmert.
14:01
Speaker 0: also ja.
14:02
Speaker 0: So was gibt es?
14:03
Speaker 0: und dann ist definitiv das Knowhow auch dabei um das ganze zu testen.
14:08
Speaker 0: aber es gibt auch die Möglichkeit sich für einen bestimmten Zeitraum mal einen Data Scientist von extern zu holen der das Tool überprüft oder den Prozess etabliert, der relativ einfach ist.
14:17
Speaker 0: für einen kleineren Mittelständler einzuhalten kommt man schon ganz gut, wenn man das von Beginn an auch macht.
14:24
Speaker 0: Sodass man nicht hinterher versucht irgendwie noch fernes in den System reinzukriegen sondern dass von Beginner ein bisschen mitdesignt wann ein System getestet wird welch Kriterien da getestete werden müssen welche Personen verantwortlich sind die das dann auch ausmerzen müssen.
14:40
Speaker 0: also es muss auch einen Plan geben was passiert wenn da ein Weiß drin ist.
14:44
Speaker 0: was machen wir jetzt damit?
14:46
Speaker 0: und Das kann man auch als kleiner Mittelständler machen, das kann man auf Basis von Excel-Tabellen machen wenn man es möchte.
14:52
Speaker 1: Ja also ich um dich ein bisschen raus zu fordern aktuell sieht man ja im Markt und auch auf Basisl der McKinsey Zahlen, Bitcom Zahlen und Co.
15:04
Speaker 1: dass viele Unternehmen schaffen AI zu etablieren.
15:08
Speaker 1: im Sinne von Ich mache mal einen POC, kriegst aber nicht übers POC hinaus.
15:12
Speaker 1: jetzt kommt dabei die Alex und sagt na ihr müsst euch das Thema fern ist auch noch anschauen.
15:17
Speaker 1: fangen wir nicht an, die AI-Projekte zu sehr kompleinsorganisatorisch zu überprüfen.
15:27
Speaker 1: Dass wir ihnen gar nicht die Möglichkeit geben sich zu entwickeln?
15:31
Speaker 0: Du meinst es ist zu sehr aufgeblasen so dass Leute dann eher gar nicht anfangen
15:35
Speaker 1: damit?
15:37
Speaker 0: also für ein POC denke ich braucht man erstmal Den Klien.
15:41
Speaker 0: kann man machen, um den Newscase zu identifizieren ohne dass man den Fairness Gedanken hat.
15:45
Speaker 0: Um herauszufinden lohnt es sich überhaupt in dem Bereich, in einem bestimmten Anwendungszwecken KI-System einzuführen.
15:51
Speaker 0: aber danach wenn man das entweder einkauft oder selber aufsetzt bin ich riesiger Fan davon von Beginn an eine Art Fairness bei Design mit reinzubringen.
16:00
Speaker 0: weil es ist wie wenn du ein Haus baust was barrierefrei sein soll die Barriere Freiheit.
16:05
Speaker 0: baust du auch von Beginnanwit ein dann ist es hinterher sinnvoller und wenn du's hinterher einbauen würdest, kostet Zeit und extra Geld.
16:13
Speaker 0: Also so sehe ich auch Ferne.
16:15
Speaker 0: Wenn du zum Beginn an bisschen mitdenkst und wirklich wegen mir den einfachsten Sachen, dann lohnt sich das mittelfristig schon!
16:22
Speaker 0: Die Projekte bläst es nicht unnötig auf.
16:25
Speaker 0: Man kann einfachste Sachen integrieren, die jetzt nicht unbedingt einen Toolbedarf haben.
16:29
Speaker 0: Ja für größere Anwendungszwecke gibt's auch wunderbare Open Source Fairness Mess Tools, die man einfach nutzen kann wenn man halt Data Science Leute bei sich im Unternehmen hat.
16:39
Speaker 0: aber als winziger Mittelständler mit wenigen Anwendung fällen könnte man sich ein einzelnen Score raussuchen den man testet und den man regelmäßig testet.
16:48
Speaker 1: Jetzt nutze ich Intensivkloat Auch Jachibiti Ich gehe gerade im Kopf durch, ich habe mir nie Gedanken über das Thema Bias bei meinen Anwendungsfeldern gemacht.
17:05
Speaker 1: Also meine Vorbereitung für dich als Gast ist jetzt auch auf Basis von Klub passiert.
17:10
Speaker 1: Da könnt ihr auch ein Bias drinstecken?
17:12
Speaker 0: Bias und Sprachmodellen gibt es!
17:13
Speaker 0: Es gibt eigentlich keine Sprachmodelle die neutral sind.
17:15
Speaker 0: Ja... Es ist total cool, es gibt auch Tools um Sprach-Modelle auf Bias zu testen.
17:20
Speaker 0: also wenn Unternehmen oder Organisation denken Man möchte sich jetzt für ein Sprachmodell entscheiden, also von einem Anbieter entscheiden was man jetzt in Zeit lang nutzt oder wo man sich eine Subscription holt oder Lizenzen und man möchte vielleicht auf einen bestimmten Wert Wert legen wo das eben kein Bias hat.
17:38
Speaker 0: Da gibt es wahnsinnig witzige Tools um Sprachmodell auf Bias zu testen und zwar nicht nur die die verfügbar sind auch eigens fein getunte.
17:45
Speaker 0: da gibt's
17:46
Speaker 1: Warum witzig, ja?
17:47
Speaker 0: Ja es ist ein witziger Output weil was da passiert in diesen Tests.
17:51
Speaker 0: Was die Tools machen.
17:53
Speaker 0: Da haben wir auch eins.
17:53
Speaker 0: deswegen weiß ich das so genau.
17:55
Speaker 0: Es wird so einen Satz aufgesetzt also zum Beispiel wenn man den Gender Bias herausfinden möchte und über verschiedene Sprachmodelle testen möchte dann heißt der Satz zum Beispiel Ein Mann wird nach seinen Taten beurteilt nicht nach sein Worten.
18:08
Speaker 0: Ist ja so ein typisches Sprichwort Naja, also in der heutigen Zeit vielleicht nicht mehr aber war mein typisches Sprichwort.
18:14
Speaker 0: So und dann wenn man das auf Genderwise testen möchte sagt man einmal ein Mann wird nach seinen Taten beurteilt und dann einmal eine Frau wird nach ihren Taten geurteilen.
18:21
Speaker 0: Also man stellt zwei Aussagen auf Und dann maskiert man einen Wort nämlich das Wort taten.
18:28
Speaker 0: Also ein Mann würde nach seinem XYZ beurteilten Nicht nach seinen Worten und einer Frau wird danach beurtheilt.
18:33
Speaker 0: Man lässt die Sprachmodelle diese Lücke ausfüllen wie so eine Art Lückentext und die Sprachenmodelle füllen Tausenden versuchen die Lücke aus und es wird dann eine Wahrscheinlichkeit berechnet zu wie viel Prozent bestimmte Wörter da reingesetzt werden.
18:48
Speaker 0: Ein Mann in dem Beispiel wird nämlich zum Beispiel nach seinem Mut, nach seiner Kraft beurteilt nicht nach seinen Worten also bei diesem maskierten Wort.
18:55
Speaker 0: Eine Frau wird nach ihrer Schönheit verurteilen nicht nach ihren Worten.
18:59
Speaker 0: Und so kann man auch rausfinden wenn Sprachmodelle an ein gewisses Bayes haben aber dann immer nur auf einen Merkmal bezogen.
19:04
Speaker 0: das ist somit intersectionell noch nicht so ideal.
19:09
Speaker 1: Werden dann Entscheidungen getroffen im Unternehmen?
19:11
Speaker 1: Trefft ihr Entscheidungen darüber?
19:13
Speaker 0: Wir treffen damit Entscheidungen, ja.
19:15
Speaker 1: Also ihr würdet das Tool als nicht fair oder nicht ethisch korrekt bewerten und nochmal überlegen wie ihr das korrigieren könnt?
19:24
Speaker 0: Ja es ist so dass es wirklich jetzt kein Sprachmodell gibt was in allen Bereichen neutral ist.
19:29
Speaker 0: ne In irgendeine Richtung schwenkt das immer aus.
19:31
Speaker 0: dazu gibt's einfach viel zu viele Daten Und die verändern sich alle viel zu schnell dass man die komplett neutral hinbekommt.
19:36
Speaker 0: aber nehmen wir ein ganz Präsentes Beispiel.
19:39
Speaker 0: Man würde jetzt als Unternehmen wahrscheinlich nicht auf GROC setzen, wenn man die politische Meinung da nicht unbedingt mitgeht.
19:46
Speaker 1: Was?
19:48
Speaker 0: Nur eine Unterstellung!
19:51
Speaker 1: Verstanden.
19:53
Speaker 1: Du hast einmal öffentlich auf der Bühne auch für Fujitsu gesagt dass wir nehmen nicht an Ausschreibung teil, wenn es primäre Ziel ist menschliche Arbeitskraft zu ersetzen.
20:08
Speaker 1: Spielen wir das einmal durch?
20:08
Speaker 1: Was wäre konkret passiert, wenn ihr das nicht so gestaltet hättet oder kommuniziert hätte.
20:16
Speaker 0: Also ich denke kurzfristig hätten wir da ein mehr Ausschreibung teilgenommen und vielleicht auch die eine oder andere gewonnen.
20:20
Speaker 0: Das wäre das was passiert wäre, hätten wir nicht so einen Codex.
20:26
Speaker 0: Mittelfristig langfristig hatten wir da auch so ein bisschen... Ich meine wir sind japanisches Unternehmen, japanischen Ursprungs.
20:32
Speaker 0: Wir hätten da schon unsere Reputation verloren weil In Japan ist es eigentlich noch viel krasser als in Deutschland, wenn's um Werte geht und um gelebte Werte.
20:41
Speaker 0: Das können wir nicht bringen!
20:43
Speaker 0: Es geht nicht.
20:45
Speaker 1: Ja?
20:46
Speaker 1: Also wie nimmt eigentlich ein Unternehmen dann wahr?
20:48
Speaker 1: Weil die meisten laufen doch gerade dem Thema hinterher Effizienz, Effektivität aufzubauen.
20:54
Speaker 1: Und auf der anderen Seite kommt ihr da nun sagt... Nicht mit uns.
21:02
Speaker 1: Wie reagieren die Unternehmen?
21:05
Speaker 0: eher positiv, zumindest wenn wir das in deutschen Ausschreibungen Europa machen.
21:10
Speaker 0: Wir sind Amerika jetzt nicht so wahnsinnig vertreten da wäre es wahrscheinlich anders.
21:13
Speaker 0: aber bei uns ist das auch nicht so dass wir das irgendwo hingeschrieben haben.
21:17
Speaker 0: und dann wird gesagt jeder muss sich dran halten und es ist ein bisschen schwierig ob sie wirklich dran gehalten wird oder nicht sondern wir sind da in dem Bereich Fairness und eigentlich unsere eigenen Ethik.
21:27
Speaker 0: Ein wahnsinniger Vorreiter.
21:28
Speaker 0: Wir haben im Jahr two-zig-neunzen schon ein eigenes Ethics-Commitment veröffentlicht, dass wir KI ausschließlich entwickeln werden um sie den Menschen zu Nutze machen und für nichts anderes.
21:38
Speaker 0: Und wir haben uns selber dann zu kontrollieren das wir uns selber dran halten einen Ethics Komitee gegründet ebenfalls zwei-zig neunzen also wirklich lange bevor der EUI überhaupt Buchreifer.
21:48
Speaker 0: und dieses Komiteebestand aus sowohl internen Leuten die uns selber überwacht haben als auch extern die wir dafür bezahlt haben uns zu überwachen wie wir nach unseren eigenen Ethics-Commitment leben.
21:59
Speaker 0: Und das gibt es, glaube ich in der Branche kein zweites Mal.
22:03
Speaker 0: Das ist so... Es ist ja französisch daneben!
22:06
Speaker 0: Das ist irgendwie eine andere Art und Weise, wie man da agiert.
22:11
Speaker 1: Es gibt ne Gegenposition die ich immer wieder höre auch von einigen meiner Gästen eher aus dem Mittelstand, die so n bisschen sagen dass ne Bayes Diskussion ja schon nen Luxusprobleme ist.
22:26
Speaker 1: Das ist das, was ich versucht habe auch vorhin zu frame.
22:29
Speaker 1: Die kämpfen ganz viel mit ihren ETL-Pipelines also versuchen überhaupt erst mal Daten zusammenzukriegen und dann wird jetzt schon über das Thema Fairness debattiert obwohl es Fundament noch nicht mehr richtig ist.
22:41
Speaker 1: Also ich finde diese Eventualitäten durchzudiskutieren wenn man die Gegentehse aufsteht für man macht's einfach mal kann auch verhindern sein.
22:52
Speaker 0: Ja bei so einer Gegenteese Das ist zum Teil, also zum Teil stimm ich da erstmal zu.
22:57
Speaker 0: Die Reihenfolge ist schon ultrarelevant.
23:00
Speaker 0: Also solange man nicht irgendwo eine vernünftige Datenstrategie hat oder das alles so ein bisschen geordnet hat kann man auch gar keine Fairness-Analyse machen.
23:07
Speaker 0: Also das muss natürlich davor stehen und dennoch bin ich der Meinung dass Fairness... Gerade wenn man dabei ist, so eine Pipeline aufzubauen und seine Systeme zu ordnen und die Zugriffe zu ordnend.
23:21
Speaker 0: Dann ist das genau der richtige Zeitpunkt um fernes da von Beginn an mit reinzudesiehen.
23:25
Speaker 0: Wegen mir als simples Steps kann man ja später dann ausbreiten, wenn es irgendwie größer wird oder wenn sich die Anwendungszwecke verändern oder größer werden.
23:33
Speaker 0: Aber von Beginen an.
23:33
Speaker 0: das Reinzudesign ist immer cleverer als das Hinterherversuchung irgendwie wieder rauszukriegen, wenn da mal ein Skandal passiert ist.
23:43
Speaker 0: Prävention kostet um Welten weniger.
23:44
Speaker 0: Ein ganzes, normales Fairness Assessment oder so ein Bias Assessment oder Audit kostet irgendwas zwischen fünf und fünfzigtausend Euro also je nach Unternehmensgröße und je nach KI-Größe.
23:55
Speaker 0: Also definitiv überschaubar und es dauert eine Woche bis vier auch wieder je nach Größe.
24:01
Speaker 0: Aber wenn das mal ein Bayer-Skandal da ist, dann hast du den Reputationsschaden der dir irgendwie einen Kursverlust von dreißig Prozent im Quartal bringt.
24:08
Speaker 0: Dann hast du andere Probleme?
24:10
Speaker 0: Dann hast Du vielleicht Haufen Bewerber die Du abgelehnt hast obwohl sie perfekt zu deinem Unternehmen gepasst hätten.
24:15
Speaker 0: also dass viele Nachteile und vielleicht sogar noch ein rechtliches Problem weil Du irgendwo gegen den EUI verstoßen hast was dann auch nochmal teuer wird.
24:24
Speaker 0: es lohnt sich einfach das von Beginn an mitzudenken und mitzudesagen.
24:29
Speaker 1: Jetzt bist du in dem Markt unterwegs und siehst viele Kunden.
24:31
Speaker 1: Ist deine Wahrnehmung, dass da viel Nachfrage existiert?
24:35
Speaker 1: Du hast die vierhundert Keynotes gemacht!
24:37
Speaker 0: Ja was denkst du warum ich so viel mache?
24:40
Speaker 1: Okay kann ich mir die Frage jetzt einfach beantworten.
24:43
Speaker 1: Also was ist der typische Vortrag, den du in diesem Sinne hältst?
24:49
Speaker 1: also was ist dein Zielpublikum?
24:51
Speaker 1: wer interessiert sich für das Thema?
24:53
Speaker 1: Wer applaudiert Standing Ovation wenn Alex nicht zum Thema Fernis mal ausgesprochen.
25:00
Speaker 0: Die Leute, denen das vorher nicht bewusst war und es sind leider die Mehrzahl und dass ist auch der Grund warum ich weiter Kinoshalten muss über das Thema weil diese Erleuchtung zu haben, dass das notwendig ist, dass man an Fernis denken muss, dass Man die Ethik von Beginn an mit reindesignen muss und jetzt gar nicht nur aus diskriminierenden Aspekten sondern auch aus bilanziellen Aspektern.
25:21
Speaker 0: also in meinen Vorträgen bereite ich beides auf einmal so die EUI-Extseite.
25:25
Speaker 0: Wie kriegt man die Diskriminierung weg?
25:27
Speaker 0: Man möchte ja niemanden diskriminieren.
25:29
Speaker 0: Aber auch welche Auswirkungen hat das auf der bilanziellen Seite, wenn ich von Beginn an Fernes in mein KI-System hab, diese Erleuchtung zu sehen, das motiviert die Leute hoffentlich, sich mit dem Thema auseinanderzusetzen.
25:45
Speaker 1: Wenn deine These stimmt, responsible AI ist so ein bisschen ... der Wettbewerbsfaktor oder bei euch ein bisschen so der Hygiene Faktor auch und nicht nur im Komplex Thema.
25:55
Speaker 1: Warum baut es dann eigentlich jetzt gerade doch nicht jeder?
25:59
Speaker 0: Oh, das hat viele Gründe!
26:01
Speaker 1: Weil du bist ja die Nische in der
26:02
Speaker 1: Nische?!
26:03
Speaker 0: Ja... Also im Grunde hat dieses Fairness, AI-Fairness-Thema jeden Markel, den ein Thema haben kann.
26:11
Speaker 0: Also wir haben ein fehlendes Anreizsystem.
26:14
Speaker 0: Ich glaube nicht dass irgendein CDO in irgendeiner Unternehmung oder eine Organisation dafür bezahlt wird das dein Bayer-Score sinkt.
26:20
Speaker 0: Ganz im Gegenteil es zählt Time to Market.
26:23
Speaker 0: und wenn man da noch...
26:24
Speaker 1: Genau ich bin in der Position mich hast du jetzt noch nicht überzeugt weil ich den wie du sagst ja also würde mein Time To Market verändern.
26:34
Speaker 0: Anreizsystem haben wir also schon mal nicht, das ist schon mal das größte Problem.
26:38
Speaker 0: Dann haben wir eigentlich gar kein Fairness KPI.
26:40
Speaker 0: Fairness ist halt kein Wert, es ist eine Entscheidung.
26:43
Speaker 0: Fairnes kann man nicht einfach in dem Algorithmus verankern.
26:46
Speaker 0: Man kann für Fairness nicht einen generischen KPI generieren der messbar ist.
26:51
Speaker 0: Wir haben für alles ein KPI, für CO-Zwei-Ausstoß für Abgaswerte, wir haben Diversity-Dashboards , wir haben DSGVO Auswertung aber für AI-Fairness haben wir das noch nicht.
27:03
Speaker 0: Kein nix richtig messbares.
27:05
Speaker 0: Man kann für sich selber im Unternehmen eine Art Governance Health Score entwickeln, dann ist es aber auch nicht vergleichbar mit anderen.
27:11
Speaker 0: Aber es ist auf jeden Fall ein Schritt, aber ja... Es fehlt der KPI.
27:16
Speaker 0: Oft ist so das Thema Fairness oder Ethik auch irgendwo im CSA-Bereich von Unternehmen verankert Also in irgendeiner Ecke gesteckt womit man am liebsten nichts mit zu tun haben möchte, ich denke das sollte viel weiter oben hängen.
27:29
Speaker 0: Also dieses Thema sollte unbedingt irgendwo direkt unter dem Vorstand hängen weil sonst wird er auch nie Budget dafür locker gemacht oder wird nie Verständnis dafür gezeigt dass man da was machen muss und Data Scientist denen das Thema bewusst ist und die Vorstellen die dann die Entscheidung treffen was zu kaufen.
27:46
Speaker 0: die sprechen eine komplett andere Sprache.
27:48
Speaker 0: auf der einen Seite haben wir Umsatz und Marge auf der anderen Seite haben so etwas wie Precision und Zeug.
27:54
Speaker 0: Und das zu übersetzen, das passiert in vielen Organisationen nicht.
27:59
Speaker 0: Da sehe ich auch ein bisschen meine Aufgabe da irgendwie zu vermitteln damit es passiert.
28:05
Speaker 1: Ich habe am Anfang als der AI-Hype noch mal viel stärker war schnell einige AI Boards leiten dürfen oder ein bisschen mit aufbauen dürfen In meiner Funktion und hab immer wieder festgestellt dass viele den Fehler machen.
28:21
Speaker 1: eine Frage, wie du es siehst.
28:24
Speaker 1: Die Chancen und die Risiken im gleichen Kremium zu besprechen?
28:28
Speaker 0: Ja!
28:30
Speaker 0: Weil die Ansprechpartner auch unterschiedliche sind... ...die
28:33
Speaker 1: sollten auch unterschiedlich sein.
28:34
Speaker 1: und jetzt haben wir uns vorhin über Sport unterhalten.
28:40
Speaker 1: Und wenn ich mit dir darüber spreche welche Risiken dein Sport hat gleichzeitig aber auch welches Potenzial das hat habe Ich bei dir doch schon Bayes gesetzt also dass immer der Sprechen mehr gerade über den bayes.
28:51
Speaker 1: also Mit dir darüber zu sprechen wie Schlecht es eigentlich ist als Frau, um jetzt irgendwie ein ganz schlimmes Klischee zu spielen.
28:59
Speaker 1: Nachts alleine joggen zu gehen.
29:01
Speaker 1: Dann aber dir zu sagen... Es macht doch total Sinn joggenzugehen!
29:04
Speaker 1: Ist die Motivation glaube ich nicht mehr so hoch joggenzugehen?
29:07
Speaker 1: So in dem gleichen Gremium wird über Fairness gesprochen, über DSGVO IT Security, wie trainiert man sich Modelle und was ist eigentlich das Budget?
29:16
Speaker 1: Und auf der anderen Seite sitzen im gleichen Gremlin Personen, die sich dann darüber Gedanken machen müssen Wie kann ich eigentlich die Firma weiter nach vorne bringen?
29:22
Speaker 1: Das wird nicht funktionieren.
29:23
Speaker 0: Ja,
29:24
Speaker 1: ich
29:25
Speaker 0: würde das sogar noch ergänzen wollen.
29:27
Speaker 0: Ich denke es liegt sogar noch dran daran dass alle Beteiligten im Gremium in dem Unternehmen arbeiten.
29:33
Speaker 0: Es braucht auch da eine externe Perspektive der das beurteilen kann ob das ein Data Scientist ist oder einen Berater aber ohne das KI-System, was angeschafft werden soll oder was angenschaft wurde, intern zu verteidigen.
29:46
Speaker 0: Bei dem ist es im Zweifel egal ob das bleibt oder nicht.
29:49
Speaker 0: Wenn er so viele Risiken hat dann kann der ein bisschen neutraler beurteilen, ob das wechselt oder nicht.
29:54
Speaker 0: aber da wird wirklich noch eine ganze Menge Fehler gemacht in diesem Bereich.
29:59
Speaker 1: Jetzt entwickelt sich im Markt ja immer wieder das Thema AI.
30:03
Speaker 1: Man sieht es im Thema Data, früher hat sich keiner über Datacatalog Gedanken gemacht jetzt gibt's Data Governance, jetzt entstehen Data Governments Boards.
30:12
Speaker 1: Jetzt stellt ihr vor wir würden in drei oder sechs Monaten vielleicht einmal und einmal in zwei Jahren wieder eine gemeinsame Folge machen.
30:21
Speaker 1: Siehst du schon weitere Trends die sich in dem Bereich entwickeln?
30:25
Speaker 0: Ich sehe auf jeden Fall bei größeren Konzernen, dass sie sich jetzt mit dem Thema beschäftigen.
30:29
Speaker 0: Dass manche vielleicht auch gleich das sehr groß aufziehen mit irgendwelchen Ethics-Boards.
30:34
Speaker 0: aber ich sehe, dass das Thema so weit angekommen ist, dass zumindest im Hinterkopf es... Wir müssen da an was denken.
30:42
Speaker 0: Und dafür sorgt auch der EUI-Aktion.
30:44
Speaker 0: mal ganz ehrlich, da kann man davon halten, was man möchte aber es ist eine Regulierung.
30:49
Speaker 0: Es hat harte Deadlines wann man etwas umzusetzen hat.
30:51
Speaker 0: natürlich sorgt das dafür dass Leute einfach eine gewisse Erwärmung kriegen.
30:57
Speaker 1: Das heißt die Entwicklung siehst du trotzdem?
30:58
Speaker 0: Ja
31:00
Speaker 1: Jetzt bin ich CDU im Mittelstand und würde morgen wieder zur Arbeit gehen und mich genau um das Thema AI Fairness kümmern.
31:10
Speaker 1: Was wären so die ersten drei Schritte, die du sehen würdest?
31:16
Speaker 0: Ein Bayes Audit.
31:18
Speaker 0: Wenn du noch keins gemacht hast einfach mal anstoßen.
31:20
Speaker 0: Einfach mal schauen was verschiedene KI-Systeme im Einsatz geh ich davon aus da mal ein Auto drüber laufen lassen kann auch erst mal ein kleines sein.
31:28
Speaker 1: Was ist ein Kleines Audit?
31:30
Speaker 0: also wir können es wirklich sehr simpel aufziehen.
31:33
Speaker 0: und okay dann lass uns einen sehr einfachen Test machen.
31:37
Speaker 0: Also es gibt eine Score den man wirklich sehr pragmatisch einfach mal auf sein KISystem anwenden kann.
31:44
Speaker 0: Der heißt DER, Disparate Impact Ratio.
31:49
Speaker 0: Abkürzung!
31:53
Speaker 0: Okay jetzt bleiben wir einmal bei dem Beispiel Recruiting System.
31:55
Speaker 0: Ihr habt bestimmt ein Recruitting System.
31:58
Speaker 0: Jetzt kann man das ganz einfach einmal testen.
32:01
Speaker 0: Bleiben wir ebenfalls beim Beispiel Männer-Frauen.
32:03
Speaker 0: Ihr habt Bewerbung von Männern, die geschickt wurden.
32:07
Speaker 0: Und das System hat anhand dieser Bewerbungen entschieden wer zu einem Bewerbsgespräch eingeladen wird.
32:11
Speaker 0: Jetzt wurden beispielsweise zweiundachtzig Prozent der männlichen Bewerber zum Bewerbesgesprich eingeladen und achtundfünfzig Prozent des weiblichen Bewebers.
32:20
Speaker 0: Dieser DER errechnet sich durch die Erfolgsquote der schlechter gestellten Gruppe geteilt durch die erfolgsquote der bessergestellte Gruppe also achtund fünfzig durch zweiundachzig ist in dem Fall etwas knapp über zero Komma sieben etwa siebzig Prozent.
32:34
Speaker 0: Jetzt gibt's so eine Daumenregel, wenn dieser Wert der rauskommt unter Nullkommar Acht ist dann hat man wohl ein Bayeres Problem.
32:40
Speaker 0: Es sein es gibt ne Begründung dafür.
32:42
Speaker 0: das kann manchmal auch sein aber in dem Fall wäre es wahrscheinlich gäbe es wahrscheinlich keine Begründen.
32:47
Speaker 0: Die Nullkommer Acht des ist der Daumenwert der ist sogar in amerikanischen Gesetzen festgelegt.
32:51
Speaker 0: also der ist relativ valide.
32:54
Speaker 0: da kann man sich natürlich ein bisschen drüber streiten.
32:56
Speaker 0: aber du wolltest ja einen sehr einfachen Daumenwerk machen und der zeigt dann ganz klar an Dass du dich in dem Bereich vielleicht mal mit einem Beiß auseinandersetzen solltest, dass du da ein intensiveres Audetrüber laufen lassen kannst.
33:07
Speaker 0: Und der sagt allerdings nicht... Also wenn der Wert jetzt über Nullkommaracht wäre zwischen Nullkommeracht und Eins was ja dann eigentlich fast quasi kein Beiß wär, heißt das aber immer noch nicht, dass Du keinen Beiß hast?
33:17
Speaker 0: weil es kann ja immer noch ein intersectional Beiß sein.
33:19
Speaker 0: also eins was erst auftaucht wenn Du zwei oder mehr Attribute miteinander kombinierst.
33:23
Speaker 0: Aber Du wolltest jetzt eine sehr einfache Rechnung?
33:25
Speaker 0: Ja Damit wär's möglich!
33:26
Speaker 0: Das kannst Du morgen sofort machen.
33:31
Speaker 1: Komme ich aber dann nicht in die Versuchung, alles zu hinterfragen?
33:35
Speaker 0: Schade es.
33:37
Speaker 1: Der Zeit!
33:40
Speaker 1: Also ich nehme mir bewusst jetzt sozusagen die Gegentehse oder die Gegenposition auf also das was mich im Mittelbestand beschäftigt Das was mich in anderen Themen beschäftigt ist.
33:52
Speaker 1: Ich muss die richtigen Entscheidungen treffen in einer gewissen Zeit und mein Wettbewerb entweder gleich oder einen Vorteil haben Wenn ich mich mit dem Thema beschäftige, nicht dass ich mich nicht damit beschäftigen möchte.
34:04
Speaker 1: Aber auch da wieder Pragmatismus umso mehr und um so tief man natürlich in dieses Thema abbiegt.
34:10
Speaker 1: Umso mehr könnte es kritisch sein der Zeit gegenüber.
34:16
Speaker 1: Es sind immer wieder begrenzte Ressourcenkonzernen kann man darüber diskutieren.
34:19
Speaker 1: Ich finde einen spannenden Punkt den man sich aber einmal angucken muss.
34:22
Speaker 1: wo ich deine These kaufe ist dieser Punkt der zu verstehen das jedes Modellen bei es hat Beispiel Schicken Open AI oder Entropic macht hundertmal.
34:37
Speaker 1: erstelle mir ein Bild einer Arztgruppe.
34:40
Speaker 0: Ja,
34:40
Speaker 1: guck was rauskommt.
34:41
Speaker 1: da weiß man ja ich glaube Microsoft und sowas hat sich schon bewusst dafür entschieden dem bei es so zu drehen dass er extrem sozusagen divers ist kann dazu kommen.
34:56
Speaker 1: das du wenn eine Familie prompt ist.
35:00
Speaker 1: Ich hoffe, ich erkläre das jetzt sozusagen politisch korrekt.
35:03
Speaker 1: Aber jemand mit dunkler Hautfarbe ist, jemand mit heller Hautfarben und des Kind aber dann irgendwie eher nach chinesisch oder koreanisch aussieht um Hauptsache sehr divers zu sein finde auch smart spiegelt nicht immer die Realität wieder.
35:22
Speaker 1: Das muss man natürlich auf der einen Seite beachten Und dann weiß man auch in welche Richtung man ja theoretisch geht.
35:27
Speaker 1: warum Jetzt nutzen die meisten Leute ja Generative AI, um irgendwie Texte zu erstellen.
35:34
Speaker 1: Und ab dann fängt ja an zu verstehen wie ein Weiß tickt und auf was man eingehen will.
35:38
Speaker 1: weil ich fand da ein Beispiel gut des Recruitments.
35:42
Speaker 1: aber der meiste Punkt und der Punkt der glaube ich für die meisten Anwender interessant ist es eher Texterstellung, Bilderstellung wo extrem viel passieren kann.
35:52
Speaker 0: Ja das ist komplexer offenbar als zu testen.
35:55
Speaker 0: Da gibt's eben nicht einfach diesen Score.
35:58
Speaker 1: Ich wollte auch
36:00
Speaker 0: was Einfaches.
36:01
Speaker 0: Du wolltest ein einfaches Beispiel und du meintest am Anfang, bringt das nicht unheimlich viel Verzögerung mit rein?
36:07
Speaker 0: Kann man sich das leisten?
36:09
Speaker 0: Und du hattest Sorge dass alles hinterfragt wird?
36:11
Speaker 0: Ja ich denke es bringt einen größeren Vorteil die Sicherheit zu haben, dass man in dem Bereich komplett ist und vor allem auch die Sicherheit so haben dass man den Bereich sich selber keinen Nachteil bringt.
36:24
Speaker 0: weil was bringt dir das als Unternehmer Wenn du in Haufen gut qualifizierter Frauen aussortierst bei deinem KI-System, die Lebensläufe nicht weiterstecken.
36:32
Speaker 0: Also kannst du dir das leisten diese guten Bewerberinnen auszusortieren und wenn du es halt testest oder eine Art Policy as Code mit reinbringst also automatisierte Tests die dann halt einfach laufen und dir nur eine Warnmeldung geben wenn's irgendwie ne falsche Richtung abdriftet Dann haste halt nicht die Fehler die passieren können Die anderen eben passieren.
36:55
Speaker 1: Ich habe jetzt ein Interview gegeben für eine große Messe.
36:59
Speaker 1: Und da wurde ich auch gefragt, was und wo würde ich AI nie einsetzen?
37:04
Speaker 1: Das ist ja die Personalentscheidung!
37:06
Speaker 1: Also ich glaube, ich wäre kein großer Freund von AI im Recruitment.
37:11
Speaker 0: Ich glaube es passiert aber sehr häufig.
37:12
Speaker 1: Ja, ich glaube so.
37:14
Speaker 0: Es war auch zu Recht in einem laut EU-Eihekt Hochrisikosystem.
37:19
Speaker 0: Aber wenn man das dokumentiert geht's auch.
37:24
Speaker 0: Es bringt Effizienz, dass wir es durch Arbeitsunternehmer... Wenn du dann noch darauf achtest, dass du die Fairness ein bisschen mit einbaust bei Design ist das schon in Mehrwert.
37:36
Speaker 0: Du könntest Leistungsbeurteilung damit machen lassen nicht nur im Rekruting sondern über die gesamte HR bezogen.
37:46
Speaker 0: Bisschen automatisierter, spart deinen Führungskräften wieder Zeit.
37:50
Speaker 0: also wenn man es vernünftig aufsetzt finde ich den Anwendungswerk gut aber eben nicht weil Leuten die Fairnes nicht mitdenken und die sich nicht Gedanken machen, wie sie das automatisiert in die Entscheidungsprozesse mit einbauen können oder wie Sie den human-in-the-loop einbinden können der die Entscheidungsprozesse immer mal kontrolliert.
38:08
Speaker 1: Ich würde sogar eher umdrehen und darüber hatten wir uns ja auch so bisschen im Vorgespräch gerade eben noch unterhalten.
38:14
Speaker 1: ich würde AI dafür nutzen zu überprüfen ob ich selber ein Bayes habe.
38:20
Speaker 1: Ich bewerte zehn meiner Führungskräfte davon sind zwei immer mega gut und die restlichen nicht so gut.
38:29
Speaker 1: Oder es sind zwei immer ganz schlecht, und alle anderen sind okay.
38:35
Speaker 1: Das Pattern ist mir vielleicht selber nicht bewusst Und dafür würde ich gerne eine AEI einsetzen.
38:42
Speaker 1: Also wird das Spiel gerne umdrehen und sagen hey pass auf Ich selber muss darüber prüft werden ob ich ein beiß haben.
38:47
Speaker 1: also ich weiß also ich kann mir sehr sehr gut vorstellen dass Es einige Themen gibt wo ich sensibler reagiere wo ich anders drauf anspringe wie ich mit Menschen umgehe, wenn mir jemand sympathisch ist.
39:04
Speaker 1: Und das ist ein guter Punkt, den man sich anschauen
39:06
Speaker 1: sollte.".
39:07
Speaker 0: Das finde ich eine grandiose Idee!
39:10
Speaker 0: Bin ich noch nie darauf gekommen mich selber zu kontrollieren?
39:12
Speaker 0: Ich vertraue mal mein Bauchgefühl ganz gut.
39:14
Speaker 0: Ich weiß es sollte man nicht.
39:18
Speaker 1: Weil sind wir alle nicht mit einem Bayes erzogen worden?
39:20
Speaker 0: Natürlich Wir sind ja das Abbild der letzten sieben Generationen die uns geprägt haben.
39:25
Speaker 0: also wir haben ja zum Teil noch Bayers von Generationen, die haben wir nie kennengelernt.
39:32
Speaker 1: Ich hatte was ganz, ganz Interessantes.
39:36
Speaker 1: Jetzt wird es persönlich... ich bin letztens geflogen und bin eingestiegen, war so ein bisschen in den Gedanken und habe irgendwo mein Koffer weggebracht und im Flieger saßen auf der rechten Seite eine Familie wo ich selber gedacht hätte dass die vielleicht einen Migrationshintergrund haben oder sowas.
40:01
Speaker 1: Und der Mann hat mich auf Englisch angesprochen.
40:06
Speaker 1: Wir waren in Deutschland, wir sind irgendwo nach Deutschland wieder geflogen und sprichten ja auf Englisch an.
40:10
Speaker 1: Und ich guckte und überleg kurz... ...und dachte dann kurz okay ist der englisch?
40:15
Speaker 1: Und wollte da noch auf englische antworten und merkte dann eigentlich wie sehr gebrochen sein englisches gar nicht negativ und reagiere auf deutsch.
40:24
Speaker 1: und dann dachte ich auch durch welches Verhalten vielleicht mein aussehen weil ich habe gar nichts anderes großes gemacht Ich hab mich mit ihm geredet war die wahrnehmung dafür dass ich in englisch angesprochen wurde.
40:39
Speaker 1: und dann dachte ich eigentlich schade Und was für ein bayes muss er haben?
40:46
Speaker 1: Dann war ich jetzt letzte woche auf dem datameter in berlin und Mich hat jemand begrüßt und der hat nicht gut deutschenglisch nicht zu gut deutsches gesprochen und ich habe irgendwann angefangen auf englische antworten aus höflichkeit aber merkte auch der konsequent weiter deutschgesprachen wie Was für ein beies ich da auch.
41:14
Speaker 1: irgendwie hatte in dem moment der personen Irgendwie entgegen zu kommen und vielleicht hat die persone auf der anderen seite sich damit signalisiert gefühlt Das deutsch ist nicht gut.
41:26
Speaker 1: was was ich hier gerade spreche mit ihm.
41:28
Speaker 1: Es war auch eigentlich irgendwie falsch und ich glaube das ist so ein bisschen der punkt.
41:31
Speaker 1: also Wenn wir uns über sport unterhalten, ich glaube eines der wichtigsten punkte finde Ich im leben ist besser zu werden selber zu verstehen wie man wie man besser wird wie man sich selber verbessert.
41:41
Speaker 1: Und dann sollte man sich selber hinterfragen, wie und in welcher Form kann eigentlich AI-Helven mir besser zu machen?
41:49
Speaker 1: Und den Beiß bei einem selber wegzubekommen.
41:52
Speaker 1: Ich glaube wir leben gerade – jetzt wird's schlimm, wo ich jetzt abtrifte – aber wir leben glaube ich gerade in einer Welt, wo es nicht gutes Beiß zu haben.
42:01
Speaker 1: Also wir merken grade dass viele so ihre einen zu unterschiedliche Ansichten zu Themen haben mit Vorurteilen, die eigentlich hätten gar nicht sein müssen.
42:10
Speaker 1: Wir hinterfragen generell zu wenig?
42:14
Speaker 0: Ich weiß nicht ob das jetzt nur die Zeit ist oder ob die Zeit das einfach nur sichtbar macht weil Social Media so groß ist dass wir so unterschiedliche Meinungen haben und dass Leute auch gedanklich abdriften in manche Bubbles in die man gar nicht rein möchte.
42:30
Speaker 0: vielleicht ist es einfach nur die Sichtbarkeit die zurzeit ein Stückchen größer ist Und ich bin mir sicher, ob man ein Sprachmodell nutzen sollte um sein eigenes Beis zu überprüfen.
42:39
Speaker 0: Solange man nicht weiß auf die Version des Sprachmodells weiterhin so neutral ist wie wir es ihr unterstellen.
42:45
Speaker 0: weil natürlich jetzt für die aktuell Gängigen gibt's natürlich Assessments die zeigen in welche Richtung die vielleicht eher gehen.
42:53
Speaker 0: das die alle recht politisch neutral sind bis auf eins aber alle anderen sind eher so ein bisschen in die linke links grüne Richtung gepackt wobei auch eher die amerikanische links-grüne Richtung, nicht die deutschen links- grüne Richtungs auch noch komplett unterschiedlich.
43:07
Speaker 0: Und da weiß man halbwegs was einen da erwartet.
43:10
Speaker 0: Man weiß ja überhaupt nicht, was morgen passiert und die Leute, die in diesen großen Unternehmen dafür verantwortlich sind diese Neutralisation des Sprachmodells zu machen das sind eine Handvoll Leute.
43:22
Speaker 0: Die neutralität eines sprachmodels und dass das da keine Vorurteile in irgendwelche Richtungen drin sind liegt in der hand von wenigen Personen.
43:31
Speaker 0: Wenn die morgen durchdrehen, dann hat ein Sprachmodell nen Bayes was in ne ganz andere Richtung geht.
43:38
Speaker 0: Das kann komplett nach rechts gehen das kann komplett sexistisch Frauen verendlich werden und wir haben ja dass alle nicht in der Hand benutzen.
43:45
Speaker 0: wir konsumieren das ja nur.
43:48
Speaker 1: Ja stimmt Ich glaube, das ist ein wichtiger Punkt.
43:50
Speaker 1: Ich glaube was massiv wichtig war in der Folge und da wollte ich gar nicht sozusagen deine Position angreifen aber klar zu machen, glaube ich dass wir da immer noch praktisch mit Testmus brauchen.
43:59
Speaker 1: Das habe ich uns allen klar, das hast du glaube ich am Anfang gut gesagt.
44:02
Speaker 1: dieses Fairness gilt nicht nur im AI Bereich sondern Fairness gilt für alles Und in dem Zug sollten wir uns auch Gedanken machen wie wir fair zu anderen Menschen sind.
44:13
Speaker 1: Aber auf der anderen Seite vor allem jetzt wo wir Tools nutzen die vielleicht Menschen beurteilen, Tools nutzen Die vielleicht für uns Entscheidungen treffen, sollten wir auch hinterfragen.
44:21
Speaker 1: Wie sind die?
44:25
Speaker 1: So die zwei letzten Fragen, die ich ja jedem Gast oder hier Gästin stelle ist... Was machst du noch privat mit Daten?
44:34
Speaker 1: Ich sehe oder die Hörer und Hörerin, die das Video anhaben sehen glaube ich deine Woop am Oberarm Aber was sonst doch?
44:40
Speaker 1: Oder ist es die Woop?
44:42
Speaker 0: Ich arbeite sehr stark sowohl an meiner psychischen als auch physischen Stärke.
44:47
Speaker 0: Also mein Ziel ist es stärker zu werden komplett Und da hilft mir Tracking meiner Gesundheitsdaten.
44:54
Speaker 0: Also ja, du siehst das Woop!
44:55
Speaker 0: Ich trage meinen Schlaf, mein Schlaf ist auch Priorität Nummer eins also das wir heute zu so noch späten Stunden aufnehmen.
45:01
Speaker 0: Wirklich?
45:02
Speaker 0: Ja.
45:02
Speaker 0: Ich gehe normalerweise um einundzwanzig Uhr ins Bett.
45:04
Speaker 0: ich muss wirklich früh schlafen, ich stehe auch sehr zeitig auf aber... Was
45:07
Speaker 1: steht's auf?
45:08
Speaker 0: Ähm herr gegen fünf.
45:09
Speaker 0: Also was heißt ihr jetzt?
45:10
Speaker 0: halt ihr was?
45:11
Speaker 0: Braue einfach viel Schlaf macht viel Sport, mein Körper braucht viel Ruhe.
45:13
Speaker 0: Also ähm ich trage das alles.
45:16
Speaker 0: Schlaf und Ski Schlaf, Ernährung, Supplements.
45:18
Speaker 0: Und ich hab noch eine weitere Sache.
45:21
Speaker 0: Ich geh alle sechs Monate zu einer sehr guten Funktionalmedizinerin und das mehr die Blutwerte, die für Wichtigheit und die sie für Wichtigkeit, wir einigen meistens uns irgendwann auf dem Bild aus die Kommolette einmal checken damit ich meine Supplementierung in meiner Ernährungsweise komplett wieder darauf anpassen kann und darauf einstellen kann.
45:37
Speaker 0: also da sind mir Daten ultra wichtig.
45:41
Speaker 0: oder auf der anderen Seite bei allen Hobbys, die ich mache liebe ich es komplett offline zu sein.
45:46
Speaker 0: Es ist schön, wenn meine Tracker das alles mitmessen und es kann ich hinterher auswerten.
45:50
Speaker 0: Super aber ich surfe zum Beispiel sehr gerne und den Sport habe ich mir ausgesucht weil man nicht weiter vom Handy weg sein könnte als im Wasser.
45:58
Speaker 0: Bei jeder anderen Sportart hast du das Handy irgendwo dabei.
46:00
Speaker 0: Im Gym hast du's dabei beim Laufen oder im Auto.
46:05
Speaker 0: Beim Spielfeldrand, wenn du ein Beispiel hat, liegts daneben.
46:08
Speaker 0: Beim Surfen liegt noch nicht mal am Strand, weil man es da nicht liegen lassen kann.
46:11
Speaker 0: Es liegt irgendwo Meter weit weg, Kilometer weit weg im Hotelzimmer.
46:14
Speaker 0: Man kann komplett offline sein und das Leben genießen Und mit so ein bisschen Disziplin geht's auch bei anderen Sportarten Was mir aber manchmal schwerfällt.
46:22
Speaker 0: Deswegen ist das Surfen eher
46:24
Speaker 1: Cool.
46:25
Speaker 1: So jetzt bin ich gespannt auf den Filmtitel.
46:27
Speaker 1: Hat das was mit Surfen zu tun?
46:31
Speaker 0: Könnte ja Ich hab mir aber einen anderen überlegt.
46:34
Speaker 0: Ja Ich habe mal wieder auch ein bisschen Vorbereitung auf meine Slams und unserem Podcast das Buch Invisible Women durchgelesen, wo es nur darum geht, wo Frauen in Daten überall unterrepräsentiert sind.
46:46
Speaker 0: Was sich natürlich auf KI-Systeme wieder auswirken kann.
46:49
Speaker 0: Deswegen wäre mein Filmtitel wohl Invisible Woman.
46:52
Speaker 0: Das ist meine Aufgabe, dass die nicht mehr Invisible sind!
46:58
Speaker 1: Dann fasse ich gerne mal die Folge zusammen und du sagst sozusagen mein Fazit und dann kannst du sagen ob ich irgendwas vergessen hab Alex?
47:05
Speaker 1: Ich glaube, das Thema Fairness sollten wir im privaten genauso wie im AI Bereich umsetzen und bewerten.
47:14
Speaker 1: Fair ist in unterschiedlichen Perspektiven unterschiedliche Sichtweisen.
47:17
Speaker 1: man muss also für sich selber erstmal definieren was bedeutet fair?
47:21
Speaker 1: Das muss man vielleicht auch vor allem im Unternehmen Kontext dann transparent kommunizieren Und auf der Basis sollte man dann auch die AI Anwendungen auf Basis des EU-AI Acts aber auch auf Basis sozusagen General Responsible AI einzusetzen, ja dann zu realisieren.
47:43
Speaker 1: Das kann über den Recruitment-Prozess sein, über den DIER wo man sich sozusagen den Wert ausrechnen kann um zu bewerten geht es in die richtige Richtung, aber auf der anderen Seite kann Large Language-Modul, wo man selber weiß wie bei es das ist.
48:06
Speaker 1: Selber bewerten ob man selber bei es ist und auf der Basis dann sozusagen Entscheidungen treffen.
48:11
Speaker 1: Es wird im großen Kontext immer eine Rolle spielen genauso wie Data Governance bei Data Projekten eine Rolle spielt.
48:20
Speaker 1: aber die Frage ist jedes Unternehmen soll es einsetzen?
48:23
Speaker 1: Aber die Frage is' Wie tief setzt man und wie umfangreich setzt man eigentlich das Thema ein?
48:27
Speaker 1: Das ist was wir aus der Folge rausnehmen.
48:29
Speaker 0: Gut zusammengefasst!
48:31
Speaker 1: Dann vielen Dank für die Folge
48:33
Speaker 0: Danke dir.