Latest / KI Espresso / 72 Prozent — in 25 Minuten, ohne dass ein Mensch dabei ist

Transcript

72 Prozent — in 25 Minuten, ohne dass ein Mensch dabei ist · KI Espresso

• 0:00
  SPEAKER_00: 72 Prozent aller Großunternehmen weltweit setzen KI ein, um Bewerbungen zu filtern.
• 0:08
  SPEAKER_00: Also 60 Prozent der Lebensläufe sieht nie ein Mensch.
• 0:13
  SPEAKER_01: Wahnsinn, oder?
• 0:14
  SPEAKER_00: Ja.
• 0:14
  SPEAKER_00: Und gleichzeitig musste Amazon seinen eigenen Algorithmus abschalten, weil er auf Basis historischer Daten systematisch Frauen diskriminierte.
• 0:24
  SPEAKER_00: Das klingt im ersten Moment nach einer dystopischen Maschine, die, naja, über unsere Karrieren entscheidet.
• 0:31
  SPEAKER_00: Aber ich vertrete heute die Position, diese Technologie ist grundlegend das fairere System und absolut zwingend notwendig.
• 0:40
  SPEAKER_01: Also da halte ich entschieden dagegen.
• 0:42
  SPEAKER_01: Ich argumentiere hier, dass wir ein völlig unkontrollierbares System verteidigen.
• 0:47
  SPEAKER_01: Das skaliert Diskriminierung quasi auf Autopilot.
• 0:51
  SPEAKER_01: Wir geben unsere menschliche Verantwortung da an eine komplette Blackbox ab.
• 0:56
  SPEAKER_00: Aber lass uns doch mal mit den harten Fakten starten.
• 0:59
  SPEAKER_00: Ein menschlicher Recruiter investiert im Schnitt gerade einmal 7,4 Sekunden in einen Lebenslauf.
• 1:06
  SPEAKER_01: Ja, gut.
• 1:07
  SPEAKER_01: Aber 7,4 Sekunden.
• 1:10
  SPEAKER_01: In dieser unfassbar kurzen Zeit greifen doch all unsere unbewussten menschlichen Vorurteile.
• 1:17
  SPEAKER_01: Wir wissen aus zahllosen Studien, dass Bewerber mit türkisch oder arabisch klingenden Namen nachweislich 14% weniger Rückrufe erhalten.
• 1:26
  SPEAKER_01: Und das bei exakt gleicher Qualifikation.
• 1:28
  SPEAKER_01: Das bestreite ich auch gar nicht.
• 1:30
  SPEAKER_01: Menschen sind voreingenommen.
• 1:32
  SPEAKER_01: Genau, die Maschine hingegen hat keinen schlechten Tag.
• 1:35
  SPEAKER_01: Sie analysiert Fakten.
• 1:36
  SPEAKER_01: Nimmer Uniliver als Beispiel.
• 1:38
  SPEAKER_01: Durch Tools wie Highligh haben die 70.000 Stunden Bearbeitungszeit gespart und gleichzeitig 16% mehr Diversität erreicht.
• 1:48
  SPEAKER_00: Momento, nutzt das jetzt als Freifahrtschein für die Maschine.
• 1:51
  SPEAKER_00: Lass uns dieses Uniliver-Beispiel mal dekonstruieren.
• 1:55
  SPEAKER_00: Wie funktioniert denn ein System wie Higherview technisch?
• 1:58
  SPEAKER_00: Es analysiert in automatisierten Video-Interviews die Mikromimik, die Stimmfrequenz und den Blickkontakt.
• 2:05
  SPEAKER_00: Richtig, es erfasst konkrete Datenpunkte, statt sich auf so ein vages Bauchgefühl zu verlassen.
• 2:11
  SPEAKER_01: Aber diese Datenpunkte sind doch überhaupt nicht objektiv.
• 2:14
  SPEAKER_01: Die American Psychological Association stuft genau diese Art der Mimikanalyse als reine Pseudowissenschaft ein.
• 2:21
  SPEAKER_00: Pseudowissenschaft?
• 2:22
  SPEAKER_00: Das ist ein starkes Wort.
• 2:24
  SPEAKER_01: Ja, aber warum denn?
• 2:25
  SPEAKER_01: Weil jemand, der neurodivers ist, der beispielsweise auf dem Autismusspektrum liegt oder schlicht kein Muttersprachler ist, eine völlig andere Sprachmelodie hat.
• 2:33
  SPEAKER_01: Stimmt, ja.
• 2:34
  SPEAKER_01: Der Algorithmus misst das gegen eine statistische Norm und straft diese Abweichungen rigoros ab.
• 2:41
  SPEAKER_01: Das ist keine Fairness, das ist die Diktatur des Durchschnitts.
• 2:46
  SPEAKER_00: Ich verstehe deine Skepsis da, aber ich sehe das Konzept echt ganz anders.
• 2:49
  SPEAKER_00: Die KI ist wie ein diagnostischer Spiegel.
• 2:52
  SPEAKER_00: Sie erfindet ja keinen Sexismus oder Rassismus.
• 2:55
  SPEAKER_01: Nein, sie übernimmt ihn einfach.
• 2:57
  SPEAKER_00: Sie reflektiert lediglich die menschlichen Vorurteile, die, naja, tief in unseren alten Trainingsdaten stecken.
• 3:04
  SPEAKER_00: Bei Amazon hat der Algorithmus eben gelernt, dass in der Vergangenheit vor allem Männer befördert wurden.
• 3:10
  SPEAKER_01: Eben.
• 3:11
  SPEAKER_01: Und hat daraufhin Frauen systematisch aussortiert.
• 3:14
  SPEAKER_00: Ja, aber hier ist der alles entscheidende Unterschied.
• 3:17
  SPEAKER_00: Wenn wir diesen Bias in der Maschine bemerken, können wir den Code patchen.
• 3:21
  SPEAKER_00: Wir können das Modell kalibrieren, indem wir dem Algorithmus mathematisch verbieten, das Geschlecht oder den Namen zu gewichten.
• 3:28
  SPEAKER_00: Versuch mal, das Gehirn eines voreingenommenen Recruiters zu patchen.
• 3:32
  SPEAKER_00: Das ist unmöglich, klar.
• 3:34
  SPEAKER_00: Eben.
• 3:35
  SPEAKER_00: Bei der KI können wir die Gewichtung objektiv korrigieren.
• 3:38
  SPEAKER_00: Und ich frage dich ganz pragmatisch.
• 3:40
  SPEAKER_00: Eine attraktive Stelle zieht heute gut und gerne 300 Bewerbungen an.
• 3:44
  SPEAKER_00: Wie willst du diese Menge ohne Automatisierung überhaupt noch sichten?
• 3:47
  SPEAKER_01: Dieses Skalierungsargument, das höre ich ständig.
• 3:50
  SPEAKER_01: Aber ein bloßes Effizienzproblem rechtfertigt doch keine intransparente Diskriminierung.
• 3:55
  SPEAKER_01: Du sagst, wir können den Code einfach patchen.
• 3:57
  SPEAKER_00: Ja, können wir.
• 3:58
  SPEAKER_01: Aber oft wissen wir gar nicht, wie die KI ihre Entscheidungen überhaupt trifft.
• 4:02
  SPEAKER_01: Das zeigt eine aktuelle MIT-Studie sehr schön.
• 4:05
  SPEAKER_01: Du spielst oft das Problem mit den Proxis an, oder?
• 4:08
  SPEAKER_01: Ganz genau.
• 4:09
  SPEAKER_01: Wenn man der KI verbietet, nach Hautfarbe oder Herkunft zu filtern, sucht sie sich unbemerkt andere Wege.
• 4:15
  SPEAKER_01: In der Studie hat die KI einfach die Postleitzahl als Proxy missbraucht.
• 4:20
  SPEAKER_01: Ach krass.
• 4:20
  SPEAKER_01: Ja, also als Stellvertretervariable für den sozioökonomischen Status.
• 4:24
  SPEAKER_01: Das System lernt eigenständig, aha, diese Postleitzahl gehört zu einem ärmeren Viertel.
• 4:30
  SPEAKER_01: Diesen Bewerber lehne ich ab.
• 4:32
  SPEAKER_01: Das ist eine absolute Blackbox.
• 4:34
  SPEAKER_01: Und das bringt uns direkt zur rechtlichen Realität hier im Dachraum.
• 4:37
  SPEAKER_01: Wobei der Datenschutz daher bereits extrem streng ist, muss man sagen.
• 4:43
  SPEAKER_01: Aber er wird in der Praxis oft völlig ignoriert.
• 4:46
  SPEAKER_01: 60% der automatisiert abgelehnten Bewerber erhalten nicht mal eine Begründung für ihre Absage.
• 4:52
  SPEAKER_01: Das ist ein eklatanter Verstoß gegen Paragraph 26 des Bundesdatenschutzgesetzes.
• 4:59
  SPEAKER_01: Und noch brisanter, oft wird übersehen, dass der Betriebsrat nach ⁇ 87 des Betriebsverfassungsgesetzes bei solchen Tools zwingend ein Mitbestimmungsrecht hat.
• 5:09
  SPEAKER_01: Wird der übergangen, macht das potenziell jede darauf basierende Kündigung rechtlich anfechtbar.
• 5:15
  SPEAKER_00: Okay, ich akzeptiere völlig, dass hier rechtliche Risiken bestehen, wenn Unternehmen einfach blind agieren.
• 5:22
  SPEAKER_00: Aber das bedeutet doch nicht, dass wir die Technologie abschaffen sollten.
• 5:25
  SPEAKER_00: Wir bekommen ab August 2026 den EUAI-Act, der genau solche Recruiting-Systeme glasklar als Hochrisiko-KI einstuft.
• 5:34
  SPEAKER_00: Was auf dem Papier natürlich erstmal schön klingt.
• 5:38
  SPEAKER_00: Es ist viel mehr als das.
• 5:39
  SPEAKER_00: Dieses Gesetz erzwingt Transparenz.
• 5:42
  SPEAKER_00: Entwickler müssen offenlegen, wie ihre Algorithmen gewichten und es gibt strenge Audits.
• 5:47
  SPEAKER_00: Bei Verstößen drohen Strafen von bis zu 15 Millionen Euro.
• 5:51
  SPEAKER_00: Das ist der regulatorische Rahmen, der diese Blackbox öffnen und die Modelle sicherer machen wird, anstatt Innovation einfach zu verbieten.
• 5:59
  SPEAKER_01: Naja, ob das in der Praxis reicht, wird die Zukunft zeigen.
• 6:02
  SPEAKER_01: Aber denkt noch einmal an die Zahlen vom Anfang.
• 6:05
  SPEAKER_01: 72% der Unternehmen nutzen diese Systeme.
• 6:08
  SPEAKER_01: 60% der Lebensläufe bleiben ungelesen.
• 6:11
  SPEAKER_01: Genau.
• 6:12
  SPEAKER_01: Postleitzahl oder eure Mimik im Video aussortiert.
• 6:15
  SPEAKER_00: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI-Espresso.
• 6:18
  SPEAKER_00: Jeden Tag eine neue KI-Debatte in sechs Minuten.