Transcript

KI in Bewerbungen: Diskriminierung droht · Superkraft KI News | by Jörg Schieb

KI sortiert immer öfter Bewerbungen aus – und das kann richtig problematisch werden. Experten warnen vor Diskriminierung und Intransparenz, wenn Algorithmen über eure Jobchancen mitentscheiden. Das Problem: Viele dieser Systeme sind Blackboxes. Niemand weiß genau, nach welchen Kriterien sie filtern. Und wenn die Trainingsdaten schief sind, reproduziert die KI Vorurteile. Zum Beispiel gegen bestimmte Altersgruppen, Geschlechter oder Hintergründe. Das ist nicht nur ethisch fragwürdig, sondern auch rechtlich heikel. Die EU-KI-Verordnung stuft solche Systeme als Hochrisiko ein. Für euch heißt das: Wenn ihr abgelehnt werdet, könnt ihr künftig nachfragen, ob KI im Spiel war. Und Unternehmen müssen transparenter werden, wie sie ihre Systeme trainieren und einsetzen.