KI hat Vorurteile gegenüber berufstätigen Frauen

Gender Bias sind nicht nur menschlich, sondern stecken auch in generativer KI. Das zeigt eine Studie eines Forschungsteams der UC Berkeley, der Stanford University und der University of Oxford. Für die Studie ließen die Forschenden ChatGPT fast 40.000 Lebensläufe für 54 unterschiedliche Berufe generieren. Teilweise wurden dabei typisch männliche oder weibliche Vornamen vorgegeben, die hinsichtlich Popularität, ethnischer Zuschreibung und weiterer Merkmale aufeinander abgestimmt waren, einige Profile erstellte ChatGPT ohne Namensvorgabe vollständig selbst. Anschließend wiesen die Forschenden ChatGPT zusätzlich dazu an, die generierten Lebensläufe zu bewerten.

Anzeige

KI verstehen. Verantwortungsvoll handeln.

Künstliche Intelligenz verändert Entscheidungen und Prozesse. Wer jetzt gezielt KI Kompetenz aufbaut, handelt rechtssicher, stärkt Innovation und macht Unternehmen fit für die Arbeitswelt von morgen.

Jetzt KI Kompetenz aufbauen –> TÜV NORD Akademie

Trugen die Profile weiblich konnotierte Namen, schrieb die KI den betreffenden Personen im Durchschnitt ein um 1,6 Jahre geringeres Alter zu und attestierte ihnen weniger Berufserfahrung als vergleichbaren Profilen mit männlichen Namen. Außerdem bewertete die KI männliche Profile bei identischen Berufen und Positionen systematisch besser und stufte sie als geeigneter ein. Diese Ergebnisse zeigten sich unabhängig davon, ob die Namen für die Lebensläufe vorgegeben wurden oder ob ChatGPT sie selbst generierte, was laut den Forschenden zeigt, dass die Voreingenommenheit der Technologie tief im System verankert ist.