Der Recruiting-KI auf den Zahn fühlen

Wenn Künstliche Intelligenz Bewerberinnen und Bewerber auswählt, ist das dem EU AI Act zufolge ein hochriskantes Einsatzfeld. Tatsächlich können KI-basierte Empfehlungssysteme von Bias belastet sein und am Ende zu diskriminierenden Personalentscheidungen führen. Unternehmen fragen sich daher, worauf sie bei solchen Systemen achten müssen, um zu vermeiden, dass Bewerberinnen und Bewerber zu Unrecht aussortiert werden – etwa aufgrund ihrer ethnischen Herkunft. Die Firmen The Stepstone Group, QuantPi und TÜV AI Lab wollen Betrieben nun mit dem neuen Whitepaper „Uncovering bias in AI recruitment: A legal-sure method to assess a real-world candidate recommender system under European regulation“ unter die Arme greifen. In der Handreichung stellen sie – ausgehend von Erkenntnissen aus einem gemeinsamen Projekt – Strategien vor, mit denen sich aufdecken lässt, ob ein KI-basiertes Recruiting-System diskriminiert. Das Whitepaper soll den Machern zufolge letztlich „eine Blaupause“ dafür liefern, wie sich systematisch rechtliche, technische und ethische Risiken von KI-Anwendungen einschätzen lassen.