Menschen sollten das letzte Wort haben

Vertrauen ist gut, Kontrolle ist besser – so sehen die meisten der 4.000 Teilnehmenden einer Befragung es, wenn es darum geht, in bestimmten Szenarien Algorithmen einzusetzen, um Entscheidungen zu treffen. Für ihre Studie haben der Mannheimer Datenwissenschaftler Florian Keusch und Frauke Kreuter von der Ludwig-Maximilians-Universität München mehr als 4.000 Personen im Rahmen des German Internet Panels (GIP) online dazu befragt, wie fair sie die Nutzung von KI-gestützten Entscheidungen in vier Bereichen beurteilen: bei der Vergabe von Finanzprodukten, etwa einem Kredit, bei Bewerbungen auf Jobs, bei Gefängnisstrafen und bei Maßnahmen für Arbeitssuchende.

Auf einer Skala von 1 (überhaupt nicht fair) bis 4 (sehr fair) finden die Befragten es durchschnittlich am gerechtesten, wenn Algorithmus und Mensch gemeinsam entscheiden: 31 Prozent bewerten das als fair, zwölf Prozent als sehr fair. Entscheidet der Algorithmus allein, finden das nur 18 Prozent gerecht und fünf Prozent sehr gerecht. Menschen wird bei ihren Entscheidungen immerhin noch etwas mehr vertraut als der KI. Wenn sie alleine entscheiden, beurteilen das 28 Prozent als fair und neun Prozent als sehr fair. Laut Keusch lassen die Ergebnisse darauf schließen, dass es nicht der Einsatz von Algorithmen an sich ist, der umstritten ist, sondern dass vielmehr die Nutzung von Algorithmen ohne zusätzliche Kontrolle durch den Menschen als problematisch angesehen wird.