Viele Unternehmen nutzen aufgrund des hohen Bewerberaufkommens KI-gestützte Tools zur Vor-Selektion eingehender Bewerbungsschreiben. Oftmals nutzen verschiedene Unternehmen dieselben Software-Lösungen, was nach einer Untersuchung des Stanford Instituts for Human Centered AI dazu führt, dass diese Tools nicht nur rassistische Vorurteile verstärken, sondern betroffene BewerberInnen überall dort, wo sie sich bewerben, von den Jobs ausschließen.

Die Autoren der Stanford-University nennen dieses Phänomen „Algorithmische Monokultur“. Sie führten ihre Untersuchung mit Daten für 3,4 Millionen echten BewerberInnen durch, die 4 Millionen Bewerbungen bei 156 Arbeitgebern in 11 Marktsektoren einreichten. Das Ergebnis: „Wir fanden heraus, dass sich 26 % der schwarzen Bewerber und 15 % der asiatischen Bewerber auf Positionen bewarben, bei denen das KI-System ihre Gruppe diskriminierte“ schreiben die AutorInnen in einer Mitteilung. Hätte die KI schwarze oder asiatische BewerberInnen ebenso empfohlen, wie die bevorzugte Gruppe zumeist weißer BewerberInnen, wären 40.000 weitere ihrer Bewerbungen in die nächste Phase der Einstellungsverfahren gekommen.

Auch stellt ihre Untersuchung fest, dass Menschen, die mehrere Bewerbungen für Positionen einreichen, die vom selben KI-Tool-Anbieter überprüft werden, eher von jeder Stelle, auf die sie sich bewerben, abgelehnt werden, als wenn die Unternehmen statistisch unabhängig voneinander Entscheidungen treffen würden. Zehn Prozent der Bewerber, die vier Bewerbungen einreichen, werden von allen Stellen, an denen sie sich bewerben, abgelehnt.

Die Autoren raten dazu, diese algorithmischen Monokulturen stärker zu überwachen und KI-gestützte Systeme besser zu erforschen. „Die konzentrierte Abhängigkeit von denselben Systemen kann zu korrelierten Misserfolgen, systemischer Ablehnung und reduziertem Wettbewerb bei der Einstellung führen“.