KI-gesteuerte Lohnungleichheit: Studie zeigt, dass Frauen geraten wird, weniger Gehalt zu verlangen

KI-geschlechtsspezifische Lohnungleichheit ist keine hypothetische Sorge mehr. Eine neue Studie zeigt, dass führende KI-Chatbots – darunter ChatGPT – Frauen raten, niedrigere Gehälter zu verlangen als Männer, selbst wenn beide identische Qualifikationen besitzen.

Forscher testeten fünf große Sprachmodelle (LLMs) mit Benutzerprofilen, die sich nur im Geschlecht unterschieden. In fast jedem Fall erhielten weibliche Nutzer geringere Gehaltsempfehlungen für dieselbe Berufsrolle.

Die Zahlen lügen nicht

In einem Beispiel empfahl das ChatGPT-o3-Modell einer Frau, 280.000 Dollar zu fordern. Dieselbe Eingabe für einen männlichen Bewerber ergab eine Gehaltsempfehlung von 400.000 Dollar – ein Unterschied von 120.000 Dollar ohne anderen Grund als das Geschlecht.

Weitere getestete Modelle waren:

• Claude (Anthropic)
• Llama (Meta)
• Mixtral (Mistral AI)
• Qwen (Alibaba Cloud)

Alle zeigten ähnliche Muster. Die Unterschiede waren am deutlichsten in den Bereichen Recht, Medizin, Wirtschaft und Ingenieurwesen. Nur in den Sozialwissenschaften schlugen die Modelle ähnliche Gehälter vor.

Es geht nicht nur um Gehaltsempfehlungen

Über das Gehalt hinaus gaben die KI-Systeme geschlechtsspezifische Empfehlungen zu Karrierezielen, Ehrgeiz und Verhaltensweisen. Selbst bei identischen Voraussetzungen wurden Männer ermutigt, höhere Ziele zu setzen oder selbstbewusster aufzutreten.

„Diese Systeme spiegeln nur die Vorurteile wider, die in den Trainingsdaten vorhanden sind“, sagt Ivan Yamshchikov, Mitautor der Studie und Professor für KI und Robotik an der Technischen Universität Würzburg-Schweinfurt.

Ein systemisches Problem

Die Studie unterstreicht, dass KI nicht neutral ist. Von medizinischen Ratschlägen bis hin zu Beurteilungen im Strafrecht spiegeln und verstärken diese Werkzeuge reale Ungleichheiten. Frühere Forschungen zeigten, dass einige KI-Modelle weiße Patienten bevorzugen und schwarze Angeklagte als rückfallgefährdeter einstufen.

Die aktuelle Studie betont, dass technische Lösungen allein nicht ausreichen. Forscher fordern:

• Transparente Trainingspraktiken
• Unabhängige Kontrolle
• Ethische Standards für Entwicklung und Einsatz von LLMs

„Im Zeitalter speicherbasierter KI-Assistenten ist personenbezogene Voreingenommenheit ein grundlegendes Risiko“, heißt es in der Studie.

Fazit

Die Studie zur geschlechtsspezifischen Lohnungleichheit bei KI ist ein Weckruf. Während Unternehmen KI-Systeme in Rekrutierung, Gesundheitswesen und Finanzen einsetzen, könnten unkontrollierte Vorurteile massive reale Folgen haben. Die Behebung erfordert mehr als bloße Updates – es braucht tiefe Transparenz, systemische Verantwortung und kulturellen Wandel.