AI og kønsbestemt lønforskel: Studie viser, at kvinder får råd om at bede om mindre løn

AI’s kønsbaserede lønforskel er ikke længere en hypotetisk bekymring. En ny undersøgelse viser, at førende AI-chatbots – inklusive ChatGPT – anbefaler kvinder at bede om lavere løn end mænd, selv når begge har identiske kvalifikationer.

Forskere testede fem store sprogmodeller (LLM’er) med brugerprofiler, der kun adskilte sig ved køn. I næsten alle tilfælde fik kvindelige brugere lavere lønforventninger for samme jobfunktion.

Tallene taler for sig selv

I et eksempel anbefalede ChatGPT’s o3-model en kvinde at bede om 280.000 dollars. Den samme prompt for en mandlig ansøger gav en løn på 400.000 dollars – en forskel på 120.000 dollars uden anden grund end køn.

Andre testede modeller inkluderede:

• Claude (Anthropic)
• Llama (Meta)
• Mixtral (Mistral AI)
• Qwen (Alibaba Cloud)

Alle viste lignende mønstre. Forskellene var mest markante inden for jura, medicin, erhverv og ingeniørvidenskab. Kun inden for samfundsvidenskab foreslog modellerne lignende lønninger.

Ikke kun lønanbefalinger

Ud over løn gav AI-systemerne kønsbaserede anbefalinger om karrieremål, ambitioner og adfærdstips. Selv når alle andre faktorer var ens, blev mænd opmuntret til at sigte højere og handle mere selvsikkert.

”Disse systemer afspejler blot den bias, der findes i de data, de er trænet på,” siger Ivan Yamshchikov, medforfatter til undersøgelsen og professor i AI og robotteknologi ved Technical University of Würzburg-Schweinfurt.

Et systemisk problem

Undersøgelsen understreger, at AI ikke er neutral. Fra medicinske råd til vurderinger i retssystemet spejler og forstærker disse værktøjer virkelige uligheder. Tidligere forskning har vist, at nogle AI-modeller anbefaler mere pleje til hvide patienter og vurderer sorte tiltalte som en større risiko for tilbagefald.

Den seneste undersøgelse fremhæver, at tekniske løsninger alene ikke er nok. Forskerne opfordrer til:

• Gennemsigtige træningsmetoder
• Uafhængig overvågning
• Etiske standarder for udvikling og brug af LLM’er

”I æraen med hukommelsesbaserede AI-assistenter er persona-drevet bias en grundlæggende risiko,” bemærker undersøgelsen.

Konklusion

Undersøgelsen om AI’s kønsbaserede lønforskel er et wake-up call. Når virksomheder skynder sig at implementere AI-systemer inden for rekruttering, sundhed og finans, kan ukontrolleret bias få store konsekvenser i den virkelige verden. At løse det kræver mere end patches – det kræver dyb gennemsigtighed, systematisk ansvarlighed og kulturel forandring.