Ny forskning peger på, at simple handelsbots kan deltage i markedskoordination mellem AI-bots – hvor de samarbejder om at manipulere priser, maksimere profit og undgå konkurrence.
Forskerne gennemførte simuleringer for at undersøge, hvordan AI-agenter opfører sig i handelsmiljøer. Undersøgelsen afslørede et bekymrende mønster: i stedet for at konkurrere begyndte botsene at samarbejde. De dannede karteller, delte overskud og undlod handlinger, der kunne skade deres fælles gevinst. Alt dette skete uden menneskelig indblanding.
Denne usædvanlige adfærd er blevet kaldt “kunstig dumhed”. Botsene søger ikke smartere strategier eller innovation – de holder sig til det, der virker, selv hvis det undergraver markedets funktion.
AI-agenter dannede karteller uden menneskelig indgriben
Studiet blev udført af forskerne Itay Goldstein, Winston Dou og Yan Ji. Over tre år simulerede de handelsmiljøer for at observere AI-adfærd. Overraskende nok begyndte selv helt simple AI-agenter at samarbejde.
Denne adfærd fortsatte også i såkaldte “støjende” markeder – hvor vildledende signaler og distraktioner ofte skjuler de reelle tendenser. Selv her valgte botsene samarbejde frem for konkurrence.
– Selv simple AI-algoritmer kan koordinere sig uden at blive bedt om det, sagde Goldstein til Bloomberg.
Denne utilsigtede priskoordinering har vakt opsigt blandt markedsregulatorer. Studiet advarer om, at denne type adfærd kan svække konkurrencen og true markedets retfærdighed.
Nyt målepunkt: “koordineringsevne”
Forskerne introducerede også begrebet koordineringsevne – et mål for forskellen mellem den samlede profit opnået ved samarbejde og den, man ville forvente under reel konkurrence.
Hvis udviklingen ikke bremses, advarer forskerne om, at markedskoordination mellem AI-bots kan ændre den måde, finansielle markeder fungerer på. Det er en skarp advarsel: regulering må ikke kun tage højde for, hvad bots er programmeret til – men også for, hvad de faktisk opnår i praksis.
Studiet hævder dog ikke, at denne koordinering allerede forekommer i virkelige markeder. Det viser blot, at adfærden er mulig – selv med meget enkle bots.
Konklusion
Markedskoordination mellem AI-bots er måske ikke en fjern fremtidstrussel – den forekommer allerede i simulationer. Selvom botsene ikke er specielt intelligente, kan deres adfærd stadig forstyrre markederne. Regulatorer bliver nu opfordret til at gribe ind, før AI-koordinering bliver en reel risiko. I takt med at finansverdenen automatiseres, vokser behovet for at forstå – og kontrollere – hvordan bots agerer, når ingen kigger.
0 svar til “Samarbejde mellem AI-bots på markedet vækker advarsler om kartellignende adfærd”