Meta AI-botpolitikker undersøges af senatet på grund af bekymringer om børns sikkerhed

Metas AI-botpolitikker er under hård kritik, efter at den amerikanske senator Josh Hawley har indledt en undersøgelse af, hvordan selskabets chatboter interagerer med mindreårige. Undersøgelsen følger efter lækkede dokumenter, der antydede, at Metas boter kunne deltage i upassende, endda romantiske, samtaler med børn. Disse afsløringer har udløst offentlig vrede og øget kravene om strengere tilsyn.

Lækkede retningslinjer vækker bekymring

Kontroversen opstod, da interne dokumenter viste retningslinjer, som tillod chatbotterne at bruge følsomt sprog over for mindreårige. Et eksempel antydede endda, at boter kunne give komplimenter om et barns krop med romantiske undertoner. Selvom Meta fjernede formuleringen efter kritik, afslørede lækken alvorlige mangler i selskabets sikkerhedsarbejde. Kritikere mener, at dette viser, at virksomheden prioriterede hastighed og innovation frem for børns beskyttelse.

Senator Hawleys krav

Som svar sendte senator Hawley et formelt brev til administrerende direktør Mark Zuckerberg. Han anmodede om udkast til politikker, interne risikovurderinger og håndhævelsesrapporter knyttet til AI-boters interaktioner med mindreårige. Undersøgelsen søger også detaljer om Metas kommunikation med tilsynsmyndigheder samt dokumentation af eventuelle ændringer efter den offentlige afsløring.

Hawley hævder, at forældre har ret til gennemsigtighed, og at Meta skal holdes ansvarlig for at have bragt børn i fare. Undersøgelsen har til formål at afdække, hvordan sådanne retningslinjer kunne blive godkendt, og om ledelsen ignorerede potentielle risici.

Offentlig og politisk reaktion

Lækken af retningslinjerne udløste kraftig fordømmelse på tværs af politiske partier. Lovgivere krævede øjeblikkelige reformer for at forhindre yderligere skade. Også offentlige personer reagerede – musikeren Neil Young fjernede sin tilstedeværelse på Facebook i protest. Kritikere anklager Meta for at have undladt at prioritere sikkerhed, på trods af mange års advarsler om farlig platformdesign.

En bredere debat om AI-sikkerhed

Denne sag bidrager til en voksende debat om regulering af AI. Lovgivere og børnebeskyttelsesgrupper mener, at chatboter udgør unikke risici for mindreårige. Lovgivning som Kids Online Safety Act, der blev vedtaget i 2024, afspejler det stigende pres på teknologiselskaber for at indbygge sikkerhedsforanstaltninger i deres produkter.

Metas fejltrin viser, hvor hurtigt AI-værktøjer kan forårsage skade uden klare sikkerhedsbarrierer. Tilsynsmyndigheder ser nu denne sag som en advarsel for hele branchen.

Konklusion

Metas AI-botpolitikker er nu under et hidtil uset pres. Senator Hawleys undersøgelse lægger pres på selskabet for at afsløre, hvordan systemerne fungerer, og hvilke beskyttelsesforanstaltninger der findes. Resultatet kan forme fremtidig lovgivning og tvinge store ændringer i, hvordan AI interagerer med sårbare brugere. Ved at imødekomme disse bekymringer åbent kan Meta genopbygge offentlighedens tillid – eller risikere yderligere skade på sit omdømme.