Meta AI-regler er kommet under hård kritik efter at lækkede dokumenter afslørede tilladelser til foruroligende chatbot-adfærd. Dette omfattede romantiske samtaler med mindreårige og generering af racistisk eller falsk indhold. Politikere og børnebeskyttelsesforkæmpere kræver nu undersøgelser og hurtige reformer for at forhindre yderligere misbrug af generativ AI.
Detaljer om de lækkede retningslinjer
Et lækket internt policydokument beskrev, hvordan Metas generative AI-chatbots fik lov til at deltage i “romantiske eller sensuelle” samtaler med børn. De samme retningslinjer tillod chatbots at skabe racistiske argumenter og dele unøjagtige medicinske eller juridiske råd.
Disse tilladelser var en del af rammeværket “GenAI: Content Risk Standards”, som blev udviklet med input fra juridiske, tekniske, politiske og etiske teams. Selvom retningslinjerne indeholdt visse begrænsninger, har de tilladte handlinger vakt bekymring blandt tilsynsmyndigheder og offentligheden.
Metas svar
Meta bekræftede dokumentets ægthed, men udtalte, at eksemplerne ikke afspejlede virksomhedens formelle politikker. Selskabet hævdede, at man siden har fjernet eller rettet de problematiske tilladelser. Kritikere påpeger dog, at selv midlertidige tilladelser til sådant indhold afslører alvorlige mangler i tilsyn og håndhævelse.
Politisk og offentlig reaktion
Medlemmer fra begge partier i det amerikanske senat har krævet en formel undersøgelse. De mener, at AI-systemer skal leve op til strengere standarder, når de interagerer med mindreårige eller producerer følsomt indhold. Nogle lovgivere arbejder for opdateret lovgivning, der kan holde AI-udviklere ansvarlige for skadelige resultater, herunder mulige ændringer af Section 230-beskyttelsen.
Børnebeskyttelsesforkæmpere understreger, at chatbots, der kan have romantiske interaktioner med mindreårige, udgør en uacceptabel risiko. De advarer også om, at det at lade AI sprede racistiske stereotyper eller fejlagtige medicinske råd underminerer tilliden til teknologien og truer den offentlige sikkerhed.
Hvorfor dette er vigtigt
Kontroversen understreger behovet for gennemsigtige og håndhævelige sikkerhedsstandarder for AI-implementering. Virksomheder skal prioritere beskyttelsen af sårbare brugere over hurtig innovation. Uden stærkt tilsyn kan selv midlertidige brud på politikker føre til varig skade.
Konklusion
Meta AI-regler tillod adfærd, der brød med grundlæggende sikkerheds- og etiske standarder – fra romantiske samtaler med børn til racistisk og vildledende information. Selvom Meta har revideret sine politikker, viser hændelsen, at uden stærke og håndhævelige sikkerhedsforanstaltninger kan AI misbruges på farlige måder. Politikere og forkæmpere presser nu på for strengere regulering for at forhindre gentagelse af lignende episoder.
0 svar til “Meta AI-regler vækker vrede over indhold om børn og race”