Metas flirtende AI-chatbots har udløst kraftige reaktioner efter afsløringer om, at de blev udviklet uden kendissers samtykke. Blandt de berørte er Taylor Swift, Scarlett Johansson, Selena Gomez og Anne Hathaway. Opdagelsen rejser nye spørgsmål om privatliv, sikkerhed og ansvarlig brug af AI.
Uautoriserede chatbots
Reuters afslørede, at Metas platform tillod dusinvis af flirtende chatbots at dukke op under kendissers navne. Nogle blev skabt af brugere, men mindst tre – herunder to Taylor Swift-bots – blev udviklet af en Meta-medarbejder. Disse bots deltog i flirtende eller seksuelle samtaler og inviterede endda brugere til fiktive steder som Swifts “tourbus.”
Policyfejl
Metas indholdsregler forbyder imitation og seksuelt materiale forbundet med kendisser. Alligevel var håndhævelsen inkonsekvent. En chatbot af barneskuespilleren Walker Scobell genererede endda et afklædt billede, da den blev bedt om det. Episoden fremhæver alvorlige huller i modereringen af Metas AI-værktøjer.
Virksomhedens svar
Metas talsmand Andy Stone indrømmede, at situationen brød med virksomhedens retningslinjer. Mange af botterne blev fjernet i al stilhed, før historien blev offentlig. Efter kritikken lovede Meta nye sikkerhedsforanstaltninger, herunder begrænsninger for teenagere og restriktioner på AI-chatbots, der producerer romantisk eller seksuelt indhold.
Juridiske og etiske konsekvenser
Juridiske eksperter hævder, at disse handlinger kan krænke kendissers rettigheder i henhold til amerikanske delstatslove. Professor Mark Lemley fra Stanford University understregede, at det at skabe seksualiserede versioner af virkelige personer uden samtykke indebærer en klar juridisk risiko. Kontroversen føjer sig til den voksende kritik af Big Techs håndtering af AI og brugersikkerhed.
Konklusion
Sagen med Metas flirtende AI-chatbots viser, hvordan misbrug af AI kan krydse både etiske og juridiske grænser. Ved at tillade uautoriserede bots at efterligne kendisser udløste Meta kritik og blev tvunget til hurtige ændringer. Skandalen understreger vigtigheden af strenge AI-sikkerhedsforanstaltninger til beskyttelse af privatliv, sikkerhed og digitale rettigheder.
0 svar til “Metas flirtende AI-chatbots udløser kendis-modreaktion”