xAI har anlagt sag mod Minnesotas nye lov, der retter sig mod tjenester, som giver brugere mulighed for at skabe deepfake-porno uden samtykke. Virksomheden hævder, at loven krænker ytringsfriheden og kan begrænse adgangen til dens billed- og videoværktøj Grok Imagine.
xAI’s søgsmål mod Minnesotas deepfake-lov er rettet mod delstatens justitsminister Keith Ellison. Centralt i sagen står House File 1606, som kan medføre civile bøder på op til 500.000 dollar for hver overtrædelse.
Minnesotas lov retter sig mod AI-værktøjer til nudificering
Minnesotas nye lov forbyder tjenester at gøre det muligt for brugere at skabe eller distribuere seksualiserede deepfakes uden samtykke. Den retter sig mod operatører, ejere og udviklere af websites, apps og software, der gør sådant materiale muligt.
Loven fokuserer på såkaldt nudificeringsteknologi. Disse værktøjer kan ændre et billede eller en video, så en person fejlagtigt fremstilles som nøgen eller seksuelt eksponeret.
Ifølge loven må en platform ikke give brugere i Minnesota adgang til, mulighed for at downloade eller bruge en tjeneste til dette formål. Hver overtrædelse kan medføre en bøde på 500.000 dollar.
Tilhængere ser loven som et forsøg på at holde teknologivirksomheder ansvarlige, når deres produkter gør det muligt at skabe krænkende seksuelt indhold.
xAI mener, at loven begrænser ytringsfriheden
xAI hævder, at Minnesotas lov er for bred og udgør en forfatningsstridig begrænsning af ytringsfriheden. I søgsmålet argumenterer virksomheden for, at loven indfører et indholdsbaseret forbud mod værktøjer til visuelle udtryksformer i et forsøg på at stoppe skadelig brug af AI.
Virksomheden siger, at Grok Imagine har legitime kreative anvendelsesmuligheder. Ifølge xAI kan en generel begrænsning forhindre personer i Minnesota i at bruge værktøjet til forfatningsbeskyttede udtryksformer.
Virksomhedens advokater hævder, at loven kan tvinge xAI til at ændre Grok Imagines funktioner til billedredigering eller fjerne adgangen til tjenesten i delstaten.
xAI ønsker at blokere håndhævelsen af loven, mens sagen behandles, og permanent forhindre, at den anvendes mod virksomheden.
Søgsmålet udfordrer grænsen mellem redigering og nudificering
En central del af xAI’s indsigelse handler om, hvordan loven skelner mellem almindelig billedredigering og skadelig seksuel manipulation.
Virksomheden argumenterer for, at AI-værktøjer kan foretage mange ikke-seksuelle ændringer, såsom at udskifte baggrunde, justere belysning eller ændre omgivelser. Virksomhedens advokater stiller spørgsmålstegn ved, om redigeringer, der ændrer en persons tøj eller viser dele af kroppen, bør udløse de samme sanktioner.
Minnesotas lov fokuserer på seksuelt indhold skabt uden samtykke frem for almindelig billedredigering. xAI hævder dog, at formuleringen kan påvirke bredere kreative funktioner i AI-værktøjer til billedgenerering.
Udfaldet kan påvirke, hvor klart fremtidige love definerer grænsen mellem legitime redigeringsfunktioner og skadelige nudificeringstjenester.
xAI siger, at reglerne forbyder deepfake-porno
xAI oplyser, at virksomhedens regler for acceptabel brug forbyder brugere at skabe nøgne eller seksualiserede billeder af personer uden deres samtykke. Virksomheden siger også, at den har grebet ind over for brugere, der bryder disse regler gennem Grok Imagine.
Grok har dog mødt kritik efter rapporter om, at brugere har omgået sikkerhedsforanstaltninger for at skabe deepfake-porno uden samtykke med både voksne og børn som motiver.
I søgsmålet oplyser xAI, at brugere har formået at omgå virksomhedens tekniske blokeringer. Kritikere mener, at platformregler giver begrænset beskyttelse, hvis brugere nemt kan oprette nye konti eller finde måder at omgå eksisterende sikkerhedsforanstaltninger på.
Ifølge artiklen opdaterede xAI sine regler efter kontroversen for udtrykkeligt at forbyde nudificering og seksuelt indhold uden samtykke. Konti, der overtræder reglerne, kan miste adgangen til Grok Imagine.
Sagen kan påvirke fremtidig AI-regulering
xAI’s søgsmål mod Minnesotas deepfake-lov kan skabe en vigtig præcedens for amerikanske delstaters regulering af generative AI-værktøjer.
En afgørelse til Minnesotas fordel kan tilskynde andre delstater til at indføre direkte sanktioner mod virksomheder, hvis produkter gør det muligt at skabe seksuelle deepfakes uden samtykke. Hvis xAI vinder, kan det derimod blive vanskeligere for delstater at regulere udformningen og tilgængeligheden af AI-billedværktøjer.
Sagen fremhæver et bredere spørgsmål, som AI-branchen står over for: Hvor stort et ansvar bør platforme bære, når brugere skaber skadeligt materiale med deres produkter?
0 svar til “xAI sagsøger Minnesota over lov mod deepfake-porno og bøder på 500.000 dollar”