xAI har gått til søksmål mot Minnesotas nye lov som retter seg mot tjenester som lar brukere lage deepfake-porno uten samtykke. Selskapet hevder at loven bryter med ytringsfriheten og kan begrense tilgangen til bilde- og videoverktøyet Grok Imagine.
xAIs søksmål mot Minnesotas deepfake-lov retter seg mot delstatens justisminister Keith Ellison. Sentralt i saken står House File 1606, som kan medføre sivile bøter på opptil 500 000 dollar for hvert brudd.
Minnesotas lov retter seg mot AI-verktøy for nudifisering
Minnesotas nye lov forbyr tjenester å gjøre det mulig for brukere å lage eller distribuere seksualiserte deepfakes uten samtykke. Den retter seg mot operatører, eiere og utviklere av nettsteder, apper og programvare som muliggjør slikt materiale.
Loven fokuserer på såkalt nudifiseringsteknologi. Disse verktøyene kan endre et bilde eller en video for å fremstille en person som naken eller seksuelt eksponert uten at dette er ekte.
Ifølge loven kan en plattform ikke la brukere i Minnesota få tilgang til, laste ned eller bruke en tjeneste til dette formålet. Hvert brudd kan føre til en bot på 500 000 dollar.
Tilhengere ser loven som et forsøk på å holde teknologiselskaper ansvarlige når produktene deres gjør det mulig å skape krenkende seksuelt innhold.
xAI mener loven begrenser ytringsfriheten
xAI hevder at Minnesota-loven er for omfattende og innebærer en grunnlovsstridig begrensning av ytringsfriheten. Søksmålet hevder at loven innfører et innholdsbasert forbud mot verktøy for visuelle uttrykk i et forsøk på å stoppe skadelig bruk av AI.
Selskapet sier at Grok Imagine har legitime kreative bruksområder. Ifølge xAI kan en generell begrensning hindre personer i Minnesota fra å bruke verktøyet til grunnlovsbeskyttede uttrykksformer.
Selskapets advokater hevder at loven kan tvinge xAI til å endre Grok Imagines funksjoner for bilderedigering eller fjerne tilgangen til tjenesten i delstaten.
xAI ønsker å stanse håndhevingen av loven mens saken behandles og permanent forhindre at den anvendes mot selskapet.
Søksmålet utfordrer grensen mellom redigering og nudifisering
En sentral del av xAIs innsigelser handler om hvordan loven skiller mellom vanlig bilderedigering og skadelig seksuell manipulering.
Selskapet argumenterer for at AI-verktøy kan gjøre mange ikke-seksuelle endringer, som å bytte bakgrunner, justere belysning eller endre omgivelser. Selskapets advokater stiller spørsmål ved om redigeringer som endrer en persons klær eller viser deler av kroppen, skal utløse de samme straffene.
Minnesotas lov fokuserer på seksuelt innhold laget uten samtykke, ikke vanlig bilderedigering. xAI hevder likevel at ordlyden kan påvirke bredere kreative funksjoner i AI-verktøy for bildegenerering.
Utfallet kan påvirke hvor tydelig fremtidige lover definerer grensen mellom legitime redigeringsfunksjoner og skadelige nudifiseringstjenester.
xAI sier at reglene forbyr deepfake-porno
xAI sier at selskapets regler for akseptabel bruk forbyr brukere å lage nakne eller seksualiserte bilder av personer uten samtykke. Selskapet opplyser også at det har iverksatt tiltak mot brukere som bryter disse reglene gjennom Grok Imagine.
Grok har likevel møtt kritikk etter rapporter om at brukere har omgått sikkerhetstiltak for å lage deepfake-porno uten samtykke med både voksne og barn som motiver.
I søksmålet sier xAI at brukere har klart å omgå selskapets tekniske sperrer. Kritikere mener at plattformregler gir begrenset beskyttelse dersom brukere enkelt kan opprette nye kontoer eller finne måter å omgå eksisterende sikkerhetstiltak på.
Ifølge artikkelen oppdaterte xAI reglene etter kontroversen for uttrykkelig å forby nudifisering og seksuelt innhold uten samtykke. Kontoer som bryter med retningslinjene, kan miste tilgangen til Grok Imagine.
Saken kan påvirke fremtidig AI-regulering
xAIs søksmål mot Minnesotas deepfake-lov kan skape en viktig presedens for amerikanske delstaters regulering av generative AI-verktøy.
En avgjørelse i Minnesotas favør kan oppmuntre andre delstater til å innføre direkte sanksjoner mot selskaper hvis produkter muliggjør seksuelle deepfakes uten samtykke. Dersom xAI vinner, kan det derimot bli vanskeligere for delstatene å regulere utformingen og tilgjengeligheten av AI-verktøy for bilder.
Saken fremhever et bredere spørsmål AI-bransjen står overfor: Hvor stort ansvar bør plattformer ha når brukere skaper skadelig materiale med produktene deres?
0 responses to “xAI saksøker Minnesota over lov mot deepfake-porno og bøter på 500 000 dollar”