xAI har lämnat in en stämningsansökan mot Minnesotas nya lag som riktar sig mot tjänster där användare kan skapa deepfake-porr utan samtycke. Företaget hävdar att lagen strider mot yttrandefriheten och kan begränsa tillgången till dess bild- och videoverktyg Grok Imagine.
xAI stämning om Minnesotas deepfake-lag riktar sig mot delstatens justitieminister Keith Ellison. I centrum står House File 1606, som kan innebära civilrättsliga böter på upp till 500 000 dollar för varje överträdelse.
Minnesotas lag riktar sig mot AI-verktyg för nudifiering
Minnesotas nya lag förbjuder tjänster från att göra det möjligt för användare att skapa eller distribuera sexualiserade deepfakes utan samtycke. Den riktar sig mot operatörer, ägare och skapare av webbplatser, appar och programvara som möjliggör sådant material.
Lagen fokuserar på så kallad nudifieringsteknik. Dessa verktyg kan ändra en bild eller video för att felaktigt framställa en person som naken eller sexuellt exponerad.
Enligt lagen får en plattform inte låta användare i Minnesota få tillgång till, ladda ner eller använda en tjänst för detta ändamål. Varje överträdelse kan leda till böter på 500 000 dollar.
Förespråkare ser lagen som ett försök att hålla teknikföretag ansvariga när deras produkter möjliggör skapandet av kränkande sexuellt innehåll.
xAI anser att lagen begränsar yttrandefriheten
xAI hävdar att Minnesotas lag är för bred och innebär en grundlagsstridig begränsning av yttrandefriheten. I stämningsansökan hävdar företaget att lagen inför ett innehållsbaserat förbud mot verktyg för visuellt skapande i ett försök att stoppa skadlig användning av AI.
Företaget uppger att Grok Imagine har legitima kreativa användningsområden. Enligt xAI kan en generell begränsning hindra personer i Minnesota från att använda verktyget för grundlagsskyddade uttrycksformer.
Företagets jurister hävdar att lagen kan tvinga xAI att ändra Grok Imagines funktioner för bildredigering eller ta bort tillgången till tjänsten i delstaten.
xAI vill stoppa tillämpningen av lagen medan rättsprocessen pågår och permanent förhindra att den tillämpas mot företaget.
Stämningen ifrågasätter gränsen mellan redigering och nudifiering
En central del av xAI invändningar handlar om hur lagen skiljer mellan vanlig bildredigering och skadlig sexuell manipulation.
Företaget hävdar att AI-verktyg kan göra många icke-sexuella ändringar, exempelvis byta bakgrunder, justera ljussättning eller förändra miljöer. Företagets jurister ifrågasätter om redigeringar som förändrar en persons kläder eller visar delar av kroppen ska omfattas av samma påföljder.
Minnesotas lag fokuserar på sexuellt innehåll som skapats utan samtycke snarare än vanlig bildredigering. xAI hävdar dock att formuleringarna kan påverka bredare kreativa funktioner som erbjuds av AI-verktyg för bildgenerering.
Utgången kan påverka hur tydligt framtida lagar definierar gränsen mellan legitima redigeringsfunktioner och skadliga nudifieringstjänster.
xAI säger att dess regler förbjuder deepfake-porr
xAI uppger att företagets användarregler förbjuder användare från att skapa nakna eller sexualiserade bilder av personer utan deras samtycke. Företaget säger också att det har vidtagit åtgärder mot användare som bryter mot reglerna genom Grok Imagine.
Grok har trots detta mött kritik efter rapporter om att användare kringgått säkerhetsåtgärder för att skapa deepfake-porr utan samtycke med både vuxna och barn som motiv.
I stämningsansökan uppger xAI att användare har lyckats kringgå företagets tekniska spärrar. Kritiker menar att plattformsregler ger ett begränsat skydd om användare enkelt kan skapa nya konton eller hitta sätt att kringgå befintliga säkerhetsåtgärder.
Enligt artikeln uppdaterade xAI sina regler efter kontroversen för att uttryckligen förbjuda nudifiering och sexuellt innehåll utan samtycke. Konton som bryter mot policyn kan förlora tillgången till Grok Imagine.
Fallet kan påverka framtida AI-reglering
xAI stämning mot Minnesotas deepfake-lag kan skapa ett viktigt prejudikat för amerikanska delstaters reglering av generativa AI-verktyg.
En dom till Minnesotas fördel kan uppmuntra andra delstater att införa direkta påföljder för företag vars produkter möjliggör sexuella deepfakes utan samtycke. Om xAI vinner kan det däremot bli svårare för delstater att reglera utformningen och tillgängligheten av AI-bildverktyg.
Fallet belyser en bredare fråga som AI-branschen står inför: hur stort ansvar bör plattformar bära när användare skapar skadligt material med deras produkter?
0 svar till ”xAI stämmer Minnesota över lag mot deepfake-porr och böter på 500 000 dollar”