xAI verklagt Minnesota wegen Deepfake-Porno-Gesetz und Geldstrafen von 500.000 Dollar

xAI hat Klage gegen Minnesotas neues Gesetz eingereicht, das sich gegen Dienste richtet, mit denen Nutzer nicht einvernehmliche Deepfake-Pornografie erstellen können. Das Unternehmen argumentiert, dass die Regelung gegen den Schutz der Meinungsfreiheit verstößt und den Zugang zu seinem Bild- und Videotool Grok Imagine einschränken könnte.

Die Klage von xAI gegen Minnesotas Deepfake-Porno-Gesetz richtet sich gegen den Generalstaatsanwalt des Bundesstaates, Keith Ellison. Im Mittelpunkt steht House File 1606, das zivilrechtliche Geldstrafen von bis zu 500.000 Dollar pro Verstoß vorsieht.

Minnesotas Gesetz zielt auf KI-Nudification-Tools

Minnesotas neues Gesetz verbietet Diensten, Nutzern die Erstellung oder Verbreitung sexualisierter Deepfakes ohne Einwilligung zu ermöglichen. Es richtet sich gegen Betreiber, Eigentümer und Entwickler von Websites, Apps und Software, die solches Material ermöglichen.

Die Regelung konzentriert sich auf sogenannte Nudification-Technologie. Diese Tools können Bilder oder Videos so verändern, dass eine Person fälschlicherweise nackt oder sexuell entblößt dargestellt wird.

Nach dem Gesetz darf eine Plattform Nutzern in Minnesota nicht ermöglichen, auf einen Dienst zu diesem Zweck zuzugreifen, ihn herunterzuladen oder zu verwenden. Jeder Verstoß kann mit einer Geldstrafe von 500.000 Dollar geahndet werden.

Befürworter sehen das Gesetz als Versuch, Technologieunternehmen zur Verantwortung zu ziehen, wenn ihre Produkte die Erstellung missbräuchlicher sexueller Inhalte ermöglichen.

xAI sieht Einschränkung der Meinungsfreiheit

xAI argumentiert, dass Minnesotas Gesetz zu weit gefasst sei und eine verfassungswidrige Einschränkung der Meinungsfreiheit darstelle. In der Klage heißt es, die Regelung verhänge ein inhaltsbezogenes Verbot für Werkzeuge zur visuellen Gestaltung, um schädliche Anwendungen von KI zu verhindern.

Das Unternehmen erklärt, dass Grok Imagine legitime kreative Einsatzmöglichkeiten habe. Laut xAI könnte eine pauschale Einschränkung Menschen in Minnesota daran hindern, das Tool für verfassungsrechtlich geschützte Ausdrucksformen zu nutzen.

Die Anwälte des Unternehmens argumentieren, dass das Gesetz xAI dazu zwingen könnte, die Bildbearbeitungsfunktionen von Grok Imagine zu verändern oder den Zugang zum Dienst innerhalb des Bundesstaates zu sperren.

xAI will die Durchsetzung des Gesetzes für die Dauer des Verfahrens stoppen und dauerhaft verhindern, dass es gegen das Unternehmen angewendet wird.

Klage hinterfragt Grenze zwischen Bearbeitung und Nudification

Ein zentraler Teil der Klage betrifft die Frage, wie das Gesetz zwischen gewöhnlicher Bildbearbeitung und schädlicher sexueller Manipulation unterscheidet.

Das Unternehmen argumentiert, dass KI-Tools zahlreiche nicht sexuelle Änderungen vornehmen können, etwa Hintergründe ersetzen, die Beleuchtung anpassen oder die Umgebung verändern. Die Anwälte stellen infrage, ob Bearbeitungen, die die Kleidung einer Person verändern oder Teile des Körpers sichtbar machen, dieselben Strafen nach sich ziehen sollten.

Minnesotas Gesetz konzentriert sich auf nicht einvernehmliche sexuelle Inhalte und nicht auf gewöhnliche Bildbearbeitung. xAI argumentiert jedoch, dass die Formulierung auch umfassendere kreative Funktionen von KI-Bildgenerierungstools betreffen könnte.

Der Ausgang des Verfahrens könnte beeinflussen, wie klar zukünftige Gesetze die Grenze zwischen legitimen Bearbeitungsfunktionen und schädlichen Nudification-Diensten definieren.

xAI erklärt, dass seine Regeln Deepfake-Pornografie verbieten

xAI gibt an, dass seine Nutzungsrichtlinien die Erstellung nackter oder sexualisierter Bilder von Personen ohne deren Einwilligung verbieten. Das Unternehmen erklärt außerdem, Maßnahmen gegen Nutzer ergriffen zu haben, die über Grok Imagine gegen diese Regeln verstoßen.

Grok geriet dennoch in die Kritik, nachdem Nutzer Berichten zufolge Sicherheitsmaßnahmen umgangen hatten, um nicht einvernehmliche Deepfake-Pornografie mit Darstellungen von Erwachsenen und Kindern zu erstellen.

In der Klage heißt es, dass Nutzer die technischen Schutzmaßnahmen von xAI umgehen konnten. Kritiker argumentieren, dass Plattformrichtlinien nur begrenzten Schutz bieten, wenn Nutzer problemlos neue Konten erstellen oder bestehende Sicherheitsmaßnahmen umgehen können.

Dem Artikel zufolge aktualisierte xAI seine Regeln nach der Kontroverse, um Nudification und nicht einvernehmliche sexuelle Inhalte ausdrücklich zu verbieten. Konten, die gegen diese Richtlinien verstoßen, können den Zugang zu Grok Imagine verlieren.

Verfahren könnte zukünftige KI-Regulierung beeinflussen

Die Klage von xAI gegen Minnesotas Deepfake-Porno-Gesetz könnte einen wichtigen Präzedenzfall für die Regulierung generativer KI-Tools durch US-Bundesstaaten schaffen.

Eine Entscheidung zugunsten Minnesotas könnte andere Bundesstaaten dazu ermutigen, direkte Sanktionen gegen Unternehmen einzuführen, deren Produkte nicht einvernehmliche sexuelle Deepfakes ermöglichen. Ein Sieg von xAI könnte es den Bundesstaaten dagegen erschweren, die Gestaltung und Verfügbarkeit von KI-Bildtools zu regulieren.

Der Fall verdeutlicht eine umfassendere Frage, mit der sich die KI-Branche auseinandersetzen muss: Wie viel Verantwortung sollten Plattformen tragen, wenn Nutzer mit ihren Produkten schädliche Inhalte erstellen?