TAKE IT DOWN-Gesetz führt zu den ersten größeren Beschlagnahmungen von Deepfake-Websites

Das TAKE IT DOWN-Gesetz hat eine der ersten größeren bundesweiten Durchsetzungsmaßnahmen gegen Websites ermöglicht, denen die Verbreitung von KI-generierten Nacktbildern ohne Einwilligung vorgeworfen wird. Das US-Justizministerium beschlagnahmte kürzlich zwei Domains, die nach Angaben der Ermittler Tausende von nicht einvernehmlich erstellten Deepfake-Bildern und -Videos veröffentlicht und verbreitet haben sollen.

Die Aktion stellt einen wichtigen Meilenstein für das neue Gesetz dar, das die Verbreitung intimer Bilder bekämpfen soll, die ohne Zustimmung erstellt oder geteilt werden. Bundesbehörden betonen, dass die Maßnahme ihre Bereitschaft zeigt, gegen Plattformen vorzugehen, die von schädlichen KI-generierten Inhalten profitieren.

Behörden beschlagnahmen zwei Deepfake-Websites

Das Justizministerium gab die Beschlagnahmung der Domains CFAKE.com und SOCFAKE.com im Rahmen einer internationalen Strafverfolgungsoperation bekannt. Ermittler werfen den Websites vor, Nutzern die Erstellung, das Hochladen und die Verbreitung manipulierter Bilder ermöglicht zu haben, die Opfer in sexuell expliziten Situationen darstellten.

Gerichtsunterlagen zufolge zogen die Plattformen ein großes Publikum an und generierten erheblichen Datenverkehr durch Inhalte, die sich gegen Frauen und Mädchen richteten. Die Behörden erklären, dass viele der Betroffenen niemals ihre Zustimmung zur Erstellung oder Veröffentlichung des Materials gegeben hatten.

Strafverfolgungsbehörden aus den USA arbeiteten während der Ermittlungen mit Partnern in Frankreich und Italien zusammen. Die koordinierte Zusammenarbeit half dabei, die mit den Websites verbundene Infrastruktur zu identifizieren und die Kontrolle über die Domains zu übernehmen.

Besucher, die die Websites aufrufen möchten, sehen nun Beschlagnahmungsmitteilungen, die darauf hinweisen, dass die Plattformen unter die Kontrolle der Bundesbehörden gestellt wurden.

Ermittler bringen die Websites mit KI-generierten Inhalten ohne Einwilligung in Verbindung

Bundesbehörden behaupten, dass sich die Websites auf die Verbreitung von KI-generierten Nacktbildern und Deepfake-Inhalten spezialisiert hatten. Nach Angaben der Ermittler konnten Nutzer Fotos realer Personen hochladen und daraus gefälschte explizite Bilder erstellen, die authentisch wirkten.

Die rasante Entwicklung generativer KI hat zu einem starken Anstieg dieser Form des Missbrauchs beigetragen. Strafverfolgungsbehörden und Datenschutzorganisationen warnen seit Jahren davor, dass Deepfake-Technologien es böswilligen Akteuren ermöglichen, Opfer in großem Umfang ins Visier zu nehmen, ohne über umfangreiche technische Kenntnisse zu verfügen.

Betroffene erleiden häufig erhebliche emotionale, berufliche und rufschädigende Folgen, nachdem explizite Deepfake-Inhalte im Internet veröffentlicht werden. In vielen Fällen gestaltet sich die Entfernung des Materials schwierig, da Kopien schnell auf zahlreiche Websites und soziale Plattformen gelangen.

Die Behörden sind überzeugt, dass konsequentere Durchsetzungsmaßnahmen die Verfügbarkeit solcher Dienste einschränken und Betreiber davon abhalten können, ähnliche Plattformen aufzubauen.

TAKE IT DOWN-Gesetz erweitert die Handlungsmöglichkeiten der Behörden

Das TAKE IT DOWN-Gesetz verschafft Bundesbehörden neue Instrumente zur Bekämpfung nicht einvernehmlich verbreiteter intimer Bilder, einschließlich KI-generierter Inhalte. Das Gesetz verpflichtet betroffene Plattformen dazu, gemeldetes Material zu entfernen, und schafft zusätzliche Konsequenzen für Personen, die solche Inhalte wissentlich verbreiten.

Befürworter des Gesetzes argumentieren, dass bestehende Vorschriften mit dem rasanten Wachstum KI-generierten Missbrauchs nicht Schritt halten konnten. Deepfake-Technologien entwickelten sich schneller als viele rechtliche Rahmenbedingungen, was sowohl Ermittler als auch Opfer vor erhebliche Herausforderungen stellte.

Bundesbeamte bezeichnen das Gesetz als wichtigen Schritt zum Schutz von Menschen vor digitaler Ausbeutung. Die Beschlagnahmung der Websites deutet darauf hin, dass die Behörden ihre neuen Befugnisse aktiv einsetzen wollen, wenn sie Plattformen identifizieren, die auf schädliche Inhalte ausgerichtet sind.

Fazit

Das TAKE IT DOWN-Gesetz beeinflusst bereits die Art und Weise, wie Behörden auf KI-generierten Missbrauch im Internet reagieren. Die Beschlagnahmung von CFAKE.com und SOCFAKE.com stellt eine der ersten größeren Durchsetzungsmaßnahmen im Zusammenhang mit dem Gesetz dar und signalisiert eine umfassendere Strategie gegen Plattformen, die nicht einvernehmliche Deepfake-Inhalte verbreiten.

Da KI-Werkzeuge immer leichter zugänglich werden, dürften Regierungen Websites, die digitale Ausbeutung ermöglichen, verstärkt überwachen. Die jüngste Operation zeigt, dass Strafverfolgungsbehörden nicht mehr nur warnen, sondern direkt gegen Dienste vorgehen, denen die Förderung von Deepfake-Missbrauch vorgeworfen wird.