Apple verbietet Apps zur Erstellung nicht einvernehmlicher KI-Nacktbilder

Apple hat seine App-Review-Richtlinien aktualisiert, um Apps ausdrücklich zu verbieten, die sexuell explizite Bilder realer Personen ohne deren Einwilligung erstellen. Apples Verbot von Apps zur Erstellung von Nacktbildern verdeutlicht, wie die bestehenden Beschränkungen des Unternehmens für KI-Tools gelten, die Kleidung digital entfernen.

Der App Store verbietet pornografisches Material bereits seit Langem. Die überarbeitete Formulierung richtet sich jedoch ausdrücklich gegen die Erstellung sexueller Bilder ohne Einwilligung und macht die Einschränkung für Entwickler deutlicher.

Apple verschärft außerdem die Anforderungen an die Inhaltsmoderation und verbietet Entwicklern, Funktionen während der App-Prüfung zu verbergen.

Aktualisierte Regeln richten sich direkt gegen KI-generierte Nacktbilder

Apps zur Erstellung von Nacktbildern nutzen künstliche Intelligenz, um Fotografien so zu verändern, dass die abgebildeten Personen unbekleidet erscheinen. Apples aktualisierte Richtlinien untersagen ausdrücklich Apps, die die Erstellung sexuell expliziter Bilder realer Personen ohne deren Zustimmung ermöglichen.

Die Änderung verschärft eine bestehende Einschränkung, anstatt das erste Verbot solcher Inhalte im App Store einzuführen. Zuvor erfassten Apples umfassendere Regeln gegen Pornografie bereits Apps, die Nacktbilder ohne Einwilligung generierten.

Nun benennt die spezifischere Formulierung die verbotene Funktion ausdrücklich.

Apps müssen Melde- und Blockierungsfunktionen bereitstellen

Neben den Einschränkungen bei der Bilderstellung beschreibt Apple die Verantwortlichkeiten von Apps, die nutzergenerierte Inhalte bereitstellen.

Diese Apps müssen anstößiges Material filtern und eine Möglichkeit bieten, beleidigende Inhalte zu melden. Darüber hinaus müssen sie Nutzern ermöglichen, Konten zu blockieren, von denen missbräuchliches Verhalten ausgeht.

Zusammen richten sich diese Anforderungen sowohl gegen schädliches Material als auch gegen die Konten, die für dessen Verbreitung verantwortlich sind. Sie geben Nutzern außerdem Möglichkeiten, auf unerwünschte Inhalte zu reagieren.

Versteckte Funktionen dürfen die App-Prüfung nicht umgehen

Apples Verbot von Apps zur Erstellung von Nacktbildern steht auch im Zusammenhang mit Beschränkungen für versteckte oder nicht dokumentierte Funktionen.

Einige Entwickler könnten während der Prüfung eine scheinbar akzeptable App präsentieren und anschließend nach der Genehmigung verbotene Funktionen aktivieren. Diese Vorgehensweise, die häufig als Bait-and-Switch bezeichnet wird, kann den tatsächlichen Zweck einer App vor den Prüfern verbergen.

Apples Regeln verbieten es Entwicklern jedoch, ihre Apps falsch darzustellen oder Funktionen während des Prüfverfahrens zurückzuhalten. Dazu gehört auch das Verbergen von Tools, die sexuelle Bilder ohne Einwilligung generieren können.

Apple erklärt, dass das Unternehmen seine Richtlinien aktualisiert, wenn neue Risiken und App-Erfahrungen entstehen, und dabei auf seinen bestehenden Standards für Datenschutz, Qualität und Sicherheit aufbaut.

Europäische Maßnahmen spiegeln breitere Besorgnis wider

Die Aktualisierung der Richtlinien erfolgt vor dem Hintergrund umfassenderer Bemühungen, gegen intime Bilder ohne Einwilligung vorzugehen.

Im März 2026 verabschiedete das Europäische Parlament einen Vorschlag, der sich gegen KI-Tools zur Erstellung von Nacktbildern richtet. Der Vorschlag enthielt jedoch Ausnahmen für Bilder, bei denen eine Einwilligung vorliegt, sowie für Inhalte, die KI-generierte Charaktere darstellen.

Unterdessen brachte das Vereinigte Königreich einen Änderungsantrag zum Crime and Policing Bill ein, der eine Verpflichtung vorsieht, intime Bilder ohne Einwilligung innerhalb von 48 Stunden zu entfernen.

Diese Maßnahmen befassen sich mit unterschiedlichen Aspekten des Problems. Apples Richtlinien konzentrieren sich darauf, welche Apps in den Marktplatz des Unternehmens aufgenommen werden oder dort verbleiben dürfen, während die umfassenderen Vorschläge auf die Erstellung und Verbreitung schädlicher Bilder abzielen.