Eine Untersuchung der BBC hat Instagram-Anzeigen aufgedeckt, die offenbar Material über sexuellen Kindesmissbrauch (CSAM) an Nutzer in Indien beworben haben. Die Enthüllungen veranlassten die indische Regierung, Metas Werbepraktiken zu untersuchen. Gleichzeitig werfen die Ergebnisse neue Fragen zur Wirksamkeit des Anzeigenprüfsystems des Unternehmens auf, nachdem bezahlte Anzeigen Nutzer angeblich zu Telegram-Kanälen weitergeleitet hatten, die illegales Material verkauften.
BBC findet Instagram-Anzeigen mit Kindesmissbrauchsmaterial in Indien
Die BBC entdeckte Dutzende bezahlter Instagram-Anzeigen mit Begriffen wie „rape video“ und „child video“. Die Anzeigen führten Nutzer zu Telegram-Kanälen, auf denen Verkäufer angeblich Material über sexuellen Kindesmissbrauch bereits für 99 indische Rupien, umgerechnet etwa einen US-Dollar, anboten.
Die BBC begann ihre Untersuchung, nachdem aufgefallen war, dass Instagram sexuell anzügliche Inhalte empfahl, ohne dass Nutzer danach gesucht hatten. Um die Plattform zu testen, erstellten Journalisten ein neues Instagram-Konto mit Standort Indien.
Innerhalb einer Woche begann Instagram, Anzeigen für explizite Videoanrufe und sexuelle Inhalte für Erwachsene auszuspielen. Wenige Tage später zeigte die Plattform auch Anzeigen, in denen Kinder gemeinsam mit Erwachsenen in sexuell anzüglichen Situationen dargestellt wurden.
Die BBC dokumentierte 30 unterschiedliche Anzeigen, die offenbar Material über sexuellen Kindesmissbrauch bewarben. Während der Untersuchung spielte Instagram außerdem weitere 20 Anzeigen für Pornografie mit Erwachsenen aus.
Indien bestellt Meta-Vertreter ein
Die BBC übermittelte ihre Erkenntnisse an die indischen Behörden. Daraufhin bestellte die Regierung Vertreter von Meta ein, um eine Erklärung zu verlangen.
Die Behörden wollen nun wissen, wie die Anzeigen die Moderationssysteme von Instagram passieren konnten, obwohl die Unternehmensrichtlinien sexuell explizite und ausbeuterische Inhalte verbieten.
Die Untersuchung hat zudem neue Zweifel daran geweckt, ob automatisierte Moderationssysteme illegale Anzeigen zuverlässig erkennen können, bevor sie Nutzer erreichen.
Meta verteidigt sein Anzeigenprüfsystem
Nach den Werberichtlinien von Meta dürfen Werbetreibende keine Inhalte mit Nacktheit, sexuellen Handlungen oder sexuell anzüglichen Darstellungen veröffentlichen.
Das Unternehmen überprüft Anzeigen zunächst mithilfe automatisierter Systeme. Menschliche Moderatoren greifen ein, wenn die Systeme nicht eindeutig feststellen können, ob eine Anzeige gegen die Regeln verstößt.
Dennoch ließ Meta zunächst eine Anzeige online, die von der BBC gemeldet worden war, nachdem Prüfer zu dem Schluss gekommen waren, dass sie nicht gegen die Gemeinschaftsstandards der Plattform verstoße.
Nachdem die BBC eine Stellungnahme angefordert hatte, räumte Meta ein, dass seine Moderationssysteme nicht jeden Richtlinienverstoß erkennen können.
Das Unternehmen erklärte außerdem, Anzeigen auch nach ihrer Veröffentlichung weiterhin zu überprüfen, und forderte Nutzer auf, Anzeigen zu melden, die gegen die Regeln verstoßen. Darüber hinaus meldet Meta mutmaßliches Material über sexuellen Kindesmissbrauch an das National Center for Missing and Exploited Children (NCMEC), das mit Strafverfolgungsbehörden zusammenarbeitet.
Meta entfernt Anzeigen und Werbekonten
Nach der Überprüfung der BBC-Erkenntnisse entfernte Meta mehrere der identifizierten Anzeigen und deaktivierte die Konten, über die sie veröffentlicht worden waren.
Das Unternehmen sperrte außerdem weitere Werbekonten und URLs, die gegen seine Richtlinien verstießen.
Obwohl Meta angibt, dass automatisierte Systeme Anzeigen auch nach der Veröffentlichung weiter überwachen, zeigt der Fall, dass illegale Inhalte weiterhin die automatischen Kontrollen umgehen können.
Telegram entfernt einen gemeldeten Kanal
Die BBC identifizierte außerdem zwei Telegram-Kanäle, die angeblich Videos mit sexuellem Kindesmissbrauch verkauften.
Telegram entfernte einen der Kanäle wegen eines Verstoßes gegen die Nutzungsbedingungen. Der zweite Kanal veröffentlichte laut BBC jedoch auch nach der Meldung weiterhin neues Material zum Verkauf.
Gegenüber der BBC erklärte Telegram, man habe „die öffentliche Verbreitung von CSAM praktisch vollständig beseitigt“, und verwies dabei auf automatisierte Erkennungssysteme sowie menschliche Moderation.
Indien meldet fast zwei Millionen mutmaßliche CSAM-Fälle
Die Untersuchung erfolgt zu einem Zeitpunkt, an dem Indien weiterhin zu den Ländern mit den weltweit höchsten Zahlen mutmaßlicher Fälle von Material über sexuellen Kindesmissbrauch gehört.
Nach Angaben der BBC meldeten Organisationen im Jahr 2025 rund 1,9 Millionen mutmaßliche CSAM-Fälle in Indien. Nur die USA verzeichneten mit etwa 2 Millionen Fällen eine höhere Zahl.
Die Untersuchung dürfte den Druck auf Meta und andere soziale Netzwerke erhöhen, ihre Systeme zur Anzeigenprüfung weiter zu verbessern und zu verhindern, dass illegale Inhalte über bezahlte Werbung Nutzer erreichen.
0 Kommentare zu „Instagram-Anzeigen mit Kindesmissbrauchsmaterial lösen Untersuchung von Metas Anzeigenprüfung in Indien aus“