En granskning från BBC avslöjade Instagramannonser som verkade marknadsföra material med sexuella övergrepp mot barn (CSAM) för användare i Indien. Upptäckten fick den indiska regeringen att inleda en utredning av Metas annonsrutiner. Fynden har också väckt nya frågor om hur effektivt företagets system för annonsgranskning egentligen är, efter att betalda annonser påstås ha lett användare till Telegram-kanaler som sålde olagligt material.
BBC hittar Instagramannonser med övergreppsmaterial mot barn i Indien
BBC upptäckte dussintals betalda Instagramannonser med fraser som ”rape video” och ”child video”. Annonserna ledde användare till Telegram-kanaler där säljare påstods erbjuda material med sexuella övergrepp mot barn för så lite som 99 indiska rupier, motsvarande cirka en amerikansk dollar.
BBC inledde granskningen efter att ha upptäckt att Instagram rekommenderade sexuellt anspelande innehåll utan att användaren själv hade sökt efter det. För att testa plattformen skapade journalister ett nytt Instagramkonto baserat i Indien.
Inom en vecka började Instagram visa annonser som marknadsförde explicita videosamtal och sexuellt innehåll för vuxna. Några dagar senare började plattformen även visa annonser där barn förekom tillsammans med vuxna i sexuellt anspelande situationer.
BBC dokumenterade 30 unika annonser som verkade marknadsföra material med sexuella övergrepp mot barn. Under granskningen visade Instagram dessutom ytterligare 20 annonser som marknadsförde vuxenpornografi.
Indien kallar Meta till förklaring
BBC delade sina resultat med indiska myndigheter, vilket fick regeringen att kalla Metas representanter till ett möte för att förklara hur annonserna kunde godkännas.
Myndigheterna vill nu veta hur annonserna lyckades passera Instagrams modereringssystem trots företagets regler som förbjuder sexuellt explicit och exploaterande innehåll.
Granskningen har också väckt nya frågor om huruvida automatiserade modereringsverktyg verkligen kan identifiera olagliga annonser innan de når användarna.
Meta försvarar sitt system för annonsgranskning
Metas annonspolicy förbjuder annonsörer att publicera innehåll med nakenhet, sexuella handlingar eller sexuellt anspelande bilder.
Företaget granskar annonser med hjälp av automatiserade system innan de godkänns. Om systemen inte kan avgöra om en annons bryter mot reglerna tar mänskliga moderatorer över granskningen.
Trots detta lät Meta inledningsvis en annons som BBC hade flaggat ligga kvar efter att granskarna bedömt att den inte stred mot plattformens communityregler.
Efter att BBC begärt en kommentar medgav Meta att företagets modereringssystem inte kan upptäcka alla regelöverträdelser.
Meta uppgav också att företaget fortsätter att granska annonser även efter publicering och uppmuntrar användare att rapportera annonser som bryter mot reglerna. Företaget rapporterar dessutom misstänkt material med sexuella övergrepp mot barn till National Center for Missing and Exploited Children (NCMEC), som samarbetar med brottsbekämpande myndigheter.
Meta tar bort annonser och annonskonton
Efter att ha granskat BBC:s uppgifter tog Meta bort flera av de annonser som identifierades under utredningen och stängde de konton som låg bakom publiceringen.
Företaget blockerade även ytterligare annonskonton och webbadresser som bröt mot dess policyer.
Meta säger att de automatiserade systemen fortsätter att övervaka annonser efter publicering. Fallet visar dock att olagligt innehåll fortfarande kan ta sig förbi den automatiska granskningen.
Telegram stänger en av de anmälda kanalerna
BBC identifierade även två Telegram-kanaler som påstods sälja videor med sexuella övergrepp mot barn.
Telegram stängde en av kanalerna för brott mot plattformens användarvillkor. Den andra kanalen fortsatte däremot enligt BBC att publicera nytt material till försäljning även efter anmälan.
Telegram uppgav för BBC att företaget ”i princip har eliminerat den offentliga spridningen av CSAM” genom automatiserad upptäckt och mänsklig moderering.
Indien rapporterar nära två miljoner fall av misstänkt CSAM
Granskningen kommer samtidigt som Indien fortsätter att rapportera ett av världens högsta antal misstänkta fall av material med sexuella övergrepp mot barn.
Enligt uppgifter som BBC hänvisar till rapporterade organisationer omkring 1,9 miljoner misstänkta CSAM-fall i Indien under 2025. Endast USA registrerade fler rapporter, med omkring 2 miljoner under samma period.
Utredningen väntas öka pressen på Meta och andra sociala medieplattformar att stärka sina system för annonsgranskning och förhindra att olagligt innehåll sprids via betalda annonser.
0 svar till ”Instagramannonser med övergreppsmaterial mot barn leder till utredning av Metas annonsgranskning i Indien”