In het kort
- Instagram heeft in India betaalde advertenties geplaatst die materiaal over seksueel misbruik van kinderen promoten.
- De geautomatiseerde moderatie van Meta heeft expliciete criminele inhoud niet weten te blokkeren.
- Winstmotieven en algoritmen voor gebruikersbetrokkenheid gaan vaak ten koste van de veiligheid van gebruikers.
Uit onderzoek van BBC Eye is gebleken dat Instagram in India betaalde advertenties heeft geplaatst die materiaal over seksueel misbruik van kinderen promoten. Deze advertenties, die door de BBC World Service zijn ontdekt, gebruiken expliciete trefwoorden als ‘kindervideo’ en ‘verkrachtingsvideo’ om gebruikers naar Telegram-kanalen te leiden waar illegale inhoud wordt verkocht voor slechts 99 roepies.
Weg naar expliciete inhoud
Het onderzoek begon nadat de BBC een nepaccount had aangemaakt in India. In eerste instantie stelde het platform suggestieve content en profielen van vrouwen voor met seksuele toespelingen. Binnen een week verschenen er advertenties in de feed met pornografie voor volwassenen en naakte stelletjes.
Kort daarna kreeg het account zo’n 30 verschillende advertenties te zien die de seksuele uitbuiting van kinderen promootten, waarvan sommige minderjarigen in expliciete handelingen lieten zien of zinspeelden op seksueel misbruik.
Tekortkomingen
Ondanks de bewering van Meta dat alle advertenties vóór publicatie via geautomatiseerde technologie worden gecontroleerd, slaagde het systeem er niet in deze inhoud te blokkeren. Toen de BBC melding maakte van één specifieke advertentie waarin een verontrust jong meisje te zien was, antwoordde Instagram aanvankelijk dat de post niet in strijd was met de communityrichtlijnen.
Naar aanleiding van de bevindingen van het onderzoek verklaarde Meta dat het de betreffende accounts inmiddels had opgeschort en de advertenties had verwijderd, waarbij het erkende dat geen enkel moderatiesysteem foutloos is.
Omzet versus veiligheid van gebruikers
De financiële gevolgen van deze tekortkomingen zijn aanzienlijk. Reclame vormt het overgrote deel van Meta’s inkomsten. Brian Boland, een voormalig Facebook-topman, suggereerde dat het streven van het bedrijf naar clicks en inkomsten vaak zwaarder weegt dan de veiligheid van gebruikers.
Hij stelde dat het algoritme is ontworpen om extremere content te pushen om gebruikers betrokken te houden, wat onbedoeld de verspreiding van schadelijk materiaal kan bevorderen als dit niet streng wordt aangepakt.
Juridische gevolgen in India
Juridische experts in India hebben hun ernstige bezorgdheid geuit. Madan Lokur, een gepensioneerd rechter van het Hooggerechtshof, suggereerde dat Meta zou kunnen worden gezien als een bedrijf dat profiteert van criminele activiteiten.
Hij stelde dat het platform zijn verantwoordelijkheid niet kan ontlopen, ondanks de wettelijke bescherming voor socialemediabedrijven met betrekking tot door gebruikers geüploade content.
De Telegram-gateway
Het onderzoek bracht ook de rol van Telegram aan het licht, waar veel van het illegale materiaal daadwerkelijk wordt verhandeld. Hoewel Telegram beweert in 2026 meer dan 274.000 groepen met betrekking tot kindermisbruik te hebben verwijderd, ontdekte de BBC dat sommige gemelde kanalen nog steeds actief waren.
Critici wijzen erop dat Telegram geen lid is van wereldwijde veiligheidsorganisaties zoals de Internet Watch Foundation of het NCMEC.
De strijd tegen criminele netwerken
In India gaat de strijd tegen dit soort content gewoon door. Shikha Goel van het Telangana Cyber Security Bureau merkte op dat Meta-platforms veel meldingen genereren, hoewel dit misschien te wijten is aan hun detectiealgoritmen.
Ondertussen constateerde de Rati Foundation dat criminelen Instagram vaak gebruiken als toegangspoort naar Telegram om de moderatie te omzeilen. Bhuwan Ribhu van Just Rights for Children benadrukte dat het bestrijden van deze georganiseerde criminele netwerken betere technische vaardigheden bij de politie en een intensievere internationale uitwisseling van inlichtingen vereist.
Schrijf je hieronder in voor onze GRATIS nieuwsbrief
