Velen zullen de afgelopen uren, op Instagram, op niet bepaald zachtaardige inhoud zijn gestuit. Dodelijke ongevallen, verminkingen en geweld van allerlei aard verschenen op de schermen van duizenden gebruikers, waaronder tieners, gedurende een periode die voldoende was om de meesten te storen en de nodige meldingen te versturen.
Een fout in het algoritme zou ervoor hebben gezorgd dat honderden gewelddadige video’s in de feeds van Instagram verschenen, een fout die Meta zou hebben erkend, waarna ze ingrepen om het te corrigeren en hun excuses aanboden aan het publiek. Het is echter onduidelijk hoeveel gebruikers betrokken waren en hoeveel video’s ten onrechte tussen de voorgestelde inhoud zijn geplaatst. Wel is het zo dat talrijke abonnees het probleem rechtstreeks aan het platform hebben gemeld.
Beschermingsmaatregelen faalden
De “storing” had ernstige gevolgen: de video’s bereikten zelfs de tijdlijnen met beperkingen voor gevoelige inhoud, die speciaal zijn gemaakt om minderjarigen te beschermen. De verspreide beelden waren bijzonder schokkend, zoals sommige Amerikaanse media meldden: verkeersongevallen, verminkingen op het werk, fatale valpartijen van attracties in pretparken (de video’s werden achter elkaar getoond, zonder onderbrekingen, en kwamen van pagina’s die de gebruiker niet kende, met namen als BlackPeopleBeingHurt, ShockingTragedies en PeopleDyingHub).
“We hebben een probleem opgelost waardoor sommige gebruikers in hun Instagram Reels feeds inhoud zagen die niet had moeten worden voorgesteld. Onze excuses voor het ongemak – verklaarde een woordvoerder van Meta.”
De onderneming heeft echter geen details verstrekt over de aard van de fout of waarom het inhoudscontrolesysteem niet naar behoren functioneerde.
Meta’s moderatiebeleid onder vuur
Het voorval wakkert het debat over de moderatiebeleid van Meta opnieuw aan, dat al onder de loep ligt na de recente beslissing om het fact-checking programma in de Verenigde Staten op Facebook, Instagram en Threads stop te zetten. Deze drie platforms hebben gezamenlijk meer dan 3 miljard gebruikers wereldwijd.
Over het algemeen zijn gewelddadige en expliciete inhoud verboden volgens de beleidsregels van Meta, die ze meestal verwijdert om de gemeenschap te beschermen. In sommige gevallen staat het bedrijf echter de publicatie van video’s met schokkende beelden toe als deze nuttig worden geacht om bewustzijn te creëren over kwesties zoals mensenrechtenschendingen of conflicten.