Sinds enkele dagen onthult een consortium van Amerikaanse media een aantal (op zijn zachtst gezegd) zeer gênante gegevens over Facebook. De basis van hun werk: duizenden interne documenten gelekt door een klokkenluider, Frances Haugen. Hier zijn drie van de meest schandalige zaken die uit de Facebook Papers naar voren komen.
1. Een zeer nuttig platform voor mensenhandelaars
Volgens CNN is Facebook zich sinds 2018 bewust van mensenhandelaren die zijn platforms gebruiken. Een jaar later bereikte de informatie zelfs de oren van Apple. Het bedrijf dreigde Facebook uit de App Store te verwijderen als het dat probleem niet aanpakte.
Het bedrijf van Marc Zuckerberg zag “ernstige gevolgen” in deze mogelijke verwijdering, dus ging het echt aan de slag. Facebook nam voldoende maatregelen om niet uit de App Store te worden verwijderd, maar de genomen maatregelen waren te beperkt om mensenhandelaren weg te houden.
In een verslag uit januari 2020 dat binnen het bedrijf circuleerde, stond naar verluidt dat “ons platform alle drie fasen van de levenscyclus van de uitbuiting van mensen (rekrutering, facilitering, uitbuiting) mogelijk maakt”. In een ander verslag, van eerder dit jaar, zou worden gewezen op het feit dat “er op het platform nog steeds leemten zijn in onze opsporing van entiteiten die zich schuldig maken aan huishoudelijke slavernij”.
Huishoudelijke slavernij is een vorm van mensenhandel waarbij mensen gedwongen worden om in een privéwoning te werken. De mensenhandelaars maken daarbij onder meer gebruik van geweld, fraude en misleiding.
Vorige week nog vond CNN opnieuw actieve accounts op Instagram die huishoudelijk personeel te koop leken aan te bieden. Deze werden gedeactiveerd zodra de Amerikaanse nieuwssite erover berichtte.
2. Vrij spel voor een internationaal drugskartel
Cartél Jalisco Nueva Generación (CJNG) is een criminele organisatie die is opgericht in Mexico en wereldwijd actief is. De belangrijkste activiteit is drugshandel. Een van hun favoriete platforms is Facebook.
Een maand geleden onthulde de Wall Street Journal dat het kartel Facebook gebruikte om afbeeldingen en andere inhoud te plaatsen om zijn vijanden te bedreigen. En dat het zijn sociale netwerken gebruikte om nieuwe leden te werven. In de nasleep hiervan reageerde het bedrijf door bepaalde afbeeldingen en accounts te verwijderen. Het zei ook te investeren in kunstmatige intelligentieen andere middelen om dergelijke inhoud proactief te identificeren en van de platforms te verwijderen.
Het is duidelijk dat Facebook nog een lange weg heeft af te leggen. Maandag vond CNN beelden van onthoofdingen (naast andere wreedheden) gemaakt en gepubliceerd door leden van het Cartél Jalisco Nueva Generación. Nogmaals, het sociale netwerk was er snel bij om veel van de gerapporteerde inhoud te verwijderen.
“De kern van deze verhalen is een premisse die onjuist is”, zei een woordvoerder van Facebook in een verklaring aan CNN. “Ja, we zijn een bedrijf en we maken winst, maar het idee dat we dat doen ten koste van de veiligheid of het welzijn van mensen klopt niet.”
Als er media-onderzoeken voor nodig zijn om Facebook daarna te laten reageren, is er alle reden om aan te nemen dat de CJNG haar platforms zal blijven gebruiken voor welk doel dan ook.
3. Oproepen tot etnische haat
De Facebook Papers brengen ook een van de grootste problemen van Facebook op het gebied van moderatie aan het licht: het gebruik van talen. Het sociale netwerk heeft er altijd naar gestreefd wereldwijd uit te breiden en is momenteel in meer dan 190 landen aanwezig. Het heeft meer dan 2,8 miljard maandelijkse gebruikers, die inhoud plaatsen in meer dan 160 talen. En daar knelt het schoentje.
Reuters onthulde dat Facebook niet genoeg moderatoren in dienst heeft om verboden inhoud te identificeren die in de op zijn platforms gebruikte talen wordt geplaatst. Dit is zeer gevaarlijk wanneer lokale conflicten uitbreken en de Facebook-medewerkers de taal van de strijdende partijen kennen, noch weten waar het werkelijk om gaat.
In een vorig jaar op het interne forum van Facebook gepubliceerde analyse over de middelen die het bedrijf gebruikt om misbruik op zijn site op te sporen, wees een medewerker op “significante lacunes” in sommige landen waar het risico op echt geweld groot is, waaronder Myanmar en Ethiopië.
In 2018 zeiden VN-deskundigen, die een onderzoek deden naar een brutale campagne van moorden en deportaties tegen de Rohingya-moslimminderheid in Myanmar, dat Facebook op grote schaal werd gebruikt om haatzaaiende taal tegen die groep te verspreiden. Dit heeft het bedrijf ertoe aangezet zijn personeelsbestand in kwetsbare landen uit te breiden, aldus een voormalige werknemer aan Reuters. Maar nogmaals, Facebook doet niet genoeg.
In 2020 bleek bijvoorbeeld dat het bedrijf nog steeds geen algoritmen had om haatzaaiende taal in het Oromo en Amhaars, twee Ethiopische talen, te detecteren. Deze maand vond Reuters berichten in het Amhaars waarin verschillende etnische groepen als de vijand werden genoemd en met de dood werden bedreigd. Ethiopië is al bijna een jaar verwikkeld in een conflict tussen de regeringstroepen en de rebellen in de regio Tigray. Duizenden mensen zijn als gevolg van deze gewelddadige confrontaties gedood.
Facebook heeft een soortgelijk probleem in India. Dit jaar gaven medewerkers voorbeelden van “paniekzaaierij en anti-moslimverhalen” op hun site in India, waaronder oproepen tot uitzetting van de grote moslimminderheid van het land. “Ons gebrek aan Hindi en Bengaalse classificeerders betekent dat veel van deze inhoud nooit wordt gerapporteerd of behandeld”, aldus het document. In interne berichten wordt ook gewezen op het gebrek aan algoritmen in Urdu en Pashto om problematische inhoud te detecteren die door gebruikers in Pakistan, Iran en Afghanistan is gepost. (am)