Twitter werkte begin dit jaar aan een nieuwe functie waarbij gebruikers hun (naakt-)foto’s en video’s konden delen tegen betaling. Het onderzoek dat moest uitzoeken of dit mogelijk zou zijn, bracht echter een groot probleem aan het licht. Twitter lijkt niet voldoende te kunnen doen tegen de verspreiding van kinderporno op het platform.

Een onderzoek van The Verge heeft aangetoond dat Twitter plannen had om een eigen versie van het platform OnlyFans op poten te zetten. Maar dat kwam er uiteindelijk niet aangezien er een enorm probleem is op het platform omtrent kinderporno.

OnlyFans op Twitter

Op dit moment kan je op Twitter heel wat zogenaamde ‘adult content’ vinden. Het gaat daarbij om sexy (naakt-)foto’s en video’s of pornografisch materiaal. Twitter wilde dit aanpakken door een eigen platform uit te bouwen waarop gebruikers hun (naakt-)foto’s en video’s kunnen delen met fans tegen betaling.

Dat zou niet enkel lucratief zijn voor de gebruikers die beelden willen delen, maar ook voor Twitter. OnlyFans boekt namelijk enorme winsten en er wordt verwacht dat het bedrijf dit jaar zou afsluiten met een omzet van 2,5 miljard dollar (eveneens 2,5 miljard euro).

Twitter stelde begin dit jaar een team samen van 84 werknemers die moesten testen of het mogelijk was om dit project uit te bouwen en om dat te doen op een verantwoorde en veilige manier. Het zijn werknemers van dat team die nu hun boekje open doen bij The Verge.

Kinderporno

Het team stootte al snel op een probleem. “Twitter is niet in staat om kinderporno en naaktheid zonder toestemming op te sporen”, staat te lezen in het rapport van het team. Daarom werd het project in mei, enkele weken nadat Elon Musk een bod van 44 miljard deed op Twitter, op de lange baan geschoven. Maar dat verandert natuurlijk niets aan het probleem rond kinderporno op Twitter. Twitter liet eerder al weten dat het een nultolerantie hanteert wat kinderporno betreft. Maar de methodes die ze nu gebruiken om dit op te sporen, schieten duidelijk te kort.

Twitter maakt gebruik van PhotoDNA. Dat is een database waarmee de foto’s op Twitter vergeleken worden. Maar deze database kan enkel bekende beelden opsporen. Daardoor glippen er heel wat foto’s door de mazen van het net. Volgens National Center for Missing and Exploited Children (NCMEC) zit 84 procent van de gevallen van kinderporno niet in de database. Al deze foto’s kunnen dus niet opgespoord worden door de technologie die Twitter gebruikt. Daarom gebruikt Twitter nog een tweede systeem, RedPanda genaamd. Maar dit zou een verouderde tool zijn die “een van de meest kwetsbare, inefficiënte en slecht ondersteunde tools ooit is om kinderporno op te sporen”.

Elon Musk besloot recent om Twitter toch niet te kopen. Zijn grootste reden daarvoor was het probleem rond fake profielen en bots op het platform. “Een slag in het gezicht”, zo omschrijft een voormalige werknemer van Twitter het. “Het is ronduit belachelijk dat Elon Musk verklaarde dat spam de allerbelangrijkste vraag was die beantwoord moest worden voordat hij het bedrijf kon kopen. Terwijl er een groot probleem rond kinderporno bestaat op het platform.”