In het kort
- Online platforms slagen er niet in om de risico’s binnen hun eigen activiteiten nauwkeurig in te schatten.
- Aanbevelingssystemen kunnen bijdragen aan geestelijke gezondheidsproblemen en politieke polarisatie.
- De Europese Commissie onderzoekt verschillende platforms, waaronder X en Temu, over hun aanbevelingssystemen.
Grote online platforms, zoals Facebook, TikTok en Google, schieten tekort in het nauwkeurig inschatten van risico’s binnen hun eigen activiteiten. Dat blijkt uit een onderzoek van de DSA Civil Society Coordination Group (CSCG), een coalitie van organisaties zoals het Center for Democracy and Technology, BEUC, Mozilla en Access Now.
De eerste reeks jaarverslagen, die vorig november werden ingediend onder de EU Digital Services Act (DSA), kregen kritiek omdat ze zich te veel richten op inhoudsmoderatie. De rapporten negeren vaak de systeemrisico’s die voortkomen uit het ontwerp van de platforms zelf.
Aanbevelingssystemen onder de loep
Functies zoals aanbevelingssystemen, die vaak worden aangedreven door engagementmetingen, kunnen aanzienlijk bijdragen aan problemen zoals geestelijke gezondheidsproblemen en politieke polarisatie. Deze systemen versterken schadelijke inhoud, wat volgens de CSCG een groot risico vormt.
“Ontwerpkeuzes, vooral die gedreven door engagementmetingen, kunnen een belangrijke rol spelen bij het creëren van systeemrisico’s”, volgens het rapport. “Toch richten veel rapporten zich vooral op inhoudsmoderatie, in plaats van te kijken naar hoe het platformontwerp zelf schade kan veroorzaken.”
Regelgeving en handhaving
De DSA verplicht platforms om ad hoc risicobeoordelingen uit te voeren voordat ze nieuwe functies of producten in de EU lanceren. Dit heeft er bijvoorbeeld toe geleid dat TikTok vorig jaar zijn “TikTok Lite-beloningsprogramma” van de EU-markt haalde. De Europese Commissie uitte zorgen over de mogelijke negatieve gevolgen voor de geestelijke gezondheid van gebruikers. Dat werd gemeld door Euronews.
De Commissie heeft volgens Euronews, verschillende onderzoeken geopend onder de DSA en heeft platforms om informatie gevraagd over hun aanbevelingssystemen. Onder meer X en Temu kregen dergelijke verzoeken.
