Google, Facebook en Twitter zullen maatregelen moeten nemen tegen het verspreiden van deepfakes en nepaccounts. De techbedrijven riskeren forse boetes, zo blijkt uit de bijgewerkte gedragscode van de Europese Unie.

De EU zal naar verwachting de bijgewerkte gedragscode op donderdag publiceren, als onderdeel van haar verharde optreden tegen nepnieuws. Een eerste versie van die code stamt uit 2018 en was een vrijwillige, echter de bijgewerkte versie wordt gekoppeld aan de strenge EU-regels van de Digital Service Act (DSA) en kan bedrijven boetes opleggen tot 6 procent van hun wereldwijde omzet. De grote socialemediagiganten lieten weten in te stemmen met de nieuwe gedragscode.

Juridische ruggengraat

Een opvallend nieuw element in de gedragscode heeft betrekking tot deepfakes en nepaccounts. “De betrokken ondertekenaars zullen een duidelijk beleid moeten vaststellen, versterken en uitvoeren met betrekking tot ontoelaatbaar manipulatief gedrag op hun diensten, die gebruik maken van de meest recente technieken en tactieken, waaronder deepfakes”, aldus het document.

“De DSA biedt een juridische ruggengraat voor de gedragscode tegen desinformatie, met inbegrip van zware afschrikwekkende sancties”, aldus Thierry Breton, die bij de EU verantwoordelijk is voor het aanpakken van desinformatie.

Deepfakes zijn hyperrealistische vervalsingen van personen die met kunstmatige intelligentie worden gecreëerd. Het is een vorm van digitale face-swapping, die niet van echt te onderscheiden is.

Vera Jourova, Europees Commissaris voor Transparantie en Waarden, zei dat de inval van Rusland in Oekraïne, die Moskou een speciale operatie noemt, aan de basis lag van enkele wijzigingen in de gedragscode. “Zodra de code operationeel is, zullen we beter voorbereid zijn om desinformatie, ook afkomstig van Rusland, aan te pakken”, zei ze in een verklaring.

Meta gaat details delen over hoe adverteerders zich richten op gebruikers

De ondertekenaars zullen ook maatregelen moeten nemen om reclame die desinformatie bevat aan te pakken. Het moederbedrijf van Facebook en Instagram, Meta, zal daarom dit jaar beginnen met het openbaar maken van details over hoe adverteerders zich richten op de gebruikers van beide platformen.

“Door gebruikers te informeren over waarom ze bepaalde advertenties krijgen en van wie, met betrekking tot sociale kwesties, verkiezingen en politiek, hopen we mensen te helpen beter te begrijpen welke praktijken er worden gebruikt door adverteerders om potentiële kiezers te bereiken op onze technologieën”, aldus Jeff King, in een verklaring van Meta.

De nieuwe details die het bedrijf prijs gaat geven kunnen een licht werpen op de manier waarop sommige politici hun misleidende of controversiële boodschappen verspreiden onder bepaalde groepen mensen.

Deepfakes zijn een serieus probleem

Dat deepfakes een serieus probleem zijn bewees een onderzoek van Sensity.AI, dat zich bezighoudt met digitale veiligheid. Uit hun onderzoek bleek dat deepfakes in 86 procent van de gevallen succesvol geautomatiseerde beveiligingscontroles van banken en andere instellingen wisten op te lichten. Fraudeurs en witwassers kunnen op het internet gestolen ID’s kopen en in combinatie met deepfakes gemakkelijk bankrekeningen openen op naam van iemand anders. 

En ook de Amerikaanse FBI maakt zich steeds meer zorgen over de flinke toename van deepfakes. Specifiek gaat het de federale politie dienst om de verspreiding van video’s van de Oekraïense president Zelensky. De Amerikanen zijn bang dat de Russen een deepfake video maken, waarin de president de capitulatie van het land aankondigt.

(ns)