YouTube introduceert een nieuwe tool die makers moet helpen zich te beschermen tegen deepfakes waarin hun gezicht wordt gemanipuleerd. De zogenoemde lookalike-detectietool scant geüploade video’s op kunstmatig bewerkte gezichten en geeft makers de mogelijkheid om verwijdering aan te vragen. Maar de manier waarop YouTube de identiteit van gebruikers wil verifiëren, veroorzaakt meteen stevige kritiek.
Om de nieuwe functie te gebruiken, moeten makers een overheidsidentificatie én een biometrische video van hun gezicht insturen. Dat roept vragen op over de veiligheid van die gevoelige gegevens, meldt CNBC.
YouTube benadrukt dat de biometrische informatie enkel wordt gebruikt om identiteiten te bevestigen en de beveiliging te ondersteunen. Toch wijzen experts erop dat de gegevens onder het bredere privacybeleid van Google vallen. Dat betekent dat openbare biometrische informatie mogelijk kan worden gebruikt om AI-modellen te trainen.
Experts waarschuwen voor misbruik
Beveiligingsbedrijven zoals Vermillio en Loti adviseren makers om voorzichtig te zijn. Ze benadrukken dat het opgeven van biometrische controle grote risico’s inhoudt, zeker nu een gezicht steeds vaker wordt gezien als een waardevol digitaal bezit. Wie die controle eenmaal verliest, kan ze volgens hen vrijwel onmogelijk terugkrijgen.
Critici zijn vooral bezorgd dat Google de gezichtsgegevens van gebruikers zou kunnen hergebruiken voor eigen AI-ontwikkeling, zonder expliciete toestemming of vergoeding.
YouTube verdedigt de nieuwe aanpak
YouTube stelt dat de tool juist bedoeld is om makers te beschermen tegen misbruik van hun afbeelding. De detectiefunctie wordt naar verwachting eind januari beschikbaar voor miljoenen creators binnen het YouTube-partnerprogramma. Volgens het platform moet de tool creators helpen hun reputatie te beschermen en het vertrouwen van hun publiek te behouden in een tijd waarin deepfakes explosief toenemen.
Toch blijven er zorgen bestaan. Makers vrezen dat er geen manier is om te verdienen aan ongeautoriseerd gebruik van hun gezicht, en sommigen vragen zich af hoe betrouwbaar de detectie is. Fout-positieven zouden namelijk kunnen leiden tot onterecht verwijderde video’s.
YouTube zegt dat de eerste tests positief waren en dat de meeste makers, zelfs wanneer hun inhoud als verdacht werd gemarkeerd, ervoor kozen de video niet te laten verwijderen.