In het kort
- Elon Musks AI-chatbot Grok krijgt wereldwijd kritiek omdat het mogelijk maakt om ongepaste deepfakes te maken.
- Het beperken van de toegang tot tools voor het genereren van afbeeldingen via betaalde abonnementen lost het onderliggende probleem van het maken van schadelijke content niet op.
- Overheden over de hele wereld eisen strengere maatregelen van platforms zoals X om het genereren en verspreiden van illegale beelden te voorkomen.
Elon Musks AI-chatbot Grok heeft veel kritiek gekregen nadat gebruikers de beeldbewerkingsfunctie ervan gebruikten om ongepaste deepfakes te maken. Deze deepfakes toonden vrouwen en kinderen in seksueel suggestieve scenario’s, wat leidde tot bezorgdheid bij overheden en belangenorganisaties wereldwijd.
Oplossing met beperkte toegang
Als reactie op de controverse heeft Grok de toegang tot zijn tools voor het genereren en bewerken van afbeeldingen beperkt, waardoor deze alleen beschikbaar zijn voor betalende abonnees. Door deze maatregel moeten gebruikers betalingsgegevens en persoonlijke gegevens verstrekken om deze functies te kunnen gebruiken.
Critici zeggen dat het beperken van de toegang tot een betaald abonnement geen echte oplossing is. Het kantoor van de Britse premier Keir Starmer noemde het besluit “beledigend” voor slachtoffers van seksueel geweld, omdat het in feite het maken van schadelijke content tot een handelsartikel maakt. Ook de Europese Unie (EU) heeft nog eens gezegd dat ze tegen het maken van zulke illegale beelden is, of je er nu voor moet betalen of niet.
Wereldwijde veroordeling
De EU heeft geëist dat platforms zoals X maatregelen nemen om het maken van illegale content te voorkomen. Ze hebben X ook opgedragen om alle relevante gegevens met betrekking tot Grok te bewaren tot eind 2026. Andere landen, waaronder Frankrijk, Maleisië en India, hebben ook hun afkeuring uitgesproken over het platform van Musk in het licht van de deepfake-controverse.
Musk heeft gezegd dat iedereen die Grok gebruikt om illegale content te maken, dezelfde gevolgen krijgt als degenen die dergelijke content rechtstreeks uploaden. X zegt illegale content aan te pakken door deze te verwijderen, accounts op te schorten en indien nodig samen te werken met wetshandhavingsinstanties.