In het kort
- Maleisië en Indonesië hebben Elon Musks AI-chatbot Grok verboden omdat ze bang zijn dat het misbruikt kan worden om zonder toestemming expliciete content te maken.
- Het misbruik van Grok laat zien welke ethische uitdagingen er zijn door de snelle ontwikkeling van AI-technologie en de impact daarvan op individuele rechten en online veiligheid.
Bezorgdheid over seksueel expliciete deepfakes die zijn gemaakt door Elon Musks AI-chatbot Grok heeft ertoe geleid dat Maleisië en Indonesië als eerste landen de toegang tot de tool hebben geblokkeerd.
Misbruik voor expliciete inhoud
Grok, dat je kunt vinden op het X-platform van Musk, laat gebruikers afbeeldingen maken, maar is misbruikt om expliciete content te genereren met echte personen. Beide Zuidoost-Aziatische landen noemden het risico dat Grok zonder toestemming porno met vrouwen en kinderen zou kunnen maken als belangrijkste reden voor het verbod.
De Maleisische Commissie voor Communicatie en Multimedia heeft eerder dit jaar waarschuwingen afgegeven aan X en hen aangespoord om strengere controles in te voeren nadat herhaaldelijk misbruik van Grok was ontdekt. De reactie van X is echter als ontoereikend beschouwd, omdat deze zich voornamelijk richtte op meldingsmechanismen voor gebruikers in plaats van de inherente risico’s van het ontwerp van het platform aan te pakken. De commissie verklaarde dat het verbod van kracht zou blijven totdat er effectieve waarborgen zijn ingevoerd.
Standpunt van Indonesië
De Indonesische minister van Communicatie en Digitale Zaken, Meutya Hafid, veroordeelde het gebruik van Grok voor het genereren van seksueel expliciete inhoud als een schending van de mensenrechten, waardigheid en online veiligheid. Het ministerie heeft X ook om opheldering gevraagd over het gebruik van Grok.
Deze stap volgt op eerdere maatregelen van Indonesië tegen online pornografie, waarbij platforms als OnlyFans en Pornhub al in het land zijn verboden.
Internationale kritiek
De internationale gemeenschap heeft het misbruik van Grok voor het genereren van seksueel getinte content veroordeeld. De Britse premier Keir Starmer noemde het “schandalig” en “walgelijk”. Minister van Technologie Liz Kendall sprak haar steun uit voor de Britse mediaregulator Ofcom als die zou besluiten de toegang tot X in het Verenigd Koninkrijk te blokkeren vanwege niet-naleving van de wetgeving inzake online veiligheid. Ze benadrukte dat de Online Safety Act Ofcom de bevoegdheid geeft om diensten te blokkeren die zich niet aan de Britse wetgeving houden.