In het kort
- X wordt door regelgevende instanties onder de loep genomen omdat het gebruikers toestaat vernederende afbeeldingen te genereren met Grok AI.
- De vertraagde implementatie van een wetgeving door de Britse overheid die het maken van intieme beelden zonder toestemming strafbaar maakt, doet vragen rijzen.
- De mogelijkheden van Grok, waaronder het genereren van suggestieve afbeeldingen met minimale kleding, verduidelijken de complexe juridische uitdagingen.
Elon Musk’s platform, X, blijft vernederende afbeeldingen maken ondanks de belofte van het bedrijf om gebruikers die ze genereren met behulp van Grok AI te schorsen.
Zorgen over de mogelijkheden van Grok
De Europese Commissie onderzoekt klachten over het gebruik van Grok bij het genereren en verspreiden van seksueel expliciete beelden van minderjarigen.
De bezorgdheid ontstond nadat een update in december van Grok, de gratis AI-assistent van Musk, het makkelijker maakte voor gebruikers om te vragen om kleding van foto’s te verwijderen. Hoewel volledige naaktheid niet is toegestaan, stelt de tool gebruikers in staat om afbeeldingen te genereren waarop personen in onthullende kleding en suggestieve poses te zien zijn.
Ondanks dat X beweert actie te ondernemen tegen illegale inhoud, ontdekten onderzoekers van AI Forensics een aanzienlijk aantal afbeeldingen van personen, voornamelijk vrouwen onder de 30, in minimale kleding die waren gegenereerd met behulp van Grok. Op een klein percentage van deze afbeeldingen stonden minderjarigen, sommige nog maar vijf jaar oud.
Musks reactie en twijfels over betrokkenheid
In eerste instantie leek Musk humor te zien in de trend, maar later verklaarde hij dat gebruikers die illegale inhoud creëren met Grok dezelfde consequenties zouden krijgen als gebruikers die dergelijk materiaal rechtstreeks uploaden. Een verklaring van Grok waarin werd beweerd dat ze de gaten in de beveiliging aan het aanpakken waren, bleek echter door AI te zijn gegenereerd, wat twijfels opriep over hun inzet om het probleem op te lossen.
Het gemak waarmee Grok het maken en delen van intieme beelden op X mogelijk maakt, benadrukt de complexiteit van de deepfakewetgeving. Terwijl het maken van zulke beelden van minderjarigen al illegaal is, is het juridische kader voor volwassenen minder duidelijk.