In het kort
- Overheden over de hele wereld verbieden Elon Musks chatbot Grok omdat die porno kan maken zonder toestemming.
- De EU onderzoekt Grok omdat het seksueel suggestieve beelden van minderjarigen maakt.
- Frankrijk en Italië dreigen met juridische stappen tegen mensen die Grok misbruiken om expliciete content te maken. Groot-Britannië dreigt met verbannen van X.
De AI-chatbot Grok van Elon Musk heeft internationale bezorgdheid gewekt omdat hij seksueel expliciete deepfakes kan maken.
Overheidsmaatregelen tegen Grok
Overheden over de hele wereld ondernemen actie tegen Grok, omdat er onvoldoende waarborgen zijn om het maken en verspreiden van niet-consensuele pornografie te voorkomen. Indonesië was het eerste land dat Grok tijdelijk blokkeerde. Maleisië volgde met een tijdelijk verbod. Nu volgen ook Europese landen.
De Europese Unie doet actief onderzoek naar gevallen waarbij Grok seksueel suggestieve afbeeldingen van minderjarigen genereert. Ursula Von der Leyen, voorzitter van de Europese Commissie, sprak haar verontwaardiging uit over de mogelijkheid van het platform om vrouwen en kinderen online digitaal te ontkleden, en beloofde dat de EU de verantwoordelijkheid voor de bescherming van kinderen niet aan Silicon Valley zou overlaten.
Het Verenigd Koninkrijk startte ondertussen al een onderzoek naar X, het moederbedrijf van Grok, vanwege meldingen dat de chatbot werd gebruikt om naaktfoto’s en seksueel getinte inhoud met minderjarigen te maken en te delen.
Europa en de rest van de wereld
Ook Frankrijk heeft zijn lopende onderzoek naar X uitgebreid naar Grok. Italië heeft dan weer een waarschuwing afgegeven waarin staat dat personen die Grok gebruiken om kleding uit afbeeldingen te verwijderen en deze te verspreiden, strafrechtelijk vervolgd kunnen worden.
Duitsland heeft aangekondigd een nieuwe wet tegen digitaal geweld te willen voorstellen, met als doel slachtoffers te ondersteunen en het voor hen gemakkelijker te maken om actie te ondernemen tegen online schendingen van hun rechten. Ook in Australië wordt momenteel geëvalueerd of X voldoet aan de Online Safety Act van het land. Over België zijn nog geen gegevens.