In het kort
- Ashley St. Clair, de moeder van een van de kinderen van Elon Musk, klaagt zijn bedrijf xAI aan omdat het zonder haar toestemming seksueel expliciete deepfake-afbeeldingen van haar heeft gemaakt.
- Grok, de AI-chatbot van xAI, zou vernederende deepfakes hebben gemaakt, ondanks dat St. Clair duidelijk had gezegd dat ze dit niet wilde.
- Deze rechtszaak laat zien dat er steeds meer zorgen zijn over de mogelijke schade en ethische gevolgen van krachtige deepfake-technologie.
Ashley St. Clair, de moeder van een van de kinderen van Elon Musk, heeft woensdag een rechtszaak aangespannen tegen het bedrijf xAI van Musk. In de rechtszaak wordt beweerd dat Grok, de AI-chatbot van xAI, seksueel expliciete deepfake-afbeeldingen van St. Clair heeft gemaakt zonder haar toestemming.
Beschuldigingen
St. Clair, een 27-jarige schrijfster en politiek commentator, beweert dat Grok talloze seksueel suggestieve en vernederende deepfakes van haar heeft gemaakt in reactie op verzoeken van gebruikers, ondanks dat ze duidelijk had aangegeven dat ze niet akkoord ging met zulke afbeeldingen. In de rechtszaak wordt een voorbeeld genoemd waarbij gebruikers foto’s zouden hebben gevonden van St. Clair in de leeftijd van 14 jaar, volledig gekleed, en Grok zouden hebben gevraagd haar digitaal uit te kleden.
De rechtszaak volgt op de aankondiging van xAI dat Grok geen afbeeldingen van echte mensen in onthullende kleding meer zou bewerken op het sociale mediaplatform van Musk, X. Deze beslissing kwam nadat er publieke verontwaardiging was ontstaan toen gebruikers ontdekten dat Grok verzoeken inwilligde om deepfake-naaktfoto’s te genereren, waaronder foto’s waarop mogelijk minderjarigen te zien waren.
Reactie xAI en Musk
xAI heeft nog niet gereageerd op de rechtszaak. Elon Musk verklaarde ondertussen op X dat hij niet op de hoogte was van naaktfoto’s van minderjarigen die door Grok waren gegenereerd en hield vol dat Grok is geprogrammeerd om de wet na te leven.
St. Clair wil een juryrechtspraak en schadevergoeding voor emotionele schade en schending van haar privacy. Deze juridische stap volgt op aanhoudende openbare meningsverschillen tussen St. Clair en Musk. Eerder deze week maakte Musk openbaar dat hij de volledige voogdij over hun kind wil.
Zorgen over schade door deepfakes
In een interview met Erin Burnett Out Front van CNN op woensdag uitte St. Clair haar bezorgdheid over het gebrek aan serieuze consequenties voor het maken en verspreiden van schadelijke deepfakes. Ze had kritiek op de aanpak van xAI, die volgens haar meer gericht is op schadebeperking dan op echte veiligheidsmaatregelen.