In het kort
- De Britse advertentiewaakhond verbood een PixVideo-advertentie door suggesties over digitaal kleding verwijderen.
- De advertentie wekte de indruk dat bloot voor seksueel gebruik kon worden toegevoegd, ondanks PixVideo’s beweringen.
- Het incident toont ethische zorgen rond AI-beeldbewerking en het belang van strenge regels.
Een advertentie voor een videobewerkingsapp met PixVideo, een AI-aangedreven tool, is verboden door de Britse Advertising Standards Authority (ASA), dat meldt BBC. De advertentie, die in januari op YouTube verscheen, leidde tot controverse omdat deze suggereerde dat gebruikers digitaal kleding van een afbeelding van een vrouw konden verwijderen.
Zorgen over seksualisering en objectivering
Acht personen dienden een klacht in bij de ASA. Ze stelden dat de advertentie vrouwen seksualiseerde, objectificeerde en tegelijk aanstootgevende inhoud promootte. De herkomst van de afbeelding bleef onduidelijk, maar de ASA focuste op de implicaties in plaats van op de vraag of het een echt persoon of een AI-figuur was.
De ASA oordeelde dat de advertentie, ondanks PixVideo’s bewering dat kleding verwijderen voor seksuele doeleinden niet toegestaan is, juist zo’n functie leek te suggereren. Hierdoor kwam het volgens de waakhond neer op het goedkeuren van het aanpassen en blootstellen van vrouwen zonder toestemming. De advertentie werd als onverantwoordelijk beschouwd omdat ze schadelijke genderstereotypen in stand hield en waarschijnlijk aanstootgevend was.
Reactie Saeta Tech
Saeta Tech, de eigenaar van PixVideo, erkende dat de presentatie en boodschap van de advertentie aanstootgevend konden zijn. Ze maakten duidelijk dat hun product het maken van naakt- of seksueel expliciete content verbiedt en geautomatiseerde systemen gebruikt om het genereren van dergelijke beelden te voorkomen.
Als gevolg van het verbod is Saeta Tech gestopt met het uitzenden van de advertentie en heeft het alle advertentiecampagnes stopgezet in afwachting van een interne evaluatie. Het incident markeert de groeiende bezorgdheid rond AI-aangedreven beeldbewerkingstools die in staat zijn om zonder toestemming kleding digitaal te verwijderen.
Zorgen over AI-beeldbewerking
Deze kwestie kwam in januari in de schijnwerpers toen Elon Musks chatbot Grok werd gebruikt om seksueel expliciete afbeeldingen te genereren op het platform X. Na wereldwijde verontwaardiging voerde Musk beperkingen in op de functionaliteit van Grok in regio’s waar het genereren van dergelijke afbeeldingen illegaal is. X blijft echter wereldwijd te maken hebben met juridische gevolgen.
De Britse regering heeft gereageerd door wetgeving aan te kondigen die het maken en verspreiden van AI-tools strafbaar stelt die zijn ontworpen om zonder toestemming kleding uit afbeeldingen te verwijderen. Deze nieuwe strafbare feiten vormen een aanvulling op bestaande wetten die seksueel expliciete deepfakes en misbruik van intieme afbeeldingen verbieden.