In het kort
- De autoriteiten van Amsterdam willen dat er wereldwijd een verbod komt op AI-apps die mensen naakt kunnen maken.
- Onderzoek laat zien dat er een zorgwekkende trend is waarbij jonge mannen online gewelddadige seksuele content en afbeeldingen van seksueel misbruik van kinderen tegenkomen.
- Het gemak waarmee daders met AI realistische naaktfoto’s kunnen maken, is een groot risico voor vrouwen en meisjes en kan voor slachtoffers net zo ernstige gevolgen hebben.
De autoriteiten in Amsterdam nemen een krachtig standpunt in tegen AI-aangedreven nudify-apps en werken samen met online veiligheidsexperts om een wereldwijd verbod op deze tools te eisen. De bezorgdheid komt voort uit het alarmerende misbruik van deze apps voor schadelijke activiteiten zoals sextortion, cyberpesten en seksuele uitbuiting van kinderen.
Verontrustende online trends
Offlimits, een bureau dat gespecialiseerd is in het bestrijden van online misbruik, heeft onderzoek gedaan waaruit verontrustende trends naar voren komen. Bijna 40 procent van de jonge mannen tussen 18 en 25 jaar gaf aan online criminele of gewelddadige seksuele inhoud te zijn tegengekomen. Een aanzienlijk percentage (15,6 procent) gaf ook toe beelden te hebben gezien van seksueel misbruik van kinderen, zowel echte als door AI gegenereerde.
Een onderzoek van Pointer onder meer dan 60 middelbare scholen onderstreept de ernst van het probleem en wijst op een toename van pesten met behulp van door AI gecreëerde naaktfoto’s. Een kwart van de ondervraagde scholen gaf aan met dergelijke incidenten te maken te hebben gehad, waarbij 10 procent meer dan vijf keer per jaar met dergelijke incidenten te maken had.
Een oproep tot digitale veerkracht
Alexander Scholtes, wethouder ICT en Digitale Stad van Amsterdam, benadrukt dat de stad zich inzet voor digitale veerkracht, maar geeft toe dat kinderen niet goed kunnen opkomen tegen een online omgeving die dit soort misbruik mogelijk maakt. Hij vindt het onacceptabel dat seksuele intimidatie en misbruik worden vergemakkelijkt door makkelijk beschikbare nudify-tools.
Robert Hoving, directeur van Offlimits, wijst erop dat deze apps vooral gericht zijn op vrouwen en meisjes. Hij vindt het niet oké dat jongeren makkelijk toegang hebben tot deze tools en zegt dat nieuwe technologische ontwikkelingen een groot verschil maken in de risico’s. Daders hebben geen echte foto’s meer nodig, omdat ze die makkelijk kunnen maken met AI.
De noodzaak van een wereldwijd verbod
Ondanks bestaande wetgeving in Nederland die het maken en verspreiden van deepfake naaktfoto’s strafbaar stelt, blijven nudify-websites en -apps gemakkelijk online toegankelijk. Deze toegankelijkheid onderstreept de dringende noodzaak van een wereldwijd verbod op deze schadelijke technologieën.