De Britse kindercommissaris luidt de noodklok over AI-toepassingen die kinderen digitaal uitkleden. Volgens Dame Rachel de Souza is het hoog tijd dat de overheid ingrijpt met een totaalverbod op zogenaamde “nudificatie”-apps.

Dame Rachel de Souza, de kindercommissaris voor Engeland, roept op tot een volledige ban op AI-software die in staat is om afbeeldingen van kinderen digitaal te manipuleren tot naaktbeelden. Zulke toepassingen – vaak aangeduid als “nudificerende” apps – vormen volgens haar een ernstige bedreiging voor minderjarigen en worden op dit moment onvoldoende aangepakt door de overheid.

Ze hekelt het gebrek aan controle op deze technologie, die “potentieel verwoestende gevolgen” kan hebben voor kinderen en jongeren. De huidige wetgeving schiet volgens haar tekort. “Het gaat hier om een fundamenteel veiligheidsprobleem, en de reactie van de overheid is te traag en te zwak,” klinkt het.

380 procent meer AI-kinderporno: “Een alarmerende trend”

De oproep van de commissaris komt er niet zomaar. Volgens de Britse Internet Watch Foundation (IWF) is het aantal meldingen van door AI gegenereerde beelden van seksueel misbruik van kinderen in 2024 met maar liefst 380 procent gestegen in vergelijking met het jaar ervoor.

“Deze cijfers zijn ronduit alarmerend,” aldus de organisatie. “We zitten op een hellend vlak waarbij de technologie sneller evolueert dan de wetgeving of handhaving ooit kan bijbenen.”

Van deepfakes tot structureel misbruik

De Souza wil dat het creëren van seksueel getinte deepfakes van kinderen erkend wordt als een vorm van seksueel geweld – niet alleen tegen kinderen, maar ook tegen meisjes en vrouwen in het algemeen. Ze pleit voor structurele maatregelen zoals:

• Een wettelijke verplichting voor AI-ontwikkelaars om de risico’s voor kinderen in kaart te brengen en te beperken.
• Snelle verwijderingsprocedures voor expliciete deepfakes.
• De erkenning van deepfake misbruik als een ernstige vorm van digitaal geweld.

Ook schoolleiders luiden de alarmbel

De vakbonden van schooldirecteurs en schoolleiders in het Verenigd Koninkrijk sluiten zich aan bij de oproep. Zij benadrukken dat de wetgeving dringend moet worden aangepast nu AI zich razendsnel ontwikkelt. Niet alleen de regels, maar ook het onderwijs moet mee-evolueren met de technologische vooruitgang, vinden ze.

De Britse regering heeft intussen bevestigd dat materiaal rond seksueel kindermisbruik illegaal is en zegt te werken aan bijkomende wetgeving rond AI-tools die dergelijke inhoud genereren. Toch vindt Dame de Souza dat dit niet volstaat: “Een verbod moet allesomvattend zijn. We kunnen geen grijze zones tolereren als het gaat om de veiligheid van kinderen.”