In het kort
- Meta onderzoekt AI-profielen die mensen met een handicap op hun platform op een seksuele manier laten zien.
- Voorvechters van rechten voor mensen met een handicap vinden deze accounts uitbuitend en ontmenselijkend, en zeggen dat ze de waardigheid van mensen met een handicap afpakken.
- De makkelijke toegang tot AI-tools voor het maken van afbeeldingen zorgen voor serieuze ethische zorgen.
Meta onderzoekt AI-profielen die mensen met een handicap op hun platform op een seksuele manier laten zien. Dit onderzoek komt na een rapport van de BBC waarin tientallen van deze profielen werden ontdekt met AI-gemaakte afbeeldingen van vrouwen met een handicap, zoals het syndroom van Down of vitiligo.
Uitbuiting door middel van verzonnen beelden
Veel van deze accounts plaatsen verzonnen afbeeldingen en video’s van vrouwen met ontbrekende ledematen, zichtbare littekens of in een rolstoel, vaak in seksueel suggestieve poses en met uitdagende kleding. Sommige accounts hebben in korte tijd honderdduizenden volgers gekregen. Eén profiel, dat beweert een Siamese tweeling te vertegenwoordigen, heeft ongeveer 400.000 volgers verzameld, ondanks dat het pas in december 2025 op Instagram is gekomen.
Verschillende rechtenorganisaties hebben deze accounts scherp veroordeeld en noemen ze “gruwelijk” en een vorm van technologische uitbuiting die mensen met een handicap hun waardigheid ontneemt. Ze zeggen dat deze door AI gegenereerde beelden echte ervaringen reduceren tot digitale karikaturen voor winst en vermaak.
Toegankelijkheid van AI-tools
Deskundigen die gespecialiseerd zijn in de impact van AI op gender en handicap wijzen op de wijdverbreide beschikbaarheid van gratis of goedkope generatieve AI-tools voor het maken van afbeeldingen. Sommige tools hebben weliswaar inhoudsbeperkingen, maar andere hebben dergelijke waarborgen niet of kunnen gemakkelijk worden omzeild.
Regelgevende instanties zoals Ofcom houden de ontwikkeling van AI en de mogelijke risico’s ervan nauwlettend in de gaten. De Online Safety Act verplicht platforms zoals Instagram om hun servicevoorwaarden consequent te handhaven, waaronder bepalingen tegen het belachelijk maken van personen op basis van beschermde kenmerken zoals een handicap.
Oproep tot strengere maatregelen
Organisaties die opkomen voor de rechten van mensen met een handicap hebben opgeroepen tot strenge regelgeving in de digitale ruimte om mensen tegen schade te beschermen. Meta heeft verklaard dat het de gemelde inhoud actief onderzoekt en materiaal zal verwijderen dat seksuele uitbuiting promoot of gericht is op personen op basis van beschermde kenmerken.