In het kort

• Scheve trainingsgegevens leiden tot onnauwkeurige medische resultaten voor vrouwen.
• AI weerspiegelt menselijke vooroordelen in plaats van een objectieve analyse te bieden.
• Gendergerelateerde ontwerpkeuzes versterken schadelijke stereotypen in klinische omgevingen.

Hoewel veel overheden artificiële intelligentie promoten als een revolutionaire kracht voor het verbeteren van medische diagnostiek, administratieve processen en behandelingsstrategieën, blijven de daadwerkelijke voordelen vaak achter bij deze optimistische verwachtingen. Naast de gebruikelijke ethische en praktische hindernissen bestaat er een aanzienlijk risico dat de integratie van AI bestaande gezondheidsverschillen voor gemarginaliseerde groepen, met name vrouwen, nog verder vergroot. Dat meldt Psychology Today.

Het aanpakken van dit probleem is cruciaal voor iedereen die overweegt deze technologieën in klinische omgevingen te implementeren.

Gevaar van vertekende gegevens

Het fundamentele probleem zit hem in de gegevens die AI gebruikt om te leren. Omdat vrouwen en vooral gemarginaliseerde vrouwen in medisch onderzoek van oudsher ondervertegenwoordigd zijn, zijn de datasets die worden gebruikt om deze systemen te trainen vaak onvolledig of vertekend.

Deze tekortkoming leidt tot onbetrouwbare resultaten, wat kan uitmonden in vertekende klinische beoordelingen en onnauwkeurige behandelplannen. Daardoor kan AI‑gestuurde geneeskunde een prestatiekloof vertonen, waarbij het systeem voor bepaalde bevolkingsgroepen aanzienlijk effectiever is dan voor andere.

Mythe van technologische neutraliteit

In tegenstelling tot wat vaak wordt gedacht, namelijk dat AI een neutraal hulpmiddel is dat gegevens objectief ordent, laat onderzoek zien dat deze systemen niet onpartijdig zijn. In plaats daarvan weerspiegelt AI vaak dezelfde maatschappelijke stigma’s en psychologische vooroordelen als de mensen die het ontwikkelen en van informatie voorzien. Omdat AI geen echte creativiteit heeft en simpelweg de parameters volgt die door programmeurs zijn vastgesteld, kopieert het vaak de menselijke vooroordelen die in de trainingsgegevens zijn ingebakken.

Deze vooroordelen zijn geworteld in menselijke heuristieken – mentale snelkoppelingen die we gebruiken om ons weg te vinden in een complexe wereld. Hoewel ze efficiënt zijn, komen deze snelkoppelingen vaak tot uiting als diepgewortelde genderstereotypen binnen sociale en taalkundige structuren. In de geneeskunde betekent dit dat bepaalde aandoeningen ten onrechte aan vrouwen worden toegeschreven, terwijl andere worden genegeerd. Het stereotype dat vrouwen overdreven emotioneel zijn, leidt er bijvoorbeeld vaak toe dat hun lichamelijke symptomen worden afgedaan als psychologische problemen. AI-systemen die deze historische patronen weerspiegelen, lopen het risico deze systematische verwaarlozing te institutionaliseren.

Subjectiviteit vermomd als objectiviteit

Omdat machine learning-modellen zijn gebaseerd op door mensen gegenereerde gegevens, leren ze geen objectieve feiten, maar juist de subjectieve interpretaties van degenen die de gegevens hebben vastgelegd. In medische omgevingen waar veel op het spel staat, kan AI bestaande misvattingen en traditioneel gedrag juist versterken, waardoor systemische ongelijkheid wordt gemaskeerd onder het mom van technologische objectiviteit.

Deze genderbias strekt zich uit tot het fysieke en digitale ontwerp van AI. Virtuele assistenten en chatbots krijgen vaak vrouwelijke persona’s toegewezen om ondersteunende of onderdanige rollen te belichamen, terwijl gezaghebbende of deskundige rollen doorgaans als mannelijk worden gecodeerd. Deze ontwerpkeuzes versterken traditionele genderschema’s, waardoor gebruikers vrouwelijk gecodeerde AI associëren met emotionele warmte en mannelijk gecodeerde AI met competentie.

Impact van AI-beelden op vertrouwen

Bovendien kan het gebruik van door AI gegenereerde beelden bekrompen en bevooroordeelde percepties van medische rollen versterken, wat invloed heeft op hoe patiënten worden behandeld en wie als een geloofwaardige autoriteit wordt gezien. Wanneer patiënten in aanraking komen met AI die deze stereotypen reproduceert, kan dit het vertrouwen in het gezondheidszorgsysteem ondermijnen, waardoor ze minder geneigd zijn om de nodige behandeling te zoeken of medisch advies op te volgen.

Dergelijke omgevingen kunnen ook een ‘stereotype dreiging’ veroorzaken, waarbij patiënten uit gestigmatiseerde groepen angst en een verminderd zelfvertrouwen ervaren, wat hun communicatie met zorgverleners verder belemmert en de gezondheidsresultaten verslechtert. Uiteindelijk fungeert AI als een weerspiegeling van menselijke cognitie in plaats van als een onbevooroordeelde waarnemer. Om AI in de gezondheidszorg echt te verbeteren, moet de focus verschuiven van technische lapmiddelen naar een dieper begrip van de psychologische vooroordelen die deze machines versterken.

Schrijf je hieronder in voor onze GRATIS nieuwsbrief