Left Right
scrollTop top

Twitter excuseert zich voor ‘racistisch’ cropping algoritme


Twitter Racisme Algoritme
© Shutterstock

Om verschillende foto’s in één tweet te kunnen plaatsen, en om niet de hele feed vol te proppen met foto’s, cropt Twitter al een hele tijd de foto’s van z’n gebruikers. Daarvoor heeft het bedrijf een algoritme, dat het belangrijkste stuk van de foto overhoudt in de gecropte versie. Maar nu blijkt dat dat algoritme nogal racistisch te werk gaat.

Het was Colin Madland die het racistische systeem per toeval ontdekte. Hij was naar Twitter getrokken om te klagen over videoconferentiesysteem Zoom. Z’n zwarte collega wilde zelf een achtergrond instellen, maar verloor daarbij telkens z’n hoofd.

Focus op blanke gezichten

Madland deelde de foto’s in de reacties onder z’n tweet, maar die zagen er op z’n smartphone helemaal niet uit zoals hij had gehoopt. Twitter toonde namelijk enkel de kant van de foto waarop Madland (die blank is) te zien was.

“Het blijkt dus dat Zoom een crappy gezichtsdetectie-algoritme heeft dat zwarte gezichten verwijdert”, schreef ie. “Dat bepaalt dat een mooie witte wereldbol in de achtergrond een beter gezicht moet zijn dan dat vooraan in beeld.”

Onderzoek

De wereld reageerde meteen verontwaardigd, en ging in de reacties op Madlands tweet meteen op onderzoek uit. Wat blijkt? Het algoritme van Twitter is niet veel beter. Mensen gingen aan de slag met heel lange foto’s, waarin twee verschillende gezichten ver van elkaar werden geplakt.

Twitter focuste telkens op het blanke gezicht in de foto:

Cartoons en honden

Opvallend is dat Twitter zelfs hetzelfde onderscheid maakt bij tekenfilmfiguren (uit The Simpsons) én honden. Dat blijkt uit deze test:

Werk aan de winkel

Twitter heeft ondertussen op de beschuldigingen gereageerd in een statement. “Ons team heeft het systeem op bias getest voordat het op de wereld werd losgelaten, en zij hebben geen bewijs gevonden van bias op vlak van huidskleur of gender.”

“Maar door deze voorbeelden is het duidelijk dat we aan de slag moeten met nieuwe analyses. We blijven delen wat we leren, welke acties we nemen en we zullen onze analyse openstellen, zodat anderen feedback kunnen geven en het onderzoek kunnen dubbelchecken.”


Deze artikelen kunnen u misschien ook interesseren…


Corona Virus Update

  • Wereld
  • Aantal
    besmettingen
    41.688.829
  • Aantal
    doden
    1.137.115
  • België
  • Aantal
    besmettingen
    270.132
  • Aantal
    doden
    10.588