Instagram gaat nieuwe manieren testen om de leeftijd van zijn gebruikers te verifiëren. Een belangrijk nieuw instrument hiervoor zal een speciaal ontwikkeld programma zijn dat iemands gezicht scant en op basis van kunstmatige intelligentie de leeftijd bepaalt.

Meta, het moederbedrijf van Instagram en Facebook, krijgt de laatste tijd veel kritiek op de negatieve effecten die zijn producten hebben op kinderen. Zo gaat de Amerikaanse staat Californië binnenkort socialemediabedrijven verantwoordelijk stellen voor het schaden van kinderen die verslaafd zijn aan hun producten.

“Het tijdperk van ongebreidelde sociale experimenten op onze kinderen is voorbij en we zullen ze beschermen”, zei parlementslid Jordan Cunningham vorige maand.

En ook vorig jaar was de kritiek op het bedrijf en zijn CEO, Mark Zuckerberg, niet mals. Uit meerdere gelekte documenten van klokkenluidster Frances Haugen bleek dat Meta zich heel goed bewust was van de schade die het platform veroorzaakt aan de samenleving. Er werd echter niet ingegrepen door het bedrijf, om zo het zakenmodel van Facebook niet te ondergraven.

Liegen over de leeftijd

Technisch gezien moeten kinderen minstens 13 jaar oud zijn om Instagram te mogen gebruiken. Maar sommigen omzeilen dit door te liegen over hun leeftijd of door een ouder dit te laten doen. Voor gebruikers onder de 17 jaar gelden namelijk extra beperkingen, zoals het niet kunnen sturen van berichten naar volwassenen met wie zij geen band hebben.

Als reactie op de steeds strengere blik van de politiek en maatschappij op sociale media, heeft Meta besloten om een leeftijdscontrole voor zijn platform Instagram te introduceren. Het bedrijf zegt dat wanneer iemand zijn geboortedatum probeert aan te passen, van onder de 18 naar daarboven, dat ze hun leeftijd zullen moeten verifiëren via een van de twee methodes:

• De eerste methode is die van social vouching, waarmee de volgers van een persoon wordt gevraagd om te bevestigen hoe oud iemand is. De persoon die voor deze bevestiging instaat moet wel minstens 18 jaar oud zijn.
• De tweede methode is het maken van een “video-selfie”, waarbij de gebruiker met zijn telefoon zijn eigen gezicht filmt.

Je eigen gezicht filmen

Voor deze tweede methode werkt Meta samen met de Britse startup Yoti, die het AI-systeem heeft ontwikkeld. “Yoti heeft zijn dataset getraind met anonieme afbeeldingen van mensen van over de hele wereld die hebben toegestaan dat hun gegevens gebruikt mochten worden”, zegt Meta.

Yoti werkt in het Verenigd Koninkrijk samen met een aantal grote supermarkten, waar aan de zelfscankassa’s gebruik wordt gemaakt van gezichtsherkenningssoftware om de leeftijd van klanten te verifiëren.

Het gebruik van kunstmatige intelligentie om iemands gezicht te scannen, vooral bij minderjarigen, deed bij de bekendmaking verschillende alarmbellen rinkelen. Meta benadrukte dat de technologie die wordt gebruikt niet iemands identiteit kan herkennen, maar alleen de leeftijd. Zodra de leeftijdsverificatie is voltooid zullen Meta en Yoti de video weer verwijderen.

Herkenningssoftware is niet waterdicht

Gezien het onstuimige verleden van Meta op gebied van privacy, zijn critici echter niet overtuigd. Daarnaast brengt de normalisering van het scannen van gezichten problemen met zich mee, zegt Daragh Murray, professor verbonden aan de Universiteit van Essex.

“Het is problematisch, omdat er veel bekende vooroordelen zijn bij het identificeren van personen met behulp van kunstmatige intelligentie”. 

Dat dergelijke herkenningssoftware niet waterdicht is, is meerdere malen aangetoond. Geautomatiseerde systemen zijn niet neutraal en weerspiegelen vooroordelen van degene die de software schrijven. Zo zei Microsoft deze week dat het zijn klanten niet langer gezichtsanalysetools zal aanbieden, die emotionele toestanden en kenmerken, zoals geslacht of leeftijd, kunnen afleiden. Het bedrijf is bezorgd over “stereotypering en discriminatie”.

Nog opvallender is het feit dat Meta vorig jaar zelf aankondigde te stoppen met het gezichtsherkenningssysteem van Facebook, naar aanleiding van de “groeiende maatschappelijke bezorgdheid over het gebruik van dergelijke technologie”.

(evb)