In het kort
- Meta laat de beoordeling van gevoelige content die wordt vastgelegd door zijn AI-aangedreven slimme brillen over aan onderaannemers.
- Meta geeft toe dat het menselijke beoordelaars inzet om de content te verbeteren, maar zegt dat de eerste filtering de privacy van gebruikers beschermt, iets wat in tegenspraak is met wat werknemers zeggen.
- Gebruikers zijn zich er misschien niet helemaal van bewust dat hun video’s en foto’s die door de slimme bril van Meta worden vastgelegd, door mensen worden bekeken.
De Britse gegevensbeschermingsautoriteit, het Information Commissioner’s Office (ICO), doet onderzoek naar Meta, dat meldt BBC. Dat gebeurt nadat berichten verschenen dat uitbestede werknemers toegang hadden tot gevoelige content. Die beelden waren vastgelegd door de AI-bril van het bedrijf.
Beoordeling van gevoelige inhoud
Volgens een gezamenlijk onderzoek van de Zweedse kranten Svenska Dagbladet en Goteborgs-Posten kreeg een onderaannemer van Meta in Kenia de taak om beelden te beoordelen die door de bril waren vastgelegd, waaronder intieme scènes zoals mensen die naar het toilet gaan of seksuele activiteiten uitvoeren.
Meta heeft toegegeven dat onderaannemers content, zoals video’s en afbeeldingen, kunnen bekijken om de gebruikerservaring van de bril te verbeteren. Het bedrijf zegt dat deze gegevens eerst worden gefilterd om de privacy te beschermen, maar bronnen geven aan dat deze filters soms niet goed werken, waardoor gezichten zichtbaar blijven.
Bewustzijn en toestemming gebruikers
Gebruikers moeten de opname zelf activeren. Toch beseffen ze misschien niet altijd dat mensen hun video’s en afbeeldingen kunnen bekijken. Dat staat wel in het uitgebreide privacybeleid en de servicevoorwaarden van Meta.
De ICO uitte bezorgdheid over de berichten. Volgens de toezichthouder moeten gebruikers controle hebben over hun gegevens. Ze moeten ook duidelijk weten hoe bedrijven die gegevens gebruiken. Daarom wil de ICO contact opnemen met Meta. De autoriteit wil nagaan of het bedrijf de Britse regels rond gegevensbescherming naleeft.
Gegevensannotatie
Uit het onderzoek van de Zweedse kranten bleek dat de betrokken werknemers gegevensannotatoren waren die in dienst waren van Sama, een in Nairobi gevestigd outsourcingbedrijf met ervaring op het gebied van gegevensannotatie.
De werknemers vertelden dat ze transcripties van interacties met AI bekeken om te kijken of deze vragen goed beantwoordde. Ze maakten ook de strenge privacymaatregelen op hun werkplek, waaronder constante bewaking en een verbod op mobiele telefoons duidelijk.
Gevoelige inhoud aangetroffen
Ondanks deze maatregelen was de inhoud die zij aantroffen vaak zeer gevoelig, waaronder gevallen waarin personen naar pornografie keken. Een werknemer vertelde over een incident waarbij de bril van een man onbedoeld een vrouw, vermoedelijk zijn vrouw, filmde terwijl zij zich in een slaapkamer uitkleedde.
De slimme bril van Meta heeft een lampje dat gaat branden als de ingebouwde camera aan het opnemen is, en het bedrijf raadt gebruikers aan om anderen te laten weten wanneer het lampje brandt en om opnames in privéruimtes te vermijden.
Zorgen over misbruik
Er blijven echter zorgen bestaan over het misbruik van dergelijke apparaten. Vrouwen hebben eerder gemeld dat ze zonder hun toestemming zijn gefilmd door gebruikers van slimme brillen.
Sama, dat oorspronkelijk actief was als een non-profitorganisatie die zich richtte op het creëren van banen in de technologiesector, wordt nu geclassificeerd als een ‘ethische’ B-corp. Een eerder contract voor het leveren van contentmoderatiediensten aan technologiebedrijven leidde echter tot kritiek en juridische stappen van voormalige werknemers. Het bedrijf heeft deze diensten inmiddels stopgezet en heeft zijn spijt betuigd voor het aannemen van dergelijk werk.