In het kort
- Meta waarschuwt ouders wanneer tieners gesprekken met de AI-chatbot voeren over zelfbeschadiging.
- Menselijke beoordelaars checken gemarkeerde gesprekken voordat ze de ouders op de hoogte brengen.
- Hulpdiensten krijgen meldingen bij direct zelfmoordrisico.
Meta heeft een nieuwe veiligheidsfunctie geïntroduceerd die ouders waarschuwt wanneer hun tienerkinderen tijdens gesprekken met de Meta AI-chatbot praten over zelfbeschadiging of zelfmoord. Het initiatief maakt deel uit van een bredere aanpak om tegemoet te komen aan de zorgen van toezichthouders en gezinnen over de risico’s van AI voor kwetsbare jongeren. Het beïnvloedt ook de manier waarop het bedrijf zijn AI-tools ontwikkelt en promoot.
Menselijk toezicht
Om dit te implementeren heeft Meta een gespecialiseerd AI-systeem ontwikkeld dat is ontworpen om expliciete verwijzingen naar zelfbeschadiging te detecteren. Om de nauwkeurigheid te waarborgen, heeft het bedrijf aangegeven dat menselijke beoordelaars de gemarkeerde gesprekken zullen bekijken voordat er meldingen naar ouders of voogden worden gestuurd.
Meta erkent dat zulke waarschuwingen verontrustend kunnen zijn en soms kunnen worden veroorzaakt door dubbelzinnige taal. Toch vindt het bedrijf dat voorzichtigheid in deze situaties de veiligste aanpak is.
Wereldwijde uitrol
De functie is nu beschikbaar voor mensen die Instagram-ouderlijk toezicht gebruiken in Canada, Australië, het VK en de VS, en zal naar verwachting tegen het einde van het jaar wereldwijd worden gelanceerd.
De maatregel komt boven op bestaande systemen die ouders waarschuwen wanneer tieners op Instagram vaak zoeken naar termen die verband houden met zelfbeschadiging. Daarnaast bestaat er al een functie die wekelijks een overzicht geeft van de gespreksonderwerpen van een tiener met de AI-chatbot.
Ongepaste inhoud beperken
Bovendien is de instelling ‘Beperkte inhoud’, die bepaalt wat tieners op Instagram te zien krijgen, uitgebreid naar Meta AI. Hoewel de chatbot al zo is geprogrammeerd dat hij gesprekken over romantiek, seks of alcohol met minderjarigen weigert, beperkt deze instelling de reikwijdte van toegestane vragen nog verder, al zijn specifieke details over de extra beperkingen nog niet bekendgemaakt.
Noodhulpprotocollen
Tot slot breidt Meta zijn procedures voor noodsituaties uit naar gesprekken via de chatbot. Zowel bij volwassenen als tieners zal het bedrijf hulpdiensten waarschuwen wanneer een gesprek wijst op een direct risico op zelfmoord. Dit is een uitbreiding van het protocol dat Meta al hanteert voor openbare berichten op zijn sociale mediaplatforms.
Schrijf je hieronder in voor onze GRATIS nieuwsbrief
