In het kort
- OpenAI gebruikt leeftijdsvoorspellingstechnologie in ChatGPT om tieners te beschermen tegen mogelijk schadelijke inhoud.
- Door gebruikersgedrag, accountactiviteit en opgegeven leeftijd te checken, kan het systeem gebruikers onder de 18 jaar herkennen.
- Als de leeftijd onduidelijk is, gaat ChatGPT standaard over op strengere instellingen om de veiligheid van gebruikers voorop te stellen.
OpenAI gebruikt leeftijdvoorspellingstechnologie in ChatGPT om tieners beter te beschermen. Dat komt nadat ouders een rechtszaak tegen het bedrijf hadden aangespannen omdat ze dachten dat ChatGPT had bijgedragen aan de zelfmoord van hun tienerkinderen. OpenAI zegt dat dit niet klopt, maar ziet wel in dat er betere bescherming voor jonge gebruikers nodig is.
Leeftijdsvoorspelling
Afgelopen najaar kondigde OpenAI plannen aan om leeftijdsvoorspelling in zijn platform op te nemen. De technologie gebruikt verschillende factoren om de leeftijd van een gebruiker te schatten, waaronder gedragspatronen, accountactiviteit en opgegeven leeftijd. Deze gegevens worden geanalyseerd om te bepalen of een gebruiker jonger is dan 18 jaar.
Als het leeftijdsvoorspellingsmodel van ChatGPT een gebruiker als minderjarig identificeert, wordt zijn of haar toegang beperkt om blootstelling aan mogelijk schadelijke inhoud, zoals expliciet geweld, afbeeldingen van zelfbeschadiging en ongepaste rollenspelscenario’s, te voorkomen. Tieners die bij het aanmaken van een account expliciet aangeven dat ze jonger zijn dan 18 jaar, worden automatisch onderworpen aan deze veiligheidsmaatregelen.
Voorzorgsmaatregelen
In gevallen waarin OpenAI de leeftijd van een gebruiker niet met zekerheid kan vaststellen, zal het platform uit voorzorg standaard strengere instellingen hanteren. Deze aanpak is bedoeld om mogelijke risico’s voor gebruikers van onduidelijke leeftijd tot een minimum te beperken. De uitrol van de leeftijdsvoorspellingsfunctie van ChatGPT is momenteel aan de gang voor consumentenabonnementen.