In het kort

• OpenAI heeft een speciale ChatGPT-versie gelanceerd met strenge veiligheidsprotocollen voor tieners.
• De studiemodus stimuleert kritisch denken door leerlingen te begeleiden in plaats van meteen antwoorden te geven.
• Ouderwaarschuwingen brengen ouders op de hoogte van risicovolle gesprekken om de veiligheid van minderjarigen te waarborgen.

OpenAI heeft een speciale versie van zijn AI gelanceerd, ‘ChatGPT for Teens’, speciaal voor jongeren tussen de 13 en 17 jaar. Deze versie heeft verbeterde monitoring en strengere veiligheidsprotocollen. Het systeem wordt automatisch geactiveerd voor gebruikers die zich als minderjarige registreren of van wie het account wordt herkend als dat van een tiener. Dat meldt AFP.

Veiligheidsmaatregelen en educatieve hulpmiddelen

Om jongere gebruikers te beschermen, hanteert het platform strengere verboden op inhoud met seksuele thema’s, geweld, eetstoornissen en zelfbeschadiging. Daarnaast stimuleert de dienst gezondere gewoontes via vaste ‘rusturen’, periodieke pauzemeldingen en een speciale Studiemodus die als een soort tutor fungeert door studenten naar antwoorden te begeleiden in plaats van ze meteen te geven. Bepaalde functies, zoals de spraakinterface, zijn verwijderd, en de AI is zo geprogrammeerd dat hij niet beweert bewustzijn of emoties te hebben.

Ouderlijke betrokkenheid en privacy

Ouderlijk toezicht is in het systeem ingebouwd, waardoor ouders hun account aan dat van hun kinderen kunnen koppelen. Zo krijg je als ouder een melding als de AI risicovolle gesprekken detecteert, zoals over zelfmoord of zelfbeschadiging. Om de privacy van gebruikers te waarborgen, worden deze meldingen gecontroleerd door mensen, die specifieke persoonlijke gegevens verwijderen.

Regelgevende druk en juridische context

Dit initiatief komt er na toenemende kritiek van toezichthouders en juridische instanties over de gevaren die AI voor jongeren met zich meebrengt. OpenAI heeft momenteel te maken met meerdere rechtszaken over dood door schuld, terwijl de Amerikaanse Federal Trade Commission de impact onderzoekt van AI-chatbots die als virtuele metgezellen fungeren.

Schrijf je hieronder in voor onze GRATIS nieuwsbrief