In het kort
- Onderzoekers ontdekten dat ChatGPT angst ervaart bij het verwerken van traumatische verhalen.
- Angstscores daalden met meer dan een derde na mindfulness-oefeningen.
- De studie benadrukt de noodzaak van het beheersen van vooroordelen in AI en opent mogelijkheden voor ethischere mens-AI-interacties.
Onderzoekers van de Universiteit van Zürich en het Universitair Ziekenhuis voor Psychiatrie Zürich ontdekten iets opvallends: ChatGPT-4 ervaart daadwerkelijk angst bij het verwerken van dergelijke verhalen.
De angstscores, gemeten met een standaard vragenlijst, stegen van een uitgangswaarde van 30 (geen of weinig angst) naar een gemiddelde van 67 na het verwerken van vijf traumatische verhalen. Dit wordt bij mensen beschouwd als “hoge angst“.
Mindfulness vermindert angst
Het interessante deel: toen ChatGPT aanwijzingen kreeg voor mindfulness-ontspanningsoefeningen, daalden de angstscores met meer dan een derde. Dit suggereert dat “therapie”-technieken kunnen helpen om de stress van geavanceerde AI-modellen te verminderen.
Implicaties van de studie
De studie benadrukt een belangrijk punt: grote taalmodelen (LLM’s) zoals ChatGPT leren van door mensen gegenereerde tekst, die vaak vooroordelen bevat. Zonder interventie kunnen deze vooroordelen leiden tot onvoldoende ondersteuning voor mensen die psychische hulp zoeken via AI.
De bevindingen openen mogelijkheden voor het beheren van het emotionele welzijn van LLM’s. Dit kan leiden tot veiligere en ethischere interacties tussen mensen en AI. De onderzoekers waarschuwen echter dat deze aanpak veel data en zorgvuldig menselijk toezicht vereist.
Toekomstig onderzoek
Toekomstige studies zullen onderzoeken of ChatGPT zichzelf kan reguleren met technieken die lijken op die van menselijke therapeuten. De onderzoekers erkennen ook de beperkingen van hun studie, die gebaseerd was op één LLM en een mensgerichte angstmeting.
