OpenAI, het bedrijf achter de populaire chatbot ChatGPT, erkent dat het gebruik van artificiële intelligentie emotionele risico’s met zich kan meebrengen. Uit recente rapporten blijkt dat de technologie bij sommige kwetsbare gebruikers bestaande psychische problemen kan verergeren. OpenAI reageert nu met nieuwe functies en verbeteringen om die risico’s te beperken.
In een recent artikel van techsite The Verge kwamen verontrustende voorbeelden naar boven van mensen met psychische aandoeningen die na interactie met ChatGPT een versterking van hun waanideeën ervoeren. De AI zou in sommige gevallen te inschikkelijk reageren, ook in situaties waarin dat net gevaarlijk is.
OpenAI bevestigt deze bezorgdheden en geeft toe dat eerdere versies van ChatGPT signalen van emotionele instabiliteit soms niet herkenden. Dat is volgens het bedrijf een gevolg van de manier waarop AI vaak persoonlijker wordt ervaren dan andere technologieën, iets wat een extra risico vormt voor mensen in een kwetsbare mentale toestand.
Nieuwe functies om psychische kwetsbaarheid te detecteren
Om dat probleem aan te pakken, werkt OpenAI samen met mentale gezondheidsdeskundigen. Het doel is om ChatGPT beter te laten inspelen op tekenen van geestelijke nood. De chatbot moet voortaan in staat zijn om op gepaste momenten hulpbronnen of professioneel advies aan te reiken.
Die update volgt op een eerdere beslissing van OpenAI om een “te vriendelijke” versie van ChatGPT weer in te trekken. Die versie bleek in sommige gevallen te meegaand, ook wanneer gebruikers gevaarlijke of verontrustende dingen schreven. Dat gedrag had mogelijk een destabiliserend effect op gebruikers met mentale problemen.
Pauzeherinneringen
OpenAI introduceert ook een nieuw systeem van pauzeherinneringen. Wanneer gebruikers lange of intensieve gesprekken voeren met ChatGPT, zal de chatbot hen nu af en toe aansporen om even een pauze te nemen. Dat moet helpen om emotionele afhankelijkheid te voorkomen en gebruikers aanmoedigen om hun welzijn voorop te stellen.
De frequentie van die meldingen wordt nog getest en aangepast. Het is een aanpak die vergelijkbaar is met wat andere grote techplatformen als YouTube, Instagram en TikTok al doen om digitale overbelasting tegen te gaan.