In het kort

• China heeft virtuele AI-partners verboden om psychologische verslaving en sociaal isolement te voorkomen.
• Techreuzen hebben functies voor emotionele begeleiding uitgeschakeld om aan deze nieuwe nationale voorschriften te voldoen.
• Overheidsinstanties eisen nu dat systemen emotionele nood kunnen herkennen en verbieden AI-personages voor kinderen.

Na de invoering van nieuwe nationale richtlijnen op woensdag zijn mensen in China begonnen emotioneel afscheid te nemen van hun AI-partners. Deze regels zijn bedoeld om de gevaren van psychologische verslaving te verminderen en te voorkomen dat virtuele relaties iemands echte sociale contacten ondermijnen. Dat meldt AFP.

Als reactie op deze voorschriften hebben grote techgiganten zoals Tencent, Alibaba en ByteDance de functies voor gezelschap en gepersonaliseerde assistenten van hun respectievelijke AI-diensten, waaronder Yuanbao, Qwen en Doubao, uitgeschakeld. Deze stap veroorzaakte een golf van verdriet op digitale platforms, waar gebruikers met een gebroken hart hun interacties archiveerden en afscheidsberichten plaatsten voor hun virtuele partners. Sommigen beschreven deze AI-entiteiten als onmisbare emotionele steun of familieleden, en spraken hun diepe gevoel van verlies uit.

Het wettelijke kader voor emotionele AI

Het wettelijke kader, opgesteld door vijf overheidsinstanties waaronder de Cyberspace Administration of China, richt zich specifiek op AI die menselijke persoonlijkheden en emotionele communicatie nabootst. Hoewel de regels utilitaire hulpmiddelen zoals studiemateriaal of klantenservice uitsluiten, verbieden ze strikt virtuele partners voor kinderen en verbieden ze inhoud die de staatsstabiliteit zou kunnen bedreigen. Bovendien moeten bedrijven nu systemen inbouwen die ernstige emotionele nood kunnen detecteren, zodat ze de nodige hulp kunnen bieden.

Het besluit van China om immersieve AI te reguleren is een baanbrekende stap, hoewel de wereldwijde opkomst van antropomorfe technologie ook elders soortgelijke zorgen heeft gewekt. In de Verenigde Staten maakt een aanzienlijk deel van de tieners gebruik van conversatie-AI, en in landen als Zuid-Korea worden steeds vaker gespecialiseerde robotmetgezellen ingezet om eenzaamheid onder ouderen tegen te gaan.

Psychologische gevolgen en perspectieven van gebruikers

Juridische experts, zoals Chen Liang van de Southwest University of Political Science and Law, hebben opgemerkt dat deze tools weliswaar eenzaamheid kunnen verlichten, maar het risico met zich meebrengen dat ze de perceptie van de werkelijkheid bij de gebruiker verstoren en een ongezonde afhankelijkheid creëren.

Ondanks deze waarschuwingen zeggen sommige gebruikers dat AI een puurheid en toegankelijkheid van genegenheid biedt die vaak ontbreekt in menselijke relaties, waardoor het verlies van deze „reeksen code” extra pijnlijk is. Hoewel sommige platforms gebruikers een uitstelperiode geven om hun gegevens te downloaden, hebben velen het gevoel dat er een onvervangbare leegte achterblijft.

Schrijf je hieronder in voor onze GRATIS nieuwsbrief