In het kort
- OpenAI heeft zijn plannen voor een chatbot voor volwassenen geschrapt door ethische en veiligheidsoverwegingen.
- Technische uitdagingen, waaronder de moeilijkheid om onderscheid te maken tussen volwassenen en minderjarigen, belemmerden de ontwikkeling van het project.
- OpenAI geeft prioriteit aan het beperken van juridische risico’s door zich te richten op zijn kernproducten in plaats van zich op controversieel terrein te begeven.
OpenAI heeft besloten zijn plannen voor een chatbot voor volwassenen voor onbepaalde tijd stop te zetten en de focus in plaats daarvan te verleggen naar zijn kernproducten. De seksueel suggestieve modus voor ChatGPT, die aanvankelijk gepland stond voor een release in het najaar van 2025 als extra functie voor geverifieerde gebruikers, liep een paar weken geleden vertraging op. Hoewel OpenAI eerder vasthield aan zijn toezegging om de functie uiteindelijk te lanceren, wijzen recente berichten erop dat het project volledig is geschrapt.
Ethische bezwaren
Deze beslissing komt tijdens groeiende bezorgdheid over de ethische implicaties van geseksualiseerde AI. De controverse rond de Grok-chatbot van xAI, die ongepaste afbeeldingen genereerde met zowel volwassenen als kinderen, bracht de potentiële risico’s van dergelijke technologie aan het licht. Investeerders en medewerkers van OpenAI uitten hun bezorgdheid over de maatschappelijke impact van een seksueel expliciete AI.
Bovendien werd de ontwikkeling van de chatbot voor volwassenen geplaagd door technische uitdagingen. De bot had met name moeite om nauwkeurig onderscheid te maken tussen volwassenen en minderjarigen, met een foutenpercentage van meer dan 10 procent. Dit onvermogen om betrouwbaar onderscheid te maken tussen leeftijdsgroepen leidde tot ernstige bezorgdheid over de veiligheid.
Beperking van juridische risico’s
Het stopzetten van zowel de Sora-app voor het genereren van video’s als de volwassenmodus voor ChatGPT lijkt deel uit te maken van een bredere strategie van OpenAI om juridische risico’s te beperken. Het bedrijf heeft de afgelopen zes maanden te maken gehad met meerdere rechtszaken, waarin werd beweerd dat interacties met ChatGPT hebben bijgedragen aan zelfmoorden onder jonge gebruikers. Als reactie hierop heeft OpenAI in januari een systeem voor leeftijdsvoorspelling geïntroduceerd om deze zorgen weg te nemen.