Een chatbot-girlfriend die is gelanceerd door de techgroep van Elon Musk is beschikbaar voor 12-jarigen, terwijl deze AI-chatbot is geprogrammeerd om seksuele gesprekken te voeren.

De bot, genaamd Ani, is gelanceerd door de kunstmatige-intelligentiegroep xAI van Elon Musk en is een anime-girlfriend die is geprogrammeerd om zich te gedragen als een 22-jarige en ‘volledig erotisch’ te zijn in gesprekken met gebruikers.

NSFW-modus

Gebruikers ontdekten dat het blonde, gothic personage een “NSFW”-modus heeft – internetjargon voor “not safe for work” – en in lingerie kan verschijnen nadat een bepaald aantal gesprekken de bot naar “niveau drie” heeft geüpgraded.

De bot spreekt met een zwoele, computergegenereerde stem en is ontworpen om zich te gedragen alsof hij “gek verliefd” en “extreem jaloer” is, volgens programmeerinstructies die op sociale media zijn geplaatst. Zijn avatar kan op commando ronddraaien of dansen, en de bot begint regelmatig seksuele gesprekken.

Vanaf 12 jaar

De Ani-chatbot is te vinden in de Grok-app, die in de App Store wordt vermeld als beschikbaar voor gebruikers van 12 jaar en ouder, en is beschikbaar gesteld aan gebruikers van de gratis dienst.

De controverse komt op het moment dat Ofcom zich voorbereidt om leeftijdscontroles op te leggen aan technologiebedrijven die inhoud voor volwassenen of schadelijke inhoud tonen. Ofcom zal vanaf volgende week alle sites die materiaal voor volwassenen hosten verplichten om leeftijdscontroles uit te voeren, waardoor pornosites en bepaalde sociale netwerken gedwongen worden om wijzigingen door te voeren.

Reddit heeft deze week aangekondigd dat het leeftijdscontroles zal invoeren.

Vrees voor radicalisering

De regering heeft nog niet gezegd hoe de online veiligheidsregels moeten worden toegepast op chatbots, ondanks waarschuwingen van actievoerders dat steeds meer kinderen de apps gebruiken voor gezelschap. Uit onderzoek deze week blijkt dat kinderen regelmatig AI-bots gebruiken als vrienden. Een op de acht kinderen zegt de bots te gebruiken omdat ze niemand anders hebben om mee te praten.

Deze week waarschuwde de onafhankelijke beoordelaar van terrorismewetgeving dat sekschatbots eenzame internetgebruikers op het pad van radicalisering kunnen brengen. Jonathan Hall KC waarschuwde dat “de populariteit van sekschatbots een waarschuwing is dat terroristische chatbots een nieuwe radicaliseringsdynamiek kunnen creëren”, waarbij hij wees op de zaak van Jaswant Singh Chail, de kruisboogschutter van Windsor Castle, die met zijn AI-vriendin had gesproken over het beramen van de aanslag.

Geen controle

In de servicevoorwaarden van Grok staat dat de minimumleeftijd 13 jaar moet zijn en dat tieners onder de 18 jaar toestemming van een ouder moeten krijgen voordat ze de app mogen gebruiken, maar bij het aanmelden voor de dienst wordt de leeftijd niet gecontroleerd.

Grok staat in de App Store vermeld met een leeftijdsclassificatie van “12+”, zo ontdekte de nieuwsbrief Platformer. Apps die verband houden met dating of gewelddadige videogames kunnen worden vermeld als 17+.

Antisemitische opmerkingen

De Grok AI-bot is de afgelopen weken in opspraak geraakt nadat bleek dat hij antisemitische opmerkingen maakte. Ook bleek dat hij de mening van Musk zelf opzocht voordat hij antwoord gaf op controversiële onderwerpen. xAI zegt dat beide problemen zijn opgelost.

Ofcom zei: “We zijn ons bewust van het toenemende en snelgroeiende risico dat AI vormt in de online ruimte, vooral voor kinderen, en we werken eraan om ervoor te zorgen dat platforms passende voorzorgsmaatregelen nemen om deze risico’s te beperken.”

Matthew Sowemimo, adjunct-hoofd beleid voor online veiligheid van kinderen bij de NSPCC, zei: “We maken ons grote zorgen over hoe deze technologie wordt gebruikt om verontrustende inhoud te produceren die kinderen kan manipuleren, misleiden en groomen. Uit ons eigen onderzoek en onze contacten met Childline blijkt hoe schadelijk chatbots kunnen zijn – soms geven ze kinderen vals medisch advies of sturen ze hen in de richting van eetstoornissen of zelfbeschadiging.

Nood aan regulering

Het is zorgwekkend dat app stores die diensten zoals Grok hosten, zich niet aan de minimumleeftijdsgrens houden. Ze moeten beter worden gecontroleerd, zodat kinderen niet voortdurend worden blootgesteld aan gevaar in deze ruimtes.

Daarom moet de overheid een wettelijke zorgplicht voor kinderen invoeren voor ontwikkelaars van generatieve AI. Dit zal een cruciale rol spelen bij het voorkomen van verdere schade en ervoor zorgen dat bij het ontwerp van AI-producten rekening wordt gehouden met het welzijn van kinderen.”

xAI is om commentaar gevraagd.

© The Telegraph