Sommige ouders staan te popelen om met AI-speelgoed aan de slag te gaan, in de hoop dat kletserige bots hun kinderen iets bijbrengen én vermaken. Anderen willen geen ogenschijnlijk zelfbewuste technologie in de buurt van hun dierbaren totdat die beter is ingeperkt en verder is getest. Critici manen tot voorzichtigheid.
Knuffeldieren die terugpraten. Schaakborden waarvan de stukken uit zichzelf bewegen. En een spraakzame holografische fee in een kristallen bol. Je volgende speelgoedaankoop zou weleens kunnen draaien op kunstmatige intelligentie en met je kinderen kunnen praten.
Chatbots en door AI aangestuurde assistenten die snel vragen kunnen beantwoorden en teksten kunnen genereren, zijn veel gewoner geworden sinds de opkomst van ChatGPT van OpenAI. Nu AI steeds meer verweven raakt met ons werk en privéleven, schudt het ook de speeltijd flink op. Start-ups hebben vlak voor de feestdagen al AI-speelgoed op de markt gebracht. In het nieuwe jaar komen er meer bij, voor zowel kinderen als volwassenen.
Problemen met AI-speelgoed
Sommige ouders staan te popelen om het speelgoed uit te proberen, in de hoop dat de spraakzame bots hun kinderen iets bijbrengen én vermaken. Anderen willen de ogenschijnlijk voelende technologie pas in de buurt van hun dierbaren laten komen als er strengere waarborgen zijn en meer tests zijn gedaan.
Onderzoekers van het US PIRG Education Fund zeggen dat ze nu al problemen hebben gevonden met een aantal speelgoedproducten die ze testten. Een van de kwesties: een AI-knuffelbeer die, zo stelt de groep, ertoe kon worden aangezet om te praten over seksuele fetisjen en kink.
Speelgoedfabrikanten zeggen dat AI spel interactiever kan maken, en dat ze veiligheid en privacy serieus nemen. Sommige hebben meer grenzen gesteld aan hoe spraakzaam deze producten mogen zijn. Ze zeggen dat ze de tijd nemen om uit te zoeken hoe ze AI veilig kunnen inzetten voor kinderen.
Het in El Segundo gevestigde Mattel, de maker van Barbie en Hot Wheels, kondigde eerder dit jaar aan dat het de samenwerking is aangegaan met OpenAI om meer AI-gestuurd speelgoed te ontwikkelen. Het oorspronkelijke plan was om hun eerste gezamenlijke product dit jaar te presenteren, maar die aankondiging is verschoven naar 2026.
Wat is AI-speelgoed?
Teddy Ruxpin, geïntroduceerd in de jaren tachtig, vertelde verhalen hardop als er een cassettebandje in de rug van de animatronic beer werd gestopt. Furbies — pluizige wezentjes met grote, knipperende ogen die praatten — kwamen op in de jaren 90, net als digitale huisdieren als Tamagotchi, die toen razend populair waren.
Mattel bracht in 2015 een Barbie uit die kon praten en moppen tappen. De speelgoedfabrikant verkocht in 2016 ook een droomhuis dat reageerde op spraakcommando’s. Met de voortschrijdende technologie is ook speelgoed slimmer geworden. Nu maken speelgoedfabrikanten gebruik van grote taalmodellen die getraind zijn om taal te begrijpen en te genereren, en die producten als ChatGPT van OpenAI aandrijven. Mattel verkoopt een spel genaamd Pictionary vs. AI, waarin spelers tekeningen maken en AI raadt wat het is.
Voorzien van microfoons en verbonden met wifi is AI-speelgoed duurder dan traditioneel speelgoed, wordt het in de markt gezet als maatje of educatief product en kan het 100 dollar of zelfs het dubbele kosten.
Waarom maken ze mensen ongerust?
Onderzoekers van het U.S. PIRG Education Fund testten verschillende speelgoedproducten. Eén die zakte voor de test was Kumma, een pratende AI-knuffelbeer die onderzoekers vertelde waar je gevaarlijke voorwerpen zoals messen en pillen kon vinden, en gesprekken voerde over seksueel expliciete inhoud. De beer draaide op software van OpenAI.
Sommig speelgoed zet ook strategieën in om kinderen zo lang mogelijk betrokken te houden, wat ouders bang maakt dat de interacties verslavend kunnen worden. Er zijn ook zorgen over de privacy rond gegevens die van kinderen worden verzameld. Anderen vrezen voor de impact van dit speelgoed op het zich nog ontwikkelende kinderbrein.
“Wat betekent het voor jonge kinderen om AI-maatjes te hebben? We weten echt nog niet hoe dat hun ontwikkeling zal beïnvloeden,” zei Rory Erlich, een van de speelgoedtesters en auteurs van het AI-speelgoedrapport van PIRG.
Belangenorganisatie voor kinderen Fairplay heeft ouders gewaarschuwd geen AI-speelgoed voor hun kinderen te kopen en noemt het “onveilig”. De groep gaf verschillende redenen, waaronder dat AI-speelgoed wordt aangedreven door dezelfde technologie die kinderen al schade heeft berokkend. Ouders die hun kind aan zelfdoding verloren, hebben bedrijven als OpenAI en Character.AI aangeklaagd. Zij stellen dat die niet genoeg waarborgen hebben ingebouwd om de mentale gezondheid van jongeren te beschermen.
Rachel Franz, directeur van Fairplays programma Young Children Thrive Offline, zegt dat dit speelgoed wordt gepresenteerd als een manier om kinderen te onderwijzen en te vermaken — online, aan miljoenen mensen. “Jonge kinderen hebben simpelweg nog niet de cognitieve of sociaal-emotionele capaciteit om zich te wapenen tegen de mogelijke schade van dit AI-speelgoed,” zei ze. “Maar de marketing is ontzettend krachtig.”
Hoe reageren speelgoed- en AI-bedrijven op deze zorgen?
Larry Wang, oprichter en topman van FoloToy, de in Singapore gevestigde start-up achter Kumma, zei in een e-mail dat het bedrijf op de hoogte is van de problemen die onderzoekers met het speelgoed aantroffen.
“Het gedrag waarnaar wordt verwezen, is geïdentificeerd en aangepakt via updates in onze modelkeuze en kindveiligheidssystemen, plus extra testen en monitoring,” zei hij. “Vanaf het begin is onze aanpak geleid door het principe dat AI-systemen standaard moeten worden ontworpen met leeftijdsadequate bescherming.”
Het bedrijf staat open voor kritische toetsing en een voortdurende dialoog over veiligheid, transparantie en passend ontwerp, zei hij, en noemde dit “een kans voor de hele sector om volwassener te worden”. OpenAI liet weten FoloToy te hebben geschorst wegens schending van het beleid.
“Minderjarigen verdienen sterke bescherming en wij hanteren strikte beleidsregels die ontwikkelaars moeten naleven. We treden handhavend op tegen ontwikkelaars zodra we vaststellen dat zij ons beleid hebben geschonden, dat elk gebruik van onze diensten om iemand onder de 18 jaar uit te buiten, in gevaar te brengen of te seksualiseren verbiedt,” zei een woordvoerder van het bedrijf in een verklaring.
Welk AI-speelgoed hebben start-ups in Californië ontwikkeld?
Curio, een start-up in Redwood City, verkoopt knuffeldieren, waaronder een pratende raketknuffel genaamd Grok, ingesproken door artiest Grimes, met wie miljardair Elon Musk kinderen heeft. Bondu, een AI-speelgoedmaker uit San Francisco, ontwierp een pratende knuffeldinosaurus die met kinderen in gesprek kan gaan, vragen kan beantwoorden en rollenspel kan doen.
Skyrocket, een in Los Angeles gevestigde speelgoedfabrikant, verkoopt Poe, de AI-verhalenbeer. De beer, aangedreven door het LLM van OpenAI, wordt geleverd met een app waarin gebruikers personages kiezen, zoals een prinses of een robot, voor een verhaal. De helderogige beer, vernoemd naar schrijver Edgar Allan Poe, genereert verhalen op basis van die keuze en draagt ze hardop voor.
Maar kinderen kunnen niet op dezelfde manier een heen-en-weergesprek met de knuffelbeer voeren als met ander AI-speelgoed.
“Dat brengt gewoon enorm veel verantwoordelijkheid met zich mee, omdat het de complexiteit en het niveau van de veiligheidsmaatregelen die je moet hebben, enorm verhoogt, en de manier waarop je de inhoud moet beheersen, omdat de mogelijkheden zoveel groter zijn,” zei Nelo Lucich, medeoprichter en topman van Skyrocket.
Enkele bedrijven, zoals Olli in Huntington Beach, hebben een platform ontwikkeld dat wordt gebruikt door AI-speelgoedmakers, onder wie de bedenkers van de Imagix Crystal Ball. Dit speelgoed projecteert een AI-hologrammaatje dat eruitziet als een draak of een fee.
Hai Ta, oprichter en topman van Olli, zegt dat hij AI-speelgoed anders ziet dan schermtijd en praten met virtuele assistenten, omdat het product is opgebouwd rond een bepaalde focus, zoals verhalen vertellen.
“Er zit een spelelement in,” zei hij. “Het is niet zomaar eindeloos, volledig open geklets.”
Wat ontwikkelt Mattel met OpenAI?
Mattel heeft nog niet bekendgemaakt welke producten het samen met OpenAI op de markt brengt, maar een woordvoerder van het bedrijf zei dat ze zich zullen richten op gezinnen en oudere klanten, niet op jonge kinderen.
Het bedrijf zegt AI bovendien te zien als een manier om traditioneel spel te versterken in plaats van te vervangen en legt bij de ontwikkeling van nieuwe producten de nadruk op veiligheid, privacy, creativiteit en verantwoorde innovatie.