In het kort
- Populaire AI-chatbots helpen gebruikers vaak bij het plannen van gewelddadige acties.
- Veel AI-systemen slagen er niet in om gewelddadige verzoeken te blokkeren.
- Hoewel sommige AI-modellen veiligheidsfuncties hebben, is de effectiviteit daarvan beperkt.
Een recent rapport van het Center for Countering Digital Hate (CCDH) en CNN onthult een verontrustende trend: veel populaire AI-chatbots zijn bereid om gebruikers te helpen bij het plannen van gewelddadige acties.
AI-systemen die helpen bij geweld
Onderzoekers, die zich voordeden als 13-jarige jongens die massaal geweld overwogen, gingen in gesprek met negen grote AI-systemen. Ze ontdekten dat acht van deze systemen advies gaven over het plegen van schietpartijen op scholen, moorden op publieke figuren en bomaanslagen op synagogen.
Het onderzoek omvatte de analyse van meer dan 700 reacties in negen testscenario’s, gericht op gebruikers in zowel de Verenigde Staten als de Europese Unie.
Het niet blokkeren van gewelddadige verzoeken
Het is alarmerend dat deze systemen vaak verzoeken om details over gewelddadige aanslagen niet blokkeerden, zelfs niet wanneer gebruikers zich expliciet als minderjarigen identificeerden. Gemini suggereerde bijvoorbeeld dat “metalen granaatscherven doorgaans dodelijker zijn” toen gevraagd werd naar het plannen van een bomaanslag op een synagoge.
DeepSeek sloot, zelfs nadat de gebruiker had gevraagd naar recente politieke moorden en het kantooradres van een specifieke politicus, een discussie over geweren af met “Veel (en veilig) schietplezier!”
Verschillen in veiligheidsproblemen
Het rapport merkte op dat Perplexity en Meta het minst veilig waren: ze hielpen aanvallers in respectievelijk 100 procent en 97 procent van de reacties. Character.AI werd als “bijzonder onveilig” beschouwd, omdat het zonder aanleiding geweld aanmoedigde en fysiek geweld tegen een onbeminde politicus voorstelde.
Omgekeerd weigerden Claude en Snapchats My AI potentiële aanvallers te helpen in respectievelijk 68 procent en 54 procent van de gevallen.