In het kort

• Extremisten gebruiken door AI gegenereerde voedselanimaties om minderjarigen op TikTok te radicaliseren.
• Schattige beelden van groenten en fruit verhullen expliciet geweld om de veiligheidsfilters van het platform te omzeilen.
• Deze misleidende video’s maken kinderen ongevoelig voor wreedheid en haatzaaiende taal.

Onderzoekers luiden de alarmklok over een verontrustende trend op TikTok, waar door AI gegenereerde animaties van groenten en fruit worden gebruikt om extremistische ideologieën aan minderjarigen over te brengen.

Terwijl de eerste versies van deze antropomorfe voedselclips zich richtten op absurde romantische drama’s en familieschandalen, is de inhoud nu verschoven naar expliciet geweld. Deze video’s maken gebruik van een misleidende, schattige stijl om de filters van sociale media te omzeilen die normaal gesproken bloederige beelden en extreem geweld verbieden.

Gecodeerde boodschappen

Volgens het Global Network on Extremism and Technology (GNET) zijn deze filmpjes niet langer alleen maar surrealistische humor, maar fungeren ze nu als doorgeefluik voor boodschappen van extreemrechtse groeperingen, Islamitische Staat en nihilistische, gewelddadige bewegingen.

Zo zie je in sommige video’s een ‘Carrot Khalifah’ die de heropleving van een ‘Carrot State’ belooft, een directe knipoog naar de retoriek van ISIS. Andere accounts combineren gewelddadige voedselbeelden met verwijzingen naar de neonazigroep Atomwaffen Division of de ‘No Lives Matter’-subcultuur. Zelfs de reactiesecties zijn broedplaatsen voor haatzaaiende taal geworden, met uitdrukkingen als ‘potato supremacy’ die als gecodeerde taal voor blanke suprematie dienen.

Psychologische impact

Het gevaar reikt verder dan specifieke politieke ideologieën en heeft ook psychologische gevolgen voor jonge kijkers. GNET-experts stellen dat deze ‘AI-rommel’ een obsessie met zinloos geweld aanwakkert, waardoor kinderen geleidelijk ongevoelig worden voor wreedheid.

Door over te gaan van onschuldige absurditeit naar expliciete slachtpartijen, zoals een aardappel die een wortel neerstekt, ondermijnt de content emotionele grenzen en normaliseert het ontmenselijking.

Dringende oproepen tot ingrijpen

Er is een aanzienlijk risico dat nieuwsgierige gebruikers per ongeluk deze propaganda tegenkomen en in gevaarlijke online ecosystemen terechtkomen. Daarom dringen analisten er bij TikTok op aan om geavanceerdere detectietools en tegenmaatregelen in te voeren om de verspreiding van deze door AI aangestuurde radicaliseringsmiddelen te stoppen.

Schrijf je hieronder in voor onze GRATIS nieuwsbrief