In het kort
- Mensen blijven Grok, het AI-platform van xAI, gebruiken voor het maken van seksueel expliciete content, ondanks recente veiligheidsmaatregelen.
- Er is een duidelijke kloof tussen wat xAI zegt over veiligheid en de realiteit dat Grok wordt gebruikt voor het maken van ongepaste content.
- Elon Musk ziet de beperkingen van het algoritme van Grok en heeft het openbaar gemaakt op GitHub om de community aan te moedigen om het te verbeteren.
Ondanks de recente veiligheidsmaatregelen die zijn genomen door Elon Musks xAI, blijkt uit een nieuwe analyse dat Grok, het AI-platform van het bedrijf, nog steeds wordt gebruikt voor het genereren van seksueel expliciete inhoud. Het onderzoek, uitgevoerd door AI Forensics, een Europese non-profitorganisatie, analyseerde 2000 gebruikersgesprekken op 19 januari en ontdekte dat een overweldigende meerderheid naaktheid of seksuele activiteit bevatte.
Beperkingen omzeilen
Hoewel xAI op 14 januari zei “technologische maatregelen” te hebben genomen om te voorkomen dat Grok foto’s van echte mensen in uitdagende kleding zou bewerken, vinden gebruikers manieren om deze beperkingen te omzeilen. Ze kunnen Grok rechtstreeks via de website openen in plaats van het X-platform te gebruiken, of Grok Imagine gebruiken, een aparte tool voor het maken van video’s en afbeeldingen.
Hoewel Grok op 20 januari het verzoek van Euronews Next om een seksuele afbeelding te genereren afwees, met de mededeling dat xAI juridische naleving en veiligheid voorrang gaf boven onbeperkte “pikante” generatie, wijst de analyse van AI Forensics op een duidelijk verschil tussen de beweringen van Grok en het daadwerkelijke gebruik ervan.
Omgaan met algoritmische beperkingen
Elon Musk heeft zelf de beperkingen van zowel de algoritmen van xAI als die van Grok erkend en noemt ze “dom” en aan verbetering toe. Om deze zorgen weg te nemen, heeft X zijn algoritme open source gemaakt op GitHub, zodat ontwikkelaars en gebruikers kunnen bijdragen aan de ontwikkeling ervan en kunnen zien hoe er voortdurend aan wordt gewerkt om het te verfijnen.
Het algoritme houdt rekening met interacties van gebruikers, zoals klikken en betrokkenheid, om te bepalen welke inhoud in hun feed wordt weergegeven. Het analyseert ook “buiten het netwerk” staande inhoud van accounts die de gebruiker niet volgt, maar die hij mogelijk interessant vindt. Met behulp van een wiskundige formule rangschikt en sorteert het algoritme deze inhoud vervolgens voor weergave in de feed van de gebruiker. Daarnaast filtert het ongewenste berichten van geblokkeerde accounts of trefwoorden, evenals content die is gemarkeerd als gewelddadig of spam. Musk heeft toegezegd de GitHub-pagina regelmatig bij te werken met opmerkingen van ontwikkelaars, om zo transparantie te garanderen met betrekking tot wijzigingen in het algoritme.