In het kort
- De Britse regering maakt zich zorgen over de AI-tool Grok van X, omdat die gebruikt kan worden om schadelijke deepfakes te maken, vooral met kinderen erin.
- Premier Starmer vraagt Ofcom om zijn bevoegdheden onder de Online Safety Act te gebruiken om dit probleem aan te pakken en mensen te beschermen tegen deze mogelijke schade.
- De benoeming van een nieuwe, strengere voorzitter van Ofcom duidt op een mogelijke verschuiving naar strengere regelgeving op het gebied van online veiligheid en opkomende technologieën.
De Britse regering heeft haar ernstige bezorgdheid geuit over het mogelijke misbruik van X’s AI-tool Grok voor het maken van schadelijke deepfake-afbeeldingen.
Seksuele content met kinderen
Deze zorgen komen voort uit het feit dat Grok kleding digitaal uit afbeeldingen kan verwijderen, wat de vrees doet ontstaan dat er seksueel expliciete inhoud kan worden gegenereerd, met name waarbij kinderen betrokken zijn. Premier Sir Keir Starmer veroordeelde dergelijke activiteiten als “schandelijk” en “walgelijk” en wees erop dat dit niet getolereerd zal worden. Hij drong er bij de communicatieregulator Ofcom op aan om alle beschikbare bevoegdheden te gebruiken om dit probleem aan te pakken.
Ofcom heeft aanzienlijke bevoegdheden op grond van de Online Safety Act, waaronder de mogelijkheid om een gerechtelijk bevel te vragen dat X effectief verbiedt om in het Verenigd Koninkrijk actief te zijn door de toegang tot financiering en technologie te blokkeren. Hoewel dit proces doorgaans een onderzoek vereist, kan het worden versneld in gevallen waarin sprake is van ernstige schade, vooral wanneer kinderen gevaar lopen en er een geschiedenis van niet-naleving is.
Onderzoek
Er wordt gewerkt aan de benoeming van een nieuwe voorzitter van Ofcom, in de verwachting dat deze een strengere aanpak zal hanteren ten aanzien van online veiligheid en bedreigingen voor de nationale veiligheid als gevolg van opkomende technologieën en eigendomsmodellen.
Ondertussen is Ofcom een onderzoek gestart naar de zorgen rond X en Grok, nadat het “dringend contact” had opgenomen met beide entiteiten. Op dit moment is het delen van deepfakes van volwassenen in het Verenigd Koninkrijk illegaal.