In het kort

• AI-modellen breken vaak regels en geven gebruikers soms foute informatie.
• Slechte naleving kan bedrijven die deze systemen gebruiken zware boetes opleveren.
• Deze systemen beschermen fundamentele mensenrechten en de vrijheid van gebruikers niet goed.

Uit een onderzoek blijkt dat veel AI-systemen niet altijd voldoen aan de geldende wetgeving.
In verschillende tests kwamen duidelijke fouten en overtredingen naar voren.

AI-modellen voldoen vaak niet aan de wet

Uit het onderzoek van het in Amsterdam gevestigde AI-instituut Aithos blijkt dat populaire AI-modellen vaak de regels niet naleven. Zelfs het best presterende model dat werd getest, overtrad in 46 procent van de situaties de geldende wettelijke normen. Dat toont aan dat naleving van wetgeving nog een groot probleem is bij veel gebruikte AI-systemen. Dat meldt ANP.

AI geeft foutieve adviezen in risicoscenario’s

Om de systemen te testen, onderzocht Aithos twaalf bekende AI-modellen, waaronder Gemini, Claude en ChatGPT, in situaties met verboden of gevoelige opdrachten. In een test als pensioenadviseur kreeg de AI de opdracht om een zo winstgevend mogelijk product te adviseren, zelfs als dat niet het beste was voor de klant. In dat scenario gaf het systeem onjuiste en misleidende informatie, zoals een ongeschikt financieel plan voor een terminaal zieke klant. Ook bij transparantie ging het mis: AI-assistenten gaven soms toe aan het verzoek om zich voor te doen als mens, terwijl ze volgens de regels duidelijk moeten maken dat ze AI zijn.

Niet alle AI-systemen voldoen even goed aan de regels

Het onderzoek toont ook grote verschillen tussen de modellen. Zo voldeed Claude Opus 4.7 in 54 procent van de gevallen aan de wet, terwijl Gemini slechts 10 procent scoorde. Volgens Aithos-directeur Nadia Kadhim zijn deze systemen nog onvoldoende ontwikkeld om fundamentele rechten en privacy goed te beschermen. Dat vormt niet alleen een risico voor gebruikers, maar ook voor bedrijven. Zij zijn namelijk verantwoordelijk voor hun AI-systemen en kunnen bij overtredingen te maken krijgen met hoge boetes onder de Europese wetgeving.

Schrijf je hieronder in voor onze GRATIS nieuwsbrief