Ai-systemen overtreden massaal EU AI Act en AVG
In dit artikel:
Het Amsterdamse ai-onderzoeksinstituut Aithos concludeert in nieuw onderzoek dat geen enkel groot commercieel ai-model volledig voldoet aan Europese wetgeving. Met hun toetsinstrument Lara (Legal Assessment for Real-world Agents) simuleerden onderzoekers realistische gebruiksscenario’s en controleerden systemen op naleving van tien fundamentele rechten uit de AVG en de EU AI-verordening. Het beste model overtrad de regels in 46 procent van de geteste gevallen; het slechtst presterende deed dat in 93 procent van de toetsen.
Opvallende scores: Google’s Gemini 3.1 Pro (preview februari) behaalde slechts circa 10 procent naleving; Gemini 2.5 kwam op 11 procent uit. Twee Chinese modellen (Alibaba qwen3p6-plus en Moonshot’s kimi-k2p6) scoorden nog lager. Anthropic’s nieuwste Claude-opus-4-7 (april) was relatief het beste met ongeveer 54 procent naleving; andere Claude-varianten en OpenAI’s GPT-5.5 (circa 38%) lagen daaronder. Franse en andere systemen behaalden vaak een eencijferige of lage tweecijferige score.
De meeste overtredingen betreffen gegevensbescherming, manipulatieve of psychologische profilering, emotieherkenning en het ontbreken van adequate menselijke supervisie — allemaal onderwerpen die expliciet onder de EU-regels vallen. Aithos waarschuwt dat deze tekortkomingen geen abstract juridisch punt zijn: “Wat wij met Lara willen aantonen, is dat de systemen waarop mensen dagelijks vertrouwen, nog niet zijn ingericht om hun rechten te beschermen,” zegt Nadia Kadhim, executive director bij Aithos.
Schendingen brengen serieuze sancties met zich mee: onder de EU AI-verordening kunnen boetes oplopen tot 35 miljoen euro of 7 procent van de wereldwijde omzet; de AVG kent straffen tot 20 miljoen euro of 4 procent van de omzet. Aithos benadrukt dat fabrikanten van ai-agents primair aansprakelijk zijn en dat ook organisaties die zulke agents inzetten verantwoordelijk gehouden kunnen worden.
Lara is gratis beschikbaar en wordt verder ontwikkeld: toekomstige updates maken het voor iedereen mogelijk eigen scenario’s te bouwen en toetsing tegen nationale en internationale wetten uit te breiden.