AP waarschuwt: Bereid je nu al voor op verplichte ai-test

In dit artikel:

De Autoriteit Persoonsgegevens (AP) roept overheden en bedrijven die publieke diensten leveren op nu al te oefenen met een grondrechten-effectbeoordeling (FRIA). Vanaf december 2027 wordt deze test verplicht voordat organisaties bepaalde AI-systemen met een hoog risico inzetten. Dat geldt ook voor systemen die financiële risico’s van mensen beoordelen, bijvoorbeeld in het openbaar vervoer, de zorg of bij overheidsdiensten.

Met een FRIA brengen organisaties in kaart of AI de rechten en privacy van mensen kan schaden, zoals het recht op gelijke behandeling, toegang tot essentiële voorzieningen en bescherming van persoonsgegevens. Dat is belangrijk omdat AI steeds vaker invloed heeft op beslissingen over bijvoorbeeld uitkeringen, verzekeringen, opleidingen en sollicitaties, terwijl systemen fouten kunnen maken of groepen ongelijk kunnen behandelen.

Organisaties moeten vanaf 2027 niet alleen de mogelijke gevolgen onderzoeken, maar ook maatregelen nemen om risico’s te beperken en hierover rapporteren aan de AP. De FRIA vormt een aanvulling op de bestaande privacybeoordeling, de DPIA. De AP biedt uitleg en begint een pilot waarin deelnemers met het Europese rapportagetemplate kunnen oefenen en feedback krijgen. Aanmelden kan tot en met 21 september. De AP wordt naar verwachting toezichthouder op het merendeel van de hoogrisico-AI-systemen onder de Europese AI-verordening.