Twee op drie kreeg al met een ai-incident te maken

In dit artikel:

AI is bij vrijwel alle onderzochte organisaties ingeburgerd, maar de bijbehorende governance blijft achter. Dat blijkt uit een wereldwijd onderzoek van onderzoeksbureau Barc onder 234 leiders uit data, AI, IT en het bedrijfsleven. 97 procent heeft minstens één AI-toepassing in productie en ongeveer twee derde meldt in de afgelopen twaalf maanden een AI-gerelateerd incident.

Volgens Barc kunnen gebrekkige controles leiden tot verlies van klantvertrouwen en reputatieschade (44 procent), boetes of sancties (40 procent) en directe financiële verliezen (37 procent). Hoewel 58 procent datakwaliteit beheert en 62 procent governancecontroles op data toepast, is het toezicht op modellen en AI-agents veel minder ontwikkeld. Slechts 26 procent monitort modellen, 23 procent houdt een modelregister bij, 20 procent gebruikt een speciaal AI-governanceplatform en 10 procent heeft voorzieningen voor agentgovernance. Voor gevoelige acties van AI-agents verlangt 59 procent wel menselijke goedkeuring.

Het aandeel organisaties dat Barc als AI-leider beschouwt, steeg van 20 procent begin 2024 naar 29 procent. Deze voorlopers hebben volwassenere programma’s rond onder meer beveiliging, directieverantwoordelijkheid en projecttoezicht en melden doorgaans minder incidenten. Barc adviseert organisaties om verantwoordelijkheden voor AI-risico’s vast te leggen, controles over de volledige keten in te voeren, continu te monitoren en ook ongestructureerde informatie goed te beheren. De resultaten zijn zelfgerapporteerd; IT-respondenten signaleren meer problemen dan bedrijfsrespondenten, terwijl 60 procent de eigen governance beter vindt dan die van concurrenten.