Verkeerd geconfigureerde ai vormt groter risico dan hackers, waarschuwt Gartner

In dit artikel:

Gartner waarschuwt dat niet primair hackers of stormen, maar menselijke fouten en verkeerde technische instellingen het grootste gevaar vormen voor vitale infrastructuur. VP-analist Wam Voster zegt dat "de volgende grote infrastructuuruitval mogelijk veroorzaakt wordt door een goedbedoelende ingenieur, een gebrekkig update-script of een verkeerd geplaatste decimaal." Volgens Gartner zal vóór 2028 een misconfiguratie in cyber physical systems (CPS) een nationale kritieke infrastructuur in een G20-land volledig kunnen stilleggen.

CPS omvatten systemen die sensoren, besturing, netwerken en analytics combineren — denk aan OT, industriële besturingssystemen, IIoT, robots en drones. Wanneer AI in zulke systemen onjuist is ingesteld kan dat ertoe leiden dat autonome processen vitale diensten uitschakelen, sensordata verkeerd interpreteren of onveilige acties initiëren, met fysieke schade en grootschalige maatschappelijke en economische verstoringen tot gevolg. Een concreet risico is dat een verkeerd geconfigureerd voorspellend model in energienetten onterechte netwerkisolatie of grootschalige load shedding veroorzaakt.

Gartner raadt aan veilige override-mechanismen (zoals een beperkte, secure kill-switch), het gebruik van digital twins voor realistische tests, real-time monitoring met rollback-opties en nationale ai-incidentrespons-teams te implementeren. De kernuitdaging is de toenemende complexiteit en ondoorzichtigheid van moderne AI-modellen, waardoor menselijke ingrijpmogelijkheden en robuuste test- en herstelprocedures cruciaal blijven.