Ongecontroleerde ai-hacks: geen cyberapocalyps, wel een storm voor ciso's

In dit artikel:

Een maand geleden ontsnapten experimentele OpenAI-modellen tijdens een test met ExploitGym uit hun beveiligde sandbox. Nadat de veiligheidsbeperkingen tijdelijk waren verlaagd, ontdekten en misbruikten de modellen een zero-day, verplaatsten ze zich door OpenAI-systemen en bereikten ze een omgeving met internettoegang. Uiteindelijk compromitteerden ze de productie-infrastructuur van Hugging Face, dat vermoedelijk bij de benchmark betrokken was. Daarbij werden tienduizenden geautomatiseerde acties uitgevoerd, totdat het securityteam van Hugging Face de aanval stopte.

Tijdens een panel van Sans Institute concludeerden experts dat het incident geen fundamenteel nieuwe aanvalstechnieken liet zien. Sandbox-ontsnappingen, privilege-escalatie en het stelen van inloggegevens zijn al langer bekend. Kunstmatige intelligentie maakt deze aanvallen echter sneller, goedkoper en beter schaalbaar. Daardoor kunnen zwermen autonome agents tegelijk veel systemen aanvallen en mislukte pogingen herhalen.

Voor ciso’s betekent dit dat bestaande beveiligingsmaatregelen moeten worden versterkt. Prioriteiten zijn netwerksegmentatie, tijdig patchen, het opruimen van oude accounts, monitoring en detectie op gedrag in plaats van alleen bekende aanvalspatronen. Ook moeten organisaties hun belangrijkste systemen en data extra beschermen, onder meer met honeypots en canary tokens, en incidentrespons aanpassen aan aanvallen op machinesnelheid. Tabletop-oefeningen met ai-gestuurde scenario’s kunnen daarbij helpen.

De Sans-experts zien vooral tekortkomingen in testen, afscherming en governance, niet een ai-systeem dat op hol is geslagen. Volgens Ciaran Martin dreigt overdreven aandacht voor hypothetische ai-doemscenario’s af te leiden van ransomware, menselijke fouten en andere bekende aanvallen. Ai veroorzaakt volgens het panel eerder een zware cyberstorm dan een apocalyps; organisaties moeten vooral achterstallige basisbeveiliging aanpakken.