'Ai-agents veranderen netwerkbeveiliging fundamenteel'

In dit artikel:

De snelle opkomst van AI-agents vraagt volgens Fred Streefland, field-ciso EMEA bij cybersecuritybedrijf Check Point, om een fundamenteel andere aanpak van netwerkbeveiliging. Hij zei dit tijdens Check Point Advantage op 15 september in stadion Galgenwaard in Utrecht, waar klanten en partners spraken over de gevolgen van AI voor beveiliging. Check Point opende daar ook een nieuw kantoor.

Traditionele firewalls beoordelen vooral inkomend en uitgaand netwerkverkeer aan de hand van vooraf ingestelde regels. AI-agents communiceren echter met andere agents en taalmodellen via prompts, opdrachten en verzoeken. Die kunnen bedrijfsgevoelige informatie bevatten. Daarom moet beveiliging volgens Streefland niet alleen vaststellen of verkeer is toegestaan, maar ook begrijpen wat een agent probeert te doen, welke gegevens worden gebruikt en of de gevraagde actie binnen zijn bevoegdheden valt. Hij vergelijkt AI-agents met werknemers zonder securitytraining.

Organisaties moeten vooraf duidelijke kaders instellen. Daarbij hoort onder meer welke systemen en andere agents een agent mag benaderen, welke data hij mag gebruiken en welke acties zijn toegestaan. Zonder zulke guardrails kunnen autonome agents volgens Streefland alle beschikbare mogelijkheden gaan verkennen. Agents moeten daarom vóór ingebruikname worden getest en tijdens hun uitvoering continu worden gemonitord.

Streefland ziet parallellen met de introductie van internet en de overgang naar cloud computing. Ook toen lag de nadruk aanvankelijk vooral op innovatie en de kansen, terwijl beveiliging, risico’s en soevereiniteit minder aandacht kregen. De angst om de voordelen van AI mis te lopen, versnelt volgens hem nu opnieuw de adoptie. Hoewel hij positief is over AI, waarschuwt hij dat organisaties de risico’s niet pas achteraf moeten aanpakken. Wet- en regelgeving loopt daarbij volgens hem achter op de technologische ontwikkeling.

De risico’s gelden niet alleen voor volledig autonome agents. Ook medewerkers kunnen onbedoeld bedrijfsinformatie invoeren in openbare diensten zoals ChatGPT of Claude. Zij realiseren zich volgens Streefland niet altijd dat daarmee gevoelige data buiten de organisatie terecht kan komen. Check Point pleit daarom voor zicht op al het AI-gebruik en voor controle op zowel AI-toepassingen als agents.

De voorgestelde aanpak bestaat uit drie stappen: ‘discover’, het inventariseren van AI-gebruik; ‘protect’, het beveiligen van toepassingen vóór en tijdens gebruik; en ‘govern’, het beheersen van toepassingen, agents en bevoegdheden. Een moderne AI-firewall fungeert daarbij als technisch handhavingspunt. Die kan bijvoorbeeld op promptniveau controleren of een verzoek aan het bedrijfsbeleid voldoet en een ongepaste prompt blokkeren. Ook agents die zelfstandig taken uitvoeren, kunnen worden geïnventariseerd, getest en gevolgd.

De markt bevindt zich volgens Streefland nog in een overgangsfase: sommige organisaties inspecteren al afzonderlijke prompts, maar bewegen geleidelijk naar contextuele runtimebeveiliging. Daarbij worden naast de prompt ook de identiteit en rol van de agent, gebruikersinput, eerdere handelingen en gedrag tijdens de uitvoering meegewogen. Uiteindelijk moeten AI, identiteit, netwerkbeveiliging en dreigingsinformatie sterker worden gecombineerd, zodat processen indien nodig door de hele keten kunnen worden stilgelegd. Het doel is innovatie niet tegen te houden, maar AI-agents gecontroleerd en veilig in te zetten.