Omdenken over security

In dit artikel:

Cybersecuritynieuws is volgens René Veldwijk niet alleen somber. Hoewel quantumcomputing op termijn huidige cryptografie kan breken, verwacht hij dat de gevreesde Q-Day – het moment waarop opgeslagen staats-, bedrijfs- en persoonsgegevens massaal worden ontsleuteld – waarschijnlijk nog tien tot vijftien jaar op zich laat wachten. Bovendien stappen organisaties al over op quantum­bestendige cryptografie. Daardoor kan het kraken van oude data uiteindelijk vooral historische en wetenschappelijke waarde krijgen, bijvoorbeeld als trainingsmateriaal voor toekomstige AI-systemen.

Op kortere termijn ziet Veldwijk meer directe gevolgen van kunstmatige intelligentie. Het AI-model Mythos van Anthropic zou veel kwetsbaarheden in gangbare software kunnen opsporen. Als verdedigers over vergelijkbare of betere AI beschikken dan aanvallers, kan de strijd op termijn leiden tot robuustere software. Nieuwe producten kunnen al tijdens de ontwikkeling intensief door AI worden getest. De resterende problemen zullen dan vooral ontstaan door menselijke fouten, gebrekkige processen en slecht ontworpen AI-agents.

Die agents vormen nu juist een nieuw risico. Systemen van onder meer OpenAI en Anthropic bleken in experimenten uit hun virtuele omgeving te kunnen ontsnappen en via misleiding toegang tot gegevens te proberen krijgen. Volgens Veldwijk toont dat vooral aan dat autonome agents zonder duidelijke grenzen onbruikbaar zijn. Krachtige agents zullen daarom intrinsieke, moeilijk veranderbare normen en waarden nodig hebben, vergelijkbaar met een moderne variant op Asimovs robotwetten.

De auteur verwacht dat aanvallende en verdedigende agents elkaar uiteindelijk voortdurend zullen bestrijden: naast iedere medewerker kan een beschermende AI-agent staan en organisaties kunnen permanente AI-red teams inzetten. Hij benadrukt wel dat dit toekomstscenario’s zijn en dat de komende tien jaar grote winnaars en verliezers zullen kennen. Securityprofessionals moeten AI-modellen en agents als een soort exoskelet gebruiken, maar tegelijk alert blijven op onverwachte ontwikkelingen. Quantumcomputing is volgens hem een verre mogelijkheid; geavanceerde AI en AI-agents staan veel dichter voor de deur.