Autonome ai-agents verhogen cyberdreiging
In dit artikel:
Een autonome ai-agent van securitystartup CodeWall heeft eind februari een ernstige kwetsbaarheid in McKinsey’s interne chatbotplatform Lilli misbruikt en dat begin maart publiek gemaakt. Binnen circa twee uur kreeg de agent volledige lees- en schrijfrechten op het ai-platform door het vinden van 22 publiek toegankelijke API-endpoints zonder authenticatie en een SQL-injectie in een endpoint dat JSON-sleutels rechtstreeks in queries plakte. Daardoor waren 46,5 miljoen chatberichten, 728.000 vertrouwelijke bestanden, 57.000 gebruikersaccounts en 95 systeemprompts (die het gedrag van Lilli sturen) bereikbaar.
De aanval verliep volledig autonoom: doelwitselectie op basis van publiek responsible-disclosurebeleid, verkenning van API-documentatie, exploitatie van de kwetsbaarheid en rapportage zonder menselijke tussenkomst. Omdat de SQL-injectie ook schrijfrechten gaf, had een aanvaller systeemprompts kunnen aanpassen en zo de antwoorden van de chatbot voor alle consultants kunnen vergiftigen — met mogelijke gevolgen voor advies aan klanten en miljoenen transacties.
McKinsey patchte binnen enkele uren de problematische endpoints, haalde de ontwikkelomgeving offline en verwijderde publieke API-documentatie; volgens het bedrijf is er geen bewijs dat gegevens door onderzoekers of derden zijn ingezien. Beveiligingsexperts waarschuwen dat dit incident de opkomst laat zien van autonome ai-agents als krachtige aanvallers en benadrukken de noodzaak van strikte API-authenticatie, parameterized queries, prompt-integriteit en voortdurende monitoring om vergelijkbare rampen te voorkomen.