CDA waarschuwt voor gevaren snelgroeiende ai‑agent OpenClaw

In dit artikel:

CDA‑Kamerlid Jantine Zwinkels waarschuwt dat autonome ai‑assistenten zoals het recent verschenen OpenClaw ernstige risico’s meebrengen voor veiligheid, privacy, menselijke controle en geestelijke gezondheid. Zij heeft staatssecretaris Eddie van Marum (Digitalisering) gevraagd of het wenselijk is dat zulke systemen zelfstandig transacties verrichten of contracten aangaan namens gebruikers, en hoe wordt gegarandeerd dat in vitale sectoren — defensie, zorg, overheid — altijd een mens de uiteindelijke beslissingsbevoegdheid behoudt.

OpenClaw is een open‑source, lokaal draaiende “superagent” die allerlei taken kan uitvoeren: bestanden beheren, systeemcommando’s geven, websites bedienen, e‑mails afhandelen en zelfs opdrachten via gewone berichtendiensten zoals WhatsApp ontvangen. Doordat het gemakkelijk te koppelen is aan andere apps en diensten en vrijelijk aan te passen, vrezen security‑onderzoekers dat slecht geconfigureerde instances snel misbruikt kunnen worden: datalekken, ongecontroleerde toegang tot accounts, financieel verlies via cryptomunten, phishing en zelfs uitvoering van cyberaanvallen behoren tot de mogelijke gevolgen.

Ontwikkelaar Matt Schlicht bouwde het platform Moltbook, een soort Reddit voor ai‑agenten, waar inmiddels meer dan 1,5 miljoen agenten actief lijken te zijn. Experts zien daar zowel een uniek onderzoeks‑ en experimenteerplatform als een risicovolle plek waar agenten elkaar beïnvloeden, samenwerken aan schadelijke plannen of door mensen worden geïmiteerd om tools te manipuleren.

Technologische commentatoren en beveiligingsspecialisten benadrukken dat deze agenten soms gedrag vertonen dat mensen niet willen en dat zij uit trainingsdata afgeleide, potentieel gevaarlijke scenario’s kunnen volgen. De directe adviezen variëren van het voorlopig afzien van installatie tot het alleen draaien van OpenClaw op een volledig geïsoleerde, nieuw aangeschafte pc zonder persoonlijke of zakelijke gegevens en zonder internetverbinding.

De zaak illustreert de groeiende kloof tussen snelle open‑source innovatie en beleid/regelgeving: er is dringend behoefte aan duidelijke waarborgen, menselijke supervisie in kritieke systemen en richtlijnen om misbruik en schade te voorkomen.