CWI verhoogt met ai dataveiligheid VN-crisisplatform

In dit artikel:

Het Centrum Wiskunde & Informatica (CWI) heeft twee ai-gestuurde methoden ontwikkeld om gevoelige informatie nauwkeuriger te herkennen en te filteren uit het Humanitarian Data Exchange (HDX), het openbare dataplatform van de Verenigde Naties. HDX bevat bijna twintigduizend datasets uit 254 crisisgebieden, waarin lokale overheden en hulporganisaties gegevens delen over conflicten, rampen, gebouwen en personen — data die in verkeerde handen levensgevaarlijk kan zijn, bijvoorbeeld exacte coördinaten van ziekenhuizen in oorlogsgebieden.

CWI-onderzoeker Madelon Hulsebos en ai-masterstudent Liang Telkamp bouwden systemen die uitgaan van het begrip ‘contextueel gevoelige data’: informatie waarvan het risicoprofiel afhangt van tijd, plaats en omstandigheden. Eén mechanisme koppelt de publicatieregels van de VN aan datasets en laat taalmodellen (zoals GPT-4 en opensource-alternatieven) beoordelen welke informatie niet publiek beschikbaar zou moeten zijn. In tests bleek dit systeem veel effectiever: waar een bestaande tool van Google 63% van gevoelige persoonsgegevens detecteerde, haalde het CWI-systeem 94% met bovendien minder vals-positieven.

De Verenigde Naties hebben besloten de CWI-oplossingen in HDX te implementeren. Hulsebos presenteert de onderzoeksresultaten in oktober tijdens een VN-bijeenkomst in Barcelona. Volgens de onderzoekers is de aanpak ook toepasbaar op andere platforms waar gevoelige overheids- en bedrijfsdata gedeeld worden, zoals cloudservices en publieke dataportals, om zo de veiligheid van hulpverlening en kwetsbare groepen beter te waarborgen.