Anthropic-rapport over ai-misbruik slaat in als bom

In dit artikel:

Leveranciers van geavanceerde AI-modellen krijgen steeds vaker te maken met misbruik van hun technologie. Anthropic meldt in een nieuw rapport dat het meerdere pogingen heeft geblokkeerd om Claude in te zetten voor onderzoek naar zeer gevaarlijke biologische wapens. Onderzoekers omzeilden toegangsbeperkingen en verborgen hun bedoelingen, waarna hun accounts werden afgesloten.

Anthropic stopte ook het gebruik van Claude voor de ontwikkeling van conventionele wapens, waaronder drones die bewegende doelen kunnen aanvallen. Het rapport beschrijft zes gevallen in China, Rusland en Jemen. Staatsactoren gebruikten het model onder meer voor wapen- en goedereninkoop, inlichtingenwerk en de ontwikkeling van software voor wapens. Daarnaast werd Claude ingezet voor cyberaanvallen, spionage, phishing, surveillance en beïnvloedingscampagnes. AI maakt zulke operaties sneller, grootschaliger en moeilijker te detecteren.

Ook fraude kwam aan het licht. Een Chinese appstudio gebruikte Claude om meer dan twintig datingapps en de bijbehorende chatbots te bouwen, terwijl de dienst als menselijk werd gepresenteerd.

De ontwikkelingen hebben geleid tot grote onrust binnen de AI-sector. Onderzoeker Jacob Coxon vertrok bij Anthropic, nadat hij eerder om vergelijkbare redenen OpenAI had verlaten. Hij vindt dat ook Anthropic onvoldoende prioriteit geeft aan AI-veiligheid en waarschuwt dat steeds autonomere modellen de menselijke controle kunnen verliezen. Coxon en andere wetenschappers pleiten daarom opnieuw voor een pauze in de ontwikkeling van krachtigere AI, al heeft dat eerdere oproepen nog niet tot stilstand gebracht.