De paniekzaaierij van Anthropic over AI is niet wat het lijkt
In dit artikel:
Anthropic roept op tot een tijdelijke pauze in de ontwikkeling van grensverleggende AI-modellen, maar die oproep berust volgens dit artikel op zwakke aannames en anekdotisch bewijs. In een blogpost — ondertekend door Marina Favaro en Jack Clark — schetst het bedrijf een toekomstbeeld waarin autonome agents uiteindelijk zelf modellen zouden kunnen bouwen en trainen. De schrijver van dit stuk betoogt echter dat er geen duidelijke lijn bestaat van huidige LLM-chatbots naar daadwerkelijk zelfverbeterende AI; in plaats daarvan zijn de grootste verbeteringen tot nu toe door mensen aangebracht.
Als voorbeeld haalt Anthropic een vermeende achtvoudige toename aan van codebijdragen per persoon per kwartaal sinds begin 2025. Dat cijfer wordt door de auteur als waarschijnlijk overdreven bestempeld en onvoldoende om te bewijzen dat AI zelfstandig betere modellen ontwikkelt. Veel van de echte vooruitgang komt voort uit menselijke uitvindingen en infrastructuur rondom modellen: retrieval-augmented generation (RAG), het door Anthropic gepromote Model Context Protocol, agent-harnesses en inference-time technieken. Die lagen maken LLM’s robuuster en toepasselijker, maar ze zijn door mensen bedacht en worden door mensen ingezet.
Het artikel nuanceert ook claims over Claude, Anthropic’s model: het gedrag dat als “zelfleren” geïnterpreteerd kan worden krijgt geen heldere toelichting, en verbetering in modelgedrag kan even goed voortkomen uit betere menselijke instructies, datasets en een groeiende lijst van verboden of niet-aanbevolen acties dan uit autonome zelfreflectie. Daarnaast wordt Mythos genoemd als een potentiële doorbraak voor security-toepassingen, maar dat verandert niets aan de kernstelling dat door mensen geleide innovaties centraal blijven staan.
De voorgestelde pauze is praktisch problematisch. Geen enkel regulerend verzoek kan alle labs dwingen te stoppen — sommige teams werken geheimzinnig, andere hebben weinig binding met Amerikaanse beleidslijnen — waardoor zo’n oproep moeilijk handhaafbaar is. Het doet denken aan de mislukte campagne in 2023 waarin techleiders pleitten voor een stilstand na GPT-4; toen bleek ook dat implementatie en governance door mensen vaak lastiger zijn dan technische beperkingen.
Ten slotte wijst het stuk op belangen: Anthropic heeft baat bij regelgeving die de toetredingsdrempel hoog houdt en de kosten van zijn eigen explosief stijgende ontwikkelingsuitgaven onder controle brengt. Concluderend is er volgens de auteur geen overtuigend bewijs dat transformer-gebaseerde modellen zichzelf herhalen of autonoom verbeteren. Dat zou theoretisch kunnen wanneer schaalwetten en datasets samenkomen, maar voorlopig is dat speculatie — concrete tekenen of reproduceerbare aanwijzingen ontbreken. De AI-omgeving wordt volwassen en complexer, maar de menselijke rol in verbetering blijft dominant.