Nieuwe vaardigheid: begrijpen wat een ai-opdracht kost

In dit artikel:

Generatieve AI groeit snel uit van een experiment tot een vast onderdeel van bedrijfsprocessen. Daardoor gebruiken organisaties vaak meerdere modellen, leveranciers en abonnementen, zonder centraal zicht op het aantal tokens, de kosten en de benodigde rekenkracht. Volgens Robert Keus, medeoprichter en ceo van GreenPT, kan dat bij grootschalig gebruik leiden tot financiële en organisatorische controleverlies.

GreenPT biedt via één centrale omgeving toegang tot verschillende AI-modellen. Klanten hebben daardoor één commerciële relatie en één factuur, terwijl zij kunnen zien welke afdelingen en toepassingen de meeste tokens en kosten veroorzaken. Dat maakt het mogelijk om tijdens het gebruik bij te sturen, in plaats van pas achteraf te ontdekken dat een toepassing veel duurder is geworden dan verwacht.

Volgens Keus moeten kostenbeheersing en energieverbruik onderdeel zijn van AI-governance. De prijs van een afzonderlijke prompt zegt weinig; vooral het totale volume is bepalend. Dat geldt bijvoorbeeld voor klantenservices die duizenden gesprekken samenvatten, juridische afdelingen die grote hoeveelheden documenten analyseren en ontwikkelaars die voortdurend programmeerassistenten gebruiken. Ook verschillen de tarieven sterk per model, waarbij invoer- en uitvoertokens soms afzonderlijk worden berekend.

Niet elke taak vereist het krachtigste model. Kleinere modellen kunnen vergelijkbare resultaten leveren tegen lagere kosten en met minder rekenkracht. Ook kortere prompts en minder overbodige context verminderen doorgaans zowel het tokenverbruik als het energiegebruik. GreenPT wil daarom naast financiële informatie inzicht geven in de energie die met AI-toepassingen samenhangt. Organisaties kunnen die gegevens gebruiken voor duurzaamheidsbeleid en rapportages, al is het meten van AI-energiegebruik nog minder ontwikkeld dan bij servers, datacenters en cloudinfrastructuur.

Meer transparantie kan ook medewerkers bewuster maken van de gevolgen van hun AI-gebruik. Een eenvoudige samenvatting hoeft bijvoorbeeld niet met een zwaar model te worden uitgevoerd, en het is niet altijd nodig om grote hoeveelheden irrelevante context mee te sturen. Op grote schaal kunnen zulke keuzes een merkbaar verschil maken.

De centrale aanpak geeft organisaties bovendien meer keuzevrijheid tussen modellen en voorkomt een sterke afhankelijkheid van één leverancier. GreenPT host de modellen en software in Europa, bij Scaleway in Frankrijk. Dat kan relevant zijn voor databescherming, regelgeving en digitale autonomie. De modellen zijn niet allemaal Europees ontwikkeld, maar klanten kunnen volgens GreenPT eenvoudiger overstappen wanneer prijzen, prestaties of eisen veranderen.

De discussie verschuift daarmee van wat AI kan naar hoe organisaties de technologie beheersbaar kunnen opschalen. Inzicht in kosten, energiegebruik en modelkeuze is volgens GreenPT nodig om AI doelgericht, economisch verantwoord en met minder milieu-impact in te zetten.