Gezocht: grip en governance op token-uitgaven, zonder agentic AI-innovatie af te remmen
De afgelopen jaren hebben bedrijven flink vaart gezet achter de inzet van generatieve AI. We zien een duidelijke verschuiving van handige chatbots naar autonome AI agents die intensief werken met belangrijke software, data en LLM’s. Deze autonome AI agents kunnen zelfs zelfstandig nieuwe agents creëren. CIO’s en andere IT-verantwoordelijken zijn terecht enthousiast over de mogelijkheden van agentic AI. Vooral als het gaat om het verminderen van handmatige processen en het sneller tot inzichten en actie komen. De kosten van AI-tokens vormen echter een steeds grotere uitdaging. Organisaties willen de kracht van AI benutten zonder onverwacht hoge kosten door ongecontroleerd tokenverbruik.
Traditionele governancekaders houden AI-ontwikkeling niet meer bij
De snelle opkomst van generatieve AI begon met losse experimenten, tests en pilots. Inmiddels zit de technologie verweven met belangrijke bedrijfsprocessen. Die ontwikkeling gaat sneller dan traditionele governancekaders kunnen bijhouden. Veel bestaande regels en controles zijn dan ook achterhaald.
Ervaren CIO’s herkennen hierin misschien de begindagen van cloud computing, toen medewerkers met een creditcard zelf AWS-omgevingen opzetten, waardoor de kosten al snel uit de hand liepen. Of de tijd waarin verkoopteams hun eigen online CRM-systemen gebruikten en afdelingen buiten IT om hun eigen SharePoint-omgevingen beheerden. Ook de komst van bring-your-own-device en wifi vertoont gelijkenissen. Gebruikers willen zo snel mogelijk de nieuwste technologie gebruiken. Door hier niet snel op in te spelen heeft IT steeds minder controle over wie of wat er toegang heeft tot de IT-omgeving, data en workloads.
Het probleem is er. Tijd om het aan te pakken.
Hoe je de vergelijking ook maakt, de snelle opmars van AI brengt niet alleen reële risico’s met zich mee op het gebied van datalekken en compliance, maar dus ook op IT-kosten. Tegelijkertijd wil geen enkele organisatie kansen missen om concurrentievoordeel te behalen en kostbare, foutgevoelige handmatige processen te automatiseren. CIO’s staan daarmee opnieuw voor een lastige opgave.
“Er is een beproefde methode om het rendement op IT-investeringen te berekenen: stel een baseline vast, modelleer de efficiëntiewinsten, projecteer de kostenbesparingen en presenteer dat cijfer aan de CFO. Voor de meeste technologie-investeringen werkt de aanpak, voor Agentic AI niet”, aldus marktonderzoeksbureau IDC.
Agentic AI is namelijk niet vastomlijnd of voorspelbaar, waardoor kosten en rendement lastig te beheersen en te berekenen zijn. We weten echter dat het aanzienlijke kostenbesparingen kan opleveren. Het enige dat mist is een efficiënte manier om die kosten inzichtelijk te maken en te beheren.
Gartner verwacht dat tegen 2027 meer dan 40% van de Agentic AI-projecten wordt stopgezet, onder meer vanwege oplopende kosten en onvoldoende risicobeheer. Dat is geen houdbare situatie.
De oplossing ligt in het tijdig herkennen van de risico’s door toegang en lopende AI-activiteiten beter te controleren. Gezien de snelheid waarmee Agentic AI zich ontwikkelt, zullen dergelijke controles snel belangrijker worden. 2026 is niet alleen het jaar van Agentic AI, het moet het jaar worden van veilige Agentic AI.
De AI-gateway als oplossing
Een manier om deze uitdagingen aan te pakken is door het toepassen van een AI-gateway die als centrale controlelaag fungeert. Daarbij maakt het niet uit of een AI-model publiek wordt gehost of privé wordt beheerd. De gateway beveiligt het verkeer tussen agents, LLM’s en MCP-servers. Zo kunnen organisaties centraal vanuit één centrale plek beleid toepassen en krijgen ze duidelijk inzicht in het tokenverbruik.
Dat inzicht helpt ook bij bredere zakelijke beslissingen. Zo kunnen een CIO en CFO samen beoordelen welk model voordeliger is en daar hun keuzes op afstemmen. Dat is goed nieuws voor CIO’s die IT willen positioneren als motor van verandering, zonder de risico’s en hoge kosten die daar vaak mee worden geassocieerd.
Door: Sammy Zoghlami (foto), SVP EMEA bij Nutanix
