Nieuwe eBPF-tool legt AI-verbruik bloot
Nu de uitgaven aan kunstmatige intelligentie naar verwachting binnen twaalf maanden zullen verdrievoudigen, worstelen veel organisaties met het doorbelasten van hun AI-kosten. Cloudbeheerder DoiT speelt hierop in met de lancering van Attribute. Deze nieuwe technologie maakt het mogelijk om AI-uitgaven aan tokens, modelaanvragen en GPU-cycli in realtime te traceren naar specifieke klanten en features, zónder dat daar SDK's, tagging of code-aanpassingen voor nodig zijn.
Traditioneel vereist het toewijzen van cloud- en AI-kosten ingewikkelde handmatige labels (tagging) of het inbouwen van software-toolkits (SDK's) in de broncode. Dit stuit in de praktijk vaak op barrières: gedeelde GPU's of algemene API-accounts laten zich lastig opsplitsen, waardoor IT-afdelingen het overzicht verliezen. Uit onderzoek van DoiT onder 500 IT-beslissers blijkt dat slechts 15 procent in staat is de ROI van AI-projecten nauwkeurig te berekenen zonder operationele knelpunten.
Meten in de kernel via eBPF
Attribute lost dit probleem op door niet de code, maar het daadwerkelijke verbruik te meten. De technologie maakt gebruik van een lichtgewicht eBPF-sensor die binnen vijftien minuten in de kernel van het besturingssysteem wordt geïnstalleerd. De sensor registreert alle CPU-, GPU-, netwerk- en opslagactiviteiten en koppelt deze direct aan de verantwoordelijke processen, containers of AI-agents.
Daarnaast herkent de tool uitgaande signalen naar externe AI-modellen van partijen als OpenAI, Google Gemini, Anthropic en AWS Bedrock. Hierdoor worden de kosten voor bijvoorbeeld invoer-, uitvoer- en reasoning-tokens automatisch toegewezen aan de juiste workloads en klanten.
Breder dan alleen AI
De analysetool kijkt overigens verder dan alleen AI-workloads. Ook de kosten van gedeelde bronnen zoals Kubernetes-clusters, multi-tenant databases en netwerkverkeer worden op dezelfde manier in kaart gebracht. Dit geeft softwareleveranciers en cloud-native organisaties direct en continu inzicht in de exacte brutomarges per klantaccount en de unit economics van specifieke softwarefuncties.
Volgens Izhak Zimmermann, General Manager van Attribute bij DoiT, markeert dit een omslagpunt in de markt: "Al vijftien jaar lang behandelt de sector kostentoewijzing als een administratief labelprobleem. Maar tokens zijn de bouwstenen van AI; je kunt de waarheid binnen een gedeelde GPU niet simpelweg taggen. Wij meten wat er daadwerkelijk draait, direct bij de bron." De tool is per direct wereldwijd beschikbaar.
Meer over Beheer
Over Witold Kepinski
