'Microsoft heeft zorgen over AI-kosten en introduceert limieten'
Microsoft lijkt zich zorgen te maken over de kosten die het gebruik van AI met zich meebrengt. In een e-mail aan werknemers zegt het bedrijf dat er grenzen gesteld gaan worden aan het gebruik van AI.
Bedrijven waren lange tijd bezig met zoveel mogelijk AI gebruiken, ook wel 'tokenmaxxing' genoemd. Maar nu het gebruik van AI duurder wordt, is die trend aan het keren. Zo ook bij Microsoft, blijkt uit een interne e-mail van executive vice president Jay Parikh, die 404 Media in handen heeft. "Nu we ons gebruik van GitHub Copilot versnellen om onze doelen te behalen, moeten we opletten hoe we tokens gebruiken", schrijft hij. "We optimaliseren niet voor tokenmaxxing. Ik wil dat we ons allemaal focussen op het maximaliseren van resultaten die er echt toe doen voor onze klanten en ons bedrijf."
Om die reden worden de interne richtlijnen geüpdatet, zegt Parikh in de mail. Daarnaast worden de token-uitgaven voortaan beheerd met 'dezelfde discipline die we op alle andere kritieke middelen toepassen'. Verder wordt OpenAI GPT-5.6 het nieuwe standaard model voor intern gebruik. Dat model is goedkoper in gebruik dan andere AI-modellen.
Ook hebben de verschillende afdelingen sinds juli een tokenbudget-doel, en kunnen werknemers hun individuele AI-uitgaven bijhouden. "Hoewel er op dit moment geen doelbedrag wordt gedeeld, laten de cijfers zien dat veel engineers maandelijks een paar honderd tot een paar duizend dollar aan tokens uitgeven," zo valt in de richtlijnen te lezen, waar volgens 404 Media in de e-mail naar gelinkt wordt. De richtlijnen stellen verder dat bepaalde beslissingen tot verdere beperkingen kunnen leiden, naarmate de uitgaven verder in de gaten worden gehouden.
Microsoft is niet alleen
Microsoft is niet het enige bedrijf dat de teugels wat aantrekt als het om AI-uitgaven gaat. Atlassian maakte eerder bekend dat zijn engineers een maandelijks budget krijgen voor het gebruik van AI. Dat budget verschilt per engineer en ligt tussen de 500 en 2000 dollar per jaar. En ook Meta heeft budgetten voor tokens uitgerold.
Dat AI-gebruik flink in de papieren kan lopen, bleek eerder deze maand wel uit berichtgeving rondom Amazon. Bij meerdere incidenten waarbij AI-modellen werden ingezet voor programmeerwerk, ontstonden onverwachte uitgaven. Bij één incident werd zelfs 1,8 miljoen dollar uitgegeven aan de inzet van AI, wat resulteerde in een budgetoverschrijding van 860%. De implementatie mislukte bovendien.
Meer over Development
Over Eveline Meijer
