AI-model DeepSeek kost toch miljoenen in plaats van duizenden dollars
Er is verwarring ontstaan over de kosten voor de training van R1, een nieuw AI-model van het Chinese techbedrijf DeepSeek. Een recent onderzoek in het tijdschrift Nature suggereerde dat de trainingskosten slechts 294.000 dollar bedroegen. Dit leidde tot de verkeerde conclusie dat Chinese bedrijven veel efficiënter zijn dan hun Amerikaanse concurrenten.
De lage kosten hebben echter betrekking op een specifieke fase in het ontwikkelingsproces, namelijk 'reinforcement learning' (RL). Dit is een post-trainingsproces waarbij het model leert om betere antwoorden te geven. De basis van het model, DeepSeek V3, was toen al getraind, en dit was verreweg de duurste stap zo meldt The Register.
Volgens DeepSeek’s eigen rapportage werden voor de training van het V3-model 2.048 H800 GPU's gedurende twee maanden gebruikt. De geschatte kosten hiervoor bedragen ongeveer 5,58 miljoen dollar.
Samen met de kosten van de RL-fase komt de totale som voor de training van het R1-model op bijna 6 miljoen dollar. De bewering dat DeepSeek aanzienlijk goedkoper of efficiënter zou zijn, is dus overdreven.
Meer over ai
Over Witold Kepinski
