Onderzoeker ontwikkelt Nederlandstalig taalmodel dat op beperkte hardware kan draaien
Bram Vanroy, een onderzoeker aan de KU Leuven, heeft met Fietje een Nederlandstalig taalmodel gemaakt op basis van Phi 2 dat ook op beperkte hardware kan draaien.
Het project is terug te vinden op Huggingface en GitHub. Het gaat om een taalmodel met 2,8 miljard parameters. Tegenover Tweakers zegt Vanroy dat het model de kans groter maakt dat zo’n taalmodellen ook op telefoons, of andere toestellen zonder stevige hardware, kan draaien.
Eerder maakte Vanroy ook GEITje Ultra, ook een Nederlandstalig taalmodel, met zeven miljard parameters. Fietje doet het bijna even goed als GEITje 7B Ultra, maar is wel minder krachtig. Op zijn pagina op Huggingface zegt Vanroy ook dat het geen state-of-the-art chatbot is, maar wel verkent hoe krachtig kleine en efficiënte taalmodellen in het Nederlands kunnen zijn. GEITje 7B Ultra is trager, maar kan wel meer.
In samenwerking met Data News
