Helion maakt AI-kernels universeel toegankelijk
Tijdens de PyTorch Conference EU in Parijs heeft de PyTorch Foundation aangekondigd dat Helion het nieuwste project is dat door de stichting wordt gehost. Met de overdracht van deze technologie door Meta wordt het ontwikkelen van AI-kernels – de cruciale rekenkernen van AI-modellen – drastisch vereenvoudigd, gestandaardiseerd en toegankelijker gemaakt voor de bredere tech-community.
Helion voegt zich bij een illuster rijtje van open-source projecten binnen de stichting, zoals DeepSpeed, Ray en vLLM. De timing is cruciaal: terwijl de AI-wereld verschuift van training naar een enorme boom in 'inference' (het daadwerkelijk uitvoeren van modellen), wordt de noodzaak om modellen op grote schaal en op verschillende soorten hardware te draaien steeds groter.
Einde aan handmatige codering
Het schrijven van kernels is traditioneel een tijdrovend en specialistisch proces, waarbij code vaak handmatig moet worden geoptimaliseerd voor specifieke chips. Helion brengt hier verandering in. Het is een in Python ingebedde taal (DSL) die fungeert als een abstractielaag bovenop de hardware.
"Helion biedt engineers een veel productiever pad voor het schrijven van hoogwaardige kernels," zegt Matt White, Global CTO van AI bij de Linux Foundation. Een van de belangrijkste functies is 'autotuning', waarbij het systeem automatisch honderden verschillende implementaties test om de snelste optie voor een specifieke chip te vinden. Hierdoor hoeven ontwikkelaars niet langer handmatig te sleutelen aan de prestaties per hardwareplatform.
"Schrijf één keer, draai overal snel"
Door Helion onder te brengen bij de PyTorch Foundation, wordt de technologie opengesteld voor het hele ecosysteem van hardwarefabrikanten. Jana van Greunen, Director of PyTorch Engineering bij Meta, benadrukt het belang hiervan: "Ontwikkelaars schrijven nu één kernel en deze draait overal snel. Dit opent de deur voor snellere innovatie in de hele industrie."
Naast de komst van Helion maakte de stichting bekend dat ExecuTorch officieel onderdeel wordt van 'PyTorch Core'. ExecuTorch, eveneens gestart bij Meta, is gericht op het draaien van AI-modellen op mobiele apparaten en 'edge'-apparatuur. Door deze projecten in een open community onder te brengen, wordt gegarandeerd dat technische beslissingen op een transparante en gezamenlijke manier worden genomen.
Toekomst van de AI-stack
Met de toevoeging van Helion versterkt de PyTorch Foundation de fundering van een open AI-stack die minder afhankelijk is van specifieke hardwareleveranciers. Voor bedrijven betekent dit dat ze hun AI-modellen eenvoudiger kunnen verplaatsen tussen verschillende cloudproviders en datacenters, zonder dat dit ten koste gaat van de snelheid of efficiëntie.
Meer over Development
Over Witold Kepinski
