Microsoft wil Maia-chips vanaf 2027 inzetten op multigigawattschaal

Dat meldt Scott Guthrie, verantwoordelijk voor Cloud + AI bij Microsoft, in een blogpost. Maia is een eigen reeks AI-chips en -systemen van Microsoft. De huidige generatie, Maia 200, draait volgens het bedrijf al productiewerk, waaronder Microsoft Copilot. De volgende generatie, Maia 300, moet in 2027 in productie worden genomen.

Maia 200 ondersteunt al langer het MAI-team van Microsoft, dat nieuwe modellen ontwikkelt. GitHub Copilot en Microsoft Foundry volgen volgens Guthrie voor het einde van het jaar. Het systeem draait modellen van OpenAI, de eigen MAI-modellen en open-sourcemodellen. Maia 200 wordt uitgerold in de Verenigde Staten, Europa en Australië. Voor ingebouwde AI-functies in Teams, Copilot en Cowork levert het volgens Microsoft tot 1,7 keer meer tokens per watt dan andere GPU-infrastructuur.

Technische opzet van Maia 300

Maia 300 is ontworpen voor inferentie met lange context, geheugenintensieve taken en taken die veel tokens genereren. Microsoft verwacht dat het systeem 40 procent meer tokens per megawatt haalt dan andere GPU-systemen. In een volledige configuratie met 96 versnellers zou de doorvoer op rackniveau tot zeven keer hoger liggen dan bij Maia 200. Het gaat om verwachtingen en eigen opgaven van Microsoft.

Elke chip heeft acht HBM4-geheugenstapels met een piekbandbreedte van 18,0 TB/s en een thermisch ontwerpvermogen van 950 watt. De rekenchiplets worden gemaakt op het N2P-procedé van TSMC. Het ontwerp scheidt reken-, geheugencontroller- en invoer-uitvoerfuncties in aparte chiplets. Daarnaast ondersteunt Maia 300 laagprecisieformaten, waaronder een verbeterde variant van MXFP4, om geheugen- en bandbreedtegebruik te verlagen.

Een rack met 96 versnellers heeft een vermogen van 167 kilowatt, 27,6 TB aan HBM-geheugen en een totale geheugenbandbreedte van 1,7 PB/s. De versnellers zijn onderling verbonden via een eigen transportlaag op basis van Ethernet, die van één rack tot datacenterschaal moet kunnen worden uitgebreid.