Energienet en koeling worden de nieuwe bottleneck voor AI-datacenters

Volgens Eric Mounier, hoofdanalist bij Yole Group, heeft AI het datacenter veranderd in een integraal systeemvraagstuk. Prestaties worden niet langer verkocht of afgemeten op het niveau van een losse processor, maar per compleet serverrack. De uiteindelijke winnaars in de sector worden bepaald door de mate waarin geheugen, geavanceerde verpakkingstechnologieën (advanced packaging), optica en stroomvoorziening naadloos samenbrengen.

Binnen de markt verschuiven de verhoudingen tussen de verschillende segmenten. Logica blijft het grootste segment, waarin GPU's momenteel domineren. Wel vormen klantspecifieke AI ASICs, die hyperscalers in eigen beheer ontwerpen, de snelst groeiende bedreiging voor die koppositie. Geheugen geldt als de bepalende factor voor 2026: door een explosieve vraag naar High Bandwidth Memory (HBM) en een sterke prijsstijging van server-DRAM is dit het snelst groeiende marktsegment. Daarnaast verschuift optica naar het hart van het systeemontwerp; met de commerciële doorbraak van co-packaged optics in 2026 worden onderlinge verbindingen even cruciaal voor de prestaties als de rekenkracht zelf. Ten slotte ontstaat rondom stroomvoorziening een nieuwe waardeketen doordat racks overstappen op hogere spanningsarchitecturen om de steeds dichtere AI-systemen van energie te voorzien.

Rack-systemen 

Deze technologische transitie uit zich in complete geïntegreerde rack-systemen zoals de Nvidia NVL576, AMD Helios, AWS NL72 en Google Ironwood. Bij het op schaal uitrollen van deze systemen vormen de capaciteit voor geavanceerde verpakking en de snelle doorontwikkeling van HBM de belangrijkste knelpunten.

Tegelijkertijd hertekenen concentratie, regionalisering en een fysieke energiegrens de toeleveringsketen. Nvidia claimt inmiddels circa 16 procent van alle wereldwijde halfgeleideromzet en verzekert zich van prioritaire capaciteit bij fabrikanten als TSMC en SK Hynix. Op regionaal niveau kiest Europa voor digitale souvereiniteit via het InvestAI-plan van 200 miljard euro, terwijl de Chinese uitbouw beperkt blijft door Amerikaanse exportrestricties op chipfabrikant SMIC. De grootste fysieke belemmering voor de verdere groei van AI-infrastructuur is echter de stroomvoorziening. Aangezien AI-racks tegen het einde van het decennium de grens van 1 megawatt naderen, worden hogere spanningsarchitecturen van 800 volt, het gebruik van SiC- en GaN-halfgeleiders en directe vloeistofkoeling de standaard. De toegang tot het elektriciteitsnet is voor datacenters inmiddels net zo'n harde beperkende factor geworden als de beschikbaarheid van de chips zelf.