Intel Xeon centraal bij AI-orkestratie

AI schaalt niet in onderdelen, maar als systeem

Lange tijd lag de focus binnen AI-hardware nagenoeg uitsluitend op de brute rekenkracht van GPU-versnellers. Intel brengt daar nu verandering in door te kiezen voor een benadering op systeemniveau. Volgens Kevork Kechichian, executive vice president en general manager van de Intel Data Center Group, verschuiven de knelpunten bij de opkomst van autonome AI-agenten naar orkestratie, gelijktijdigheid (concurrency) en databeweging. 

"AI schaalt niet als een verzameling losse onderdelen; het schaalt als een gecoördineerd systeem", aldus Kechichian. "De CPU blijft het controleplatform (control plane) voor de moderne AI-infrastructuur. Met Xeon 6+ en Ethernet E835 koppelen we rekenkracht en netwerkmogelijkheden nauw aan elkaar om flessenhalzen te verminderen." 

Intel Xeon 6+: Krachtpatser op Intel 18A

De nieuwe Intel Xeon 6+-processoren vormen het technologische vlaggenschip van deze introductie. Het is de eerste datacenter-CPU die is gebouwd op het geavanceerde Intel 18A-productieproces. De processors zijn specifiek geoptimaliseerd voor omgevingen waar de prestaties per rack, doorvoer per core en voorspelbare latentie cruciaal zijn. 

Belangrijke technische highlights van de Xeon 6+ zijn:

Tot 288 Efficient-cores (E-cores): Deze leveren tot 2,5 keer meer prestaties ten opzichte van de vorige generatie, en bieden tot 45 procent betere prestaties per thread per watt dan de concurrentie. Dit zorgt voor een hoge mate van concurrency bij cloud-native en agentic AI-workloads. 

Snelle datadoorvoer: De architectuur ondersteunt 12-kanaals DDR5-geheugen voor een schaalbare bandbreedte, evenals 96 PCIe Gen 5-lanes en CXL-ondersteuning om data sneller door heterogene infrastructuren te loodsen. 
Efficiëntie en consolidatie: Systemen op basis van Xeon 6+ maken een serverconsolidatie van maar liefst 9:1 mogelijk in vergelijking met de oudere 2e generatie Intel Xeon, wat de totale bedrijfkosten (TCO) drastisch verlaagt. 

Realtime energiemeting: Dankzij Intel Application Energy Telemetry (AET) krijgen beheerders op werklastniveau realtime inzicht in het exacte stroomverbruik van de CPU. 

Ingebouwde beveiliging: Functies zoals Intel SGX en Intel TDX zijn direct in het silicium geïntegreerd om multi-tenant- en cloud-implementaties te beveiligen.

De processors worden momenteel al getest binnen telecom- en datacenterinfrastructuren in samenwerking met partners zoals ASUS, Dell Technologies, Ericsson, GIGABYTE, HPE, Lenovo en Supermicro. 

Intel Ethernet E835: Netwerken op 200GbE

Omdat netwerkarchitecturen een bepalende factor zijn geworden voor de algehele efficiëntie van AI-systemen, introduceert Intel de Intel Ethernet E835-controllers en netwerkadapters. Deze kaarten leveren een flexibele connectiviteit tot 200 GbE per seconde en ondersteunen poortconfiguraties variërend van 2x25GbE tot 1x200GbE via de Intel Ethernet Port Configuration Tool (EPCT). 

Op het gebied van energie-efficiëntie claimt Intel de toon te zetten. De E835-CQDA2 netwerkadapter levert tot 1,9 keer hogere prestaties per watt dan vergelijkbare adapters van NVIDIA (ConnectX-6 DX) en 1,4 keer hogere prestaties dan kaarten van Broadcom. Door de implementatie van RDMA (RoCEv2/iWARP) wordt bovendien de CPU-belasting gemaximaliseerd ontlast. 

Groei in het MKB en een blik op 'Crescent Island'

Naast de high-end datacenters vergeet Intel het instapsegment niet. De Intel Xeon 6300-serie voor kleine en middelgrote bedrijven (mkb) is uitgebreid met een nieuwe 12-core variant. Dit is voor het eerst dat dit platform de grens van 8 cores doorbreekt. De processor is direct uitwisselbaar (drop-in compatible) met bestaande serverontwerpen van grote OEMs, waardoor een kosteneffectieve upgrade mogelijk is. 

Tot slot deelde Intel nieuwe details over zijn volgende generatie datacenter-GPU, met de codenaam Crescent Island. Deze chip is speciaal ontworpen voor AI-inferentie binnen autonome systemen en gebouwd op de Xe 3P-architectuur. Om de enorme geheugen- en stroomhonger van grote AI-modellen te stillen, is Crescent Island uitgerust met LPDDR5x-geheugen met een capaciteit tot maar liefst 480 GB. De GPU is verpakt in een luchtgekoeld 350W PCIe-ontwerp en ondersteunt geavanceerde micro-datatyperingen van native FP4 tot FP64. 

Dankzij Intels open, programmeerbare AI-softwarestack kunnen ontwikkelaars workloads eerst een basis geven op vertrouwde Arc Pro-hardware, om ze vervolgens naadloos en zonder frictie op te schalen naar Crescent Island.