Euclyd CRAFTWERK biedt zuinige Exascale 'tokenfabriek' voor Agentic AI

Het hart van de nieuwe technologie is de CRAFTWERK SiP (system-in-package), een krachtpatser ter grootte van een handpalm. Deze beschikt over 16.384 aangepaste SIMD-processors die tot 8 PFLOPS (FP16) of 32 PFLOPS (FP4) leveren. In combinatie met 1 TB aan aangepast ultra-bandwidth memory (UBM), dat een verbazingwekkende bandbreedte van 8.000 TB/s biedt, zet de SiP een nieuwe standaard voor efficiëntie in datacenters.

CRAFTWERK vormt de basis van Euclyd's vlaggenschip rack-scale systeem, het CRAFTWERK STATION CWS 32. Dit systeem integreert 32 SiP’s om 1.024 exaflops aan FP4-rekenkracht en 32 TB UBM te leveren. Naar verwachting zal de CWS 32 in de multi-user modus 7,68 miljoen tokens per seconde kunnen verwerken bij een verbruik van slechts 125 kW. Dit vertegenwoordigt een 100x verbetering in energie-efficiëntie en kosten per token ten opzichte van toonaangevende alternatieven, gebaseerd op gemodelleerde prestaties voor Llama 4 Maverick.

"Onze ‘Crafted Compute’-filosofie herstructureert inference van de grond af aan: aangepaste processors, aangepast geheugen en geavanceerde 2.5D/3D-verpakking," aldus Bernardo Kastrup, oprichter en CEO van Euclyd. "We hebben elke gate ontworpen voor maximale efficiëntie en minimale stroomafname — veruit de laagste in de industrie."

Peter Wennink, investeerder in Euclyd en voormalig CEO van ASML, voegde eraan toe: "Ik geloof dat AI inference datacenter silicon zal domineren. De baanbrekende economische voordelen van CRAFTWERK zullen de adoptie van agentic AI versnellen en een tijdperk van overvloedige inference inluiden."