Duits deep-techbedrijf ExpectedIT komt met LPool
Terwijl de AI-industrie de afgelopen jaren vooral naar GPU's keek, verschuift het knelpunt in datacenters volgens het Duitse start-up ExpectedIT nu razendsnel naar de CPU’s. Het bedrijf uit de regio Stuttgart presenteerde bij monde van CEO Klas Moreau (foto) tijdens de 69e IT Press Tour in Ljubljana (Slovenië) zijn architectuur met de naam LPool. Men haalt daarbij niet de minste namen aan: van Intel tot Microsoft en van AMD tot Nvidia.
Van GPU- naar CPU-bottleneck
ExpectedIT, opgericht door voormalige IBM-ingenieurs, redeneert dat AI in korte tijd drie fases heeft doorlopen. In het ‘chat-AI’-tijdperk stelden gebruikers losse vragen en deed vooral de GPU het werk, dankzij Nvidia's NVLink dat een volledig rack tot één grote versneller smeedt. Inmiddels zijn we beland in het tijdperk van agentic AI: systemen die 24/7 actief zijn, hulpmiddelen aanroepen, API's raadplegen en zelfstandig browsen. Die orkestratie gebeurt via de CPU. Volgens ExpectedIT vraagt dat tot tien keer meer rekenkracht dan voorheen. Een derde en opkomende fase is inference-time learning, waarbij modellen tijdens gebruik blijven leren. Dit kan de druk op CPU en geheugen verder opvoeren.
Het bedrijf onderbouwt die stelling met cijfers van derden: AMD-topvrouw Lisa Su sprak over een CPU-servermarkt van 120 miljard dollar in 2030, UBS Research komt op 170 miljard dollar, terwijl Morgan Stanley schat dat 50 tot 90 procent van de latency bij agentic workloads aan de CPU-kant ontstaat.
LPool: rack als één coherente machine
De oplossing die ExpectedIT aanbiedt heet LPool: een chiparchitectuur die, in de woorden van het bedrijf, voor CPU's doet wat NVLink voor GPU's deed. Waar NVLink de grenzen tussen GPU's wegneemt, moet LPool datzelfde doen voor CPU's, geheugen, opslag en netwerkkaarten binnen een rack. Vandaag lopen serverontwerpen tegen harde plafonds aan: AMD stopt bij twee sockets, Intel bij acht. LPool belooft configuraties tot 96 sockets, verbonden via een ‘pool chip’ die naast elke CPU wordt geplaatst en die alle rekenkernen, geheugen en netwerkinterfaces één NumaHOP (een NumaHOP beheert het gehele proces, van het importeren van bibliografische records en het beoordelen van de staat van fysieke documenten tot het verspreiden en archiveren van gedigitaliseerde bestanden) van elkaar verwijderd houdt.
Volgens ExpectedIT blijft in de praktijk 30 tot 40 procent van het CPU-, geheugen- en opslagvermogen in datacenters ongebruikt, simpelweg omdat die capaciteit vastzit aan de ‘verkeerde’ server. LPool moet die gestrande resources rack-breed deelbaar maken, wat tot 50 procent meer output uit bestaande hardware zou opleveren.
Ervaren team, prille validatie
De direktie van het bedrijf combineert doorgewinterde chipbouwers met bestuurlijke ervaring: CEO Klas Moreau leidde eerder VC-gefinancierde halfgeleiderbedrijven, CPO Dr. Burkhard Steinmacher-Burow bouwde als IBM-architect mee aan de Blue Gene-supercomputers en CTO Àrni Ingimundarson werkte aan IBM's POWER-processors bij Texas Instruments. Het team telt momenteel zestien ingenieurs, voornamelijk rond Stuttgart, met verdubbeling gepland na de investeringsronde.
De validatie komt vooralsnog vooral van verklaringen en intentieovereenkomsten. ExpectedIT claimt getekende letters of intent van onder meer Core42 (G42), het IJslandse 1984 ehf, en meldt gesprekken met Microsoft en een niet nader genoemde tier-1 CPU-leverancier. Intel zou een UPI-licentieovereenkomst hebben getekend; een technische verificatie van de LPool-chip tegen een echte Intel-CPU moet nog beginnen.
“This LPool technology is actually something truly new to bring into how we build servers, and a promising one”, aldus een Microsoft-vicepresident die geciteerd wordt door ExpectedIT.
Series A van 25 miljoen euro
Het bedrijf haalde al 6,5 miljoen euro seedfinanciering op en behoort tot de top 4 procent van meer dan duizend aanvragers bij het EIC Accelerator-programma, goed voor 2,5 miljoen euro subsidie en een toezegging van 10 miljoen euro co-investering. Nu wil ExpectedIT vanaf oktober een Series A van 25 miljoen euro ophalen, met sluiting voorzien eind maart 2027. Het geld moet de eerste chip-taping (een voorfase voor productie) in 2027 en productie-inzet in 2028 mogelijk maken. Het verdienmodel leunt in eerste instantie op IP-licenties en royalty's per verkochte CPU of LPool-module, met een latere uitbreiding naar eigen fabless chipproductie.
Kritische blik
De ambities zijn groot en de architectuur oogt technisch onderbouwd, maar veel bewijs bestaat nog uit interne demo's, FPGA-prototypes en toezeggingen die formeel nog niet zijn afgerond. Of grote CPU-leveranciers als Intel, AMD of ARM daadwerkelijk hun instructiesets en interconnects voor een klein Duits start-up willen aanpassen, is een vraag die pas na de eerste getekende licentie definitief te beantwoorden is. Voor de Europese chipambities is ExpectedIT intussen wel een interessante naam om te volgen: een lokale poging om een structureel knelpunt in de wereldwijde AI-infrastructuur op te lossen, gesteund door Europese subsidieprogramma's die juist op zoek zijn naar exact dit soort fabless aanbieders.