DDN wil AI-infrastructuur rendabeler maken door dataknelpunten weg te nemen

De vraag naar AI-capaciteit groeit sneller dan de beschikbaarheid van GPU's, elektriciteit en datacenterruimte. Tegelijkertijd zijn de kosten van AI-infrastructuur hoog en is het benutten van rekenkracht niet vanzelfsprekend. Volgens Omer ligt een belangrijk deel van het probleem bij de datalaag. Zelfs krachtige GPU's leveren onvoldoende rendement op wanneer ze moeten wachten tot gegevens beschikbaar zijn of wanneer opslag de verwerking van resultaten vertraagt. Omer benadrukte dat het niet alleen gaat om hogere doorvoersnelheden, maar vooral om meer productief werk uit bestaande infrastructuur te halen. De centrale boodschap: AI-infrastructuur moet niet alleen sneller worden, maar ook economisch beter presteren.

De GPU is zo sterk als de datastroom

DDN komt voort uit de wereld van High-performance Computing (HPC), waarin grootschalige parallelle verwerking al langer centraal staat. Die ervaring vormt de basis voor de huidige AI-strategie. Het bedrijf meldt meer dan 5.000 klanten te bedienen en inmiddels meer dan een miljoen GPU's te hebben ondersteund.
De technische uitdaging verandert echter gedurende de levenscyclus van een AI-model. Tijdens de training moeten grote hoeveelheden data parallel naar GPU's worden gestuurd. Wanneer een trainingsproces tussentijds een checkpoint opslaat, verschuift de belasting plotseling naar schrijfacties. Als die opslaghandelingen vertraging oplopen, kunnen GPU's die op elkaar wachten kostbare rekentijd verliezen.

Bij inferentie, waarbij een getraind model antwoorden genereert gelden weer andere eisen. De infrastructuur moet uiteenlopende gegevensverzoeken verwerken, modellen en context beschikbaar maken en meerdere gebruikers gelijktijdig bedienen. Daarnaast vraagt de voorbereiding van trainingsdata om efficiënte toegang tot enorme hoeveelheden objecten en metadata. Een afzonderlijke oplossing voor elke fase kan de complexiteit en beheerkosten verhogen. DDN wil deze problemen benaderen als één samenhangend infrastructuurvraagstuk, waarbij prestaties, schaalbaarheid en beheer gezamenlijk worden geoptimaliseerd.

Twee engines voor één AI-datalaag

DDN bouwt zijn aanbod rond twee technologieën. EXAScaler is het parallelle bestandssysteem voor intensieve modeltraining. Het is gebaseerd op Lustre, maar men voegt onder meer mogelijkheden toe voor multi-tenancy, kwaliteitsgaranties en eenvoudiger beheer. Daarmee wil het bedrijf voorkomen dat organisaties veel specialistische kennis en handmatige afstemming nodig hebben om een grootschalige opslagomgeving operationeel te houden.

De tweede component is Infinia, een gedistribueerde datalaag die is ontwikkeld voor grote datarepositories, gegevensvoorbereiding en inferentie. De technologie ondersteunt verschillende toegangsinterfaces, waaronder S3 en bestandsprotocollen, en kan ook worden ingezet voor het opslaan en beschikbaar maken van de KV-cache. Deze cache bevat context die een AI-model tijdens het genereren van antwoorden gebruikt. Door die context buiten het schaarse GPU-geheugen beschikbaar te houden en snel terug te laden, wil DDN onnodige herberekeningen beperken.

De twee technologieën zijn complementair. EXAScaler blijft gericht op training op zeer grote schaal; Infinia richt zich vooral op datavoorbereiding en inferentie. Via de Horizon-beheerlaag wil men beide onderdelen vanuit een consistente omgeving laten beheren.

Van technische prestaties naar bedrijfsresultaat

De positionering draait nadrukkelijk om de economische gevolgen van infrastructuurkeuzes. Een hogere doorvoersnelheid is op zichzelf geen afdoende maatstaf. Relevant is hoeveel sneller een trainingsproces wordt afgerond, hoeveel GPU-tijd verloren gaat aan checkpoints en hoeveel antwoorden een inferentieomgeving binnen een bepaalde tijd kan leveren.

DDN noemt onder meer een inzet van 9.000 GPU's bij NVIDIA en verwijst naar het gebruik van zijn technologie in de infrastructuur van Google Cloud. Ook stelt het bedrijf dat zijn oplossingen bij grootschalige trainingsomgevingen de kosten en doorlooptijd aanzienlijk kunnen verlagen. 

Voor IT-managers betekent dit dat opslag niet langer uitsluitend als een capaciteitsvraagstuk kan worden behandeld. De datalaag beïnvloedt de benutting van dure GPU's, de energie-efficiëntie en uiteindelijk de kosten per training of gegenereerd token. Dat vraagt om een integrale beoordeling van de infrastructuur, waarbij rekenkracht, opslag, netwerk en software gezamenlijk worden gemeten.

AI op schaal vraagt om eenvoud

Het bedrijf wil zijn technologie bovendien beschikbaar maken op gekwalificeerde hardware van verschillende leveranciers en werkt aan ondersteuning voor meer GPU-platforms. De nauwe samenwerking met NVIDIA blijft daarbij een belangrijk onderdeel van de strategie. Voor organisaties die afhankelijk willen zijn van meerdere hardwareleveranciers, is de mate van platformondersteuning een relevant aandachtspunt.

De uitdaging verschuift daarmee van het succesvol uitvoeren van een kleinschalige AI-proef naar het betrouwbaar en betaalbaar exploiteren van AI op productieschaal. Juist daar ontstaan complexe beheervraagstukken, zeker wanneer training, inferentie en agentische toepassingen verschillende eisen aan dezelfde infrastructuur stellen.

Omer: “We proberen ons te onderscheiden door die problemen niet als losse opslagkwesties te benaderen, maar als onderdelen van één AI-platform. De kern van de propositie is helder: organisaties kunnen hun GPU-capaciteit alleen rendabel benutten wanneer de data op het juiste moment, met voldoende snelheid en zonder onnodige operationele complexiteit beschikbaar is.”