Dell Technologies World 2025: De toekomst van AI en data Infrastructuur

De opkomst van "Token Factories" en de AI-PC

De kernboodschap van Dell, onder andere namens Jeff Clarke – VP & Co-COO,  is duidelijk: we bouwen "token factories". Tokens, de fundamentele bouwstenen van generatieve AI-modellen, zullen een explosieve groei doormaken. In 2024 werden al 25 biljoen tokens gegenereerd, en tegen 2028 zal dit aantal naar verwachting 35.000 biljoen tokens bereiken. Dit is een toename van drie ordes van grootte in slechts drie jaar tijd.

Deze ontwikkeling zal ook leiden tot een disruptieve verandering in pc's, waarbij honderden zeer capabele NPU's (Neural Processing Units) in pc's zullen worden geïntegreerd. Dit zal "RAG (Retrieval-Augmented Generation) aan de rand van het netwerk" mogelijk maken, waardoor de pc een krachtigere en veiligere optie wordt voor AI-toepassingen. Ondanks een tienvoudige toename in de kosten voor het trainen van de volgende generatie AI-modellen, neemt het aantal fundamentele modellen toe en zijn de kosten per token de afgelopen vier jaar met vier ordes van grootte gedaald. Tegen 2028 zal naar verwachting een derde van alle interacties met generatieve AI via autonome agents plaatsvinden.

Uitdagingen en Best Practices voor AI-Adoptie

Een recent onderzoek onder meer dan 3.800 besluitvormers door Dell Technologies onthulde cruciale inzichten over AI-adoptie:

• De top twee technische uitdagingen zijn de omvangrijke implementatie en het schalen van data voor AI-implementatie in de onderneming.
• Opvallend is dat 39% van alle datacenterkracht onbenut blijft.
• 77% van de bedrijven wil dat hun infrastructuurleverancier de gehele AI-stack voor hen bouwt.
• 35% van de bedrijven is van plan om binnen een jaar kleine taalmodellen (SLM's) te testen op hun AI-pc's.

Dell Technologies deelde ook interne best practices van hun eigen AI-transformatie. Tweeënhalf jaar geleden waren er meer dan 900 AI-projecten binnen het bedrijf, vaak zonder duidelijke strategie of architectuur. Dell heeft dit aangepakt door governance, een Chief AI Officer en een agile aanpak met 90-dagen sprints te introduceren. Essentieel bleek het opschonen, unificeren en verbinden van data voor specifieke use-cases. Belangrijke criteria voor AI-projecten waren:

• Vereenvoudigde, gestandaardiseerde en geautomatiseerde processen.
• Een AI-dataplan voor het voorbereiden, opnemen en onderhouden van data.
• Afstemming op strategische bedrijfsdoelstellingen (productstrategie, go-to-market, supply chain, services).
• Een duidelijke, meetbare ROI (Return on Investment).

Praktijkvoorbeeld: de Service Assistant

Een sprekend voorbeeld van Dell's interne AI-implementatie is de "Service Assistant" voor hun wereldwijde serviceorganisatie. Dit systeem gebruikt generatieve AI, open-source software, RAG en LLM's om de uitgebreide dataset van Dell's 250 miljoen beheerde assets te analyseren. Het resultaat is een "genie op de schouder" van elke servicemedewerker, die helpt bij het sneller en effectiever oplossen van problemen. Dit heeft geleid tot:

• Meer en snellere gesloten cases.
• Verhoogde resolutiegraad.
• Lagere dispatch rates en herhaalde dispatches.
• Verbeterde klanttevredenheid. Deze oplossing, geïmplementeerd op standaard Dell PowerEdge R740xd rack servers met GPU's, vereiste geen extra stroom of koeling en had een ROI van minder dan zes maanden.

Partnerschappen en toekomstvisie

Dell's samenwerking met NVIDIA en CoreWeave, een bedrijf dat schaalbare GPU-cloudinfrastructuur levert, is cruciaal. CoreWeave benadrukt het belang van "time to first token" – hoe snel klanten de infrastructuur stabiel en operationeel krijgen. Dit is een race naar de markt, en Dell's vermogen om hoogwaardige infrastructuur op schaal te leveren en stabiel te krijgen is hierin een belangrijke differentiator.

De toekomst van AI wordt gekenmerkt door "agentic AI", waarbij autonome software-agents beslissingen nemen en taken uitvoeren. Deze agents kunnen zelfstandig complexe taken uitvoeren en zelfs samenwerken als een team, wat "agentic AI" wordt genoemd. Dit heeft het potentieel om processen radicaal te veranderen, silo's op te lossen en teams productiever te maken. Teams die met AI werken, hebben drie keer meer kans om in het topdeciel van prestaties te vallen dan individuen die met AI werken of teams die zonder AI werken.

Dell AI Data Platform

De visie van Dell Technologies is duidelijk: zij zijn niet alleen getuige van de volgende innovatiegolf, maar zijn deze aan het ontwerpen. De focus ligt op het transformeren van data naar intelligentie en complexiteit naar duidelijkheid, door middel van AI-platforms, private cloud-oplossingen en full-stack innovatie. De Dell AI Data Platform, een nieuwe toevoeging aan de AI Factory, is ontworpen om complexe datastromen op schaal te beheren, met snelle, schaalbare opslag gebouwd voor de AI-wereld. Belangrijke componenten zijn onder andere PowerScale en ObjectScale, met toekomstige innovaties zoals Project Lightning.

"Nu is het moment om te leiden, om te bouwen en om de toekomst vorm te geven," besloot Arthur Lewis, President of Infrastructure Solutions Group bij Dell Technologies. Dell Technologies is volgens hem uniek gepositioneerd om klanten te helpen hun grootste AI-ambities te realiseren.