Dell koelt de supercomputers van Mistral AI

Waar Amerikaanse techgiganten vaak inzetten op gesloten cloudmodellen, kiest het Franse Mistral AI bewust voor een andere route. Het bedrijf ontwikkelt zogeheten open-weight-modellen en autonome AI-applicaties die overheden en bedrijven op hun eigen servers kunnen draaien. Dit geeft organisaties de volledige controle over hun data, intellectueel eigendom en privacy. Het trainen van zulke zware modellen vereist echter een extreme hoeveelheid rekenkracht, dichtheid en energie-efficiëntie. Dell levert nu de fysieke spierballen om die ambitie waar te maken.

Kernpunten van de samenwerking:

• Vloeistofgekoelde supercomputer: Mistral AI zet de Dell AI Factory met NVIDIA in, inclusief vloeistofgekoelde Dell PowerRacks en de NVIDIA GB200 NVL72-supercomputer op rack-schaal.
• Volledige datacontrole: Bedrijven kunnen de geavanceerde redeneermodellen van Mistral lokaal (on-premises) draaien binnen de veilige Dell-infrastructuur.
• Direct operationeel: Dankzij Dell Professional Services werd de complexe infrastructuur volledig geïntegreerd en gevalideerd opgeleverd, waardoor Mistral vanaf dag één live kon gaan.

Extreme rekenkracht met vloeistofkoeling

Het fundament van Mistrals nieuwe onderzoeksomgeving is de Dell AI Factory met NVIDIA. Om de nieuwste generatie AI-modellen te trainen, is gekozen voor een absolute krachtpatser op hardwaregebied: de vloeistofgekoelde Dell PowerRack, uitgerust met PowerEdge XE9712-servers en de NVIDIA GB200 NVL72 rack-scale supercomputer.

De keuze voor vloeistofkoeling is cruciaal. De nieuwste AI-chips genereren zoveel hitte dat traditionele luchtkoeling niet langer volstaat om de systemen stabiel te houden. Dells vloeistofgekoelde architectuur zorgt ervoor dat Mistral de systemen continu op het absolute geopolitieke en technologische maximum kan laten presteren, zonder dat het stroomverbruik of de warmtehuishouding uit de bocht vliegt.

AI achter de eigen bedrijfsmuren

De samenwerking reikt verder dan alleen het leveren van hardware aan Mistral zelf. Dell gaat de taal- en redeneermodellen, evenals de orchestratietools van Mistral AI, integreren in haar eigen commerciële productaanbod voor de zakelijke markt.

Voor enterprises en overheden betekent dit dat zij de geavanceerde AI-capaciteiten van Mistral kunnen inzetten om diepere datainzichten te verkrijgen en complexe workflows te automatiseren, maar dan volledig binnen hun eigen beveiligde datacenters. Dit is met name een grote doorbraak voor streng gereguleerde sectoren, zoals de bankensector, de zorg en de overheid, waar data de bedrijfsmuren absoluut niet mag verlaten. "Onze klanten hebben behoefte aan AI die ze op hun eigen infrastructuur kunnen draaien, met volledige controle over hun data," verklaart Marjorie Janiewicz, Chief Revenue Officer bij Mistral AI. "Onze samenwerking met Dell brengt deze cruciale capaciteiten nu naar bedrijven in de VS en de rest van de wereld."

Ambitie omzetten in productie

De alliantie tussen Dell en de belangrijkste Europese AI-uitdager laat zien hoe snel de markt voor enterprise AI volwassen wordt. De focus verschuift in hoog tempo van experimentele chatbots in de cloud naar zware, soevereine AI-systemen op locatie.

Arthur Lewis, President van de Infrastructure Solutions Group bij Dell Technologies, onderstreept die verschuiving: "De organisaties die de toekomst van AI vormgeven, hebben infrastructuur nodig die past bij hun ambitie: geïntegreerd en gebouwd om te schalen. Mistral AI is het schoolvoorbeeld van de innovatie die hierom vraagt. Ons gezamenlijke werk weerspiegelt Dells toewijding om het AI-tijdperk te ondersteunen met de portfolio en expertise die nodig zijn om die ambitie om te zetten in een productierijpe realiteit."