Vertiv: “Omarm de nieuwe stap naar AI-datacenters”

Datacenters zijn tegenwoordig niet meer weg te denken. Net als de elektriciteits- of watervoorziening vormen zij en onderdeel van de kritieke digitale infrastructuur die nodig is voor het functioneren van de maatschappij. Niet alleen voor de digitale economie, maar ook voor innovatie die de maatschappij tot algemeen nut dient. Denk aan toepassingen voor medisch onderzoek, maar ook bijvoorbeeld quantum computing.

Een belangrijke reden voor het gebruik van datacenters is tegenwoordig het gebruik van AI, zo constateerden diverse sprekers tijden het evenement van datainfrastructuurspecialist Vertiv in Tognana, Italië. Traditionele datacenters die nu vooral (cloudgebaseerde) applicaties hosten, zijn niet geschikt om de groeiende vraag naar AI-gebruik op te vangen. Dit betekent dat er steeds meer initiatieven komen voor het opzetten van specialistische datacenters, de AI factories, die zich op grote schaal volledig richten op het draaien van AI-workloads, inference, het trainen van AI-modellen en het uitrollen van specifieke diensten richten. Kortom; het transformeren van ruwe data in bruikbare AI-resultaten.

AI factories niet weg te denken

Dat AI voor iedereen en ook ieder (Europees) land steeds belangrijker en noodzakelijker wordt en daarvoor een eigen (datacenter)infrastructuur moet opbouwen, is essentieel zegt VP AI Solutions & Operations EMEA Carlo Ruiz van AI-gigant NVIDIA. “Bij NVIDIA geloven wij in zogenoemde ‘souvereine intelligentie’. Dit betekent dat ieder land over een eigen kritische (datacenter)infrastructuur moet beschikken om AI te faciliteren, naar eigen inzicht hiervoor eigen intelligente oplossingen en toepassingen te ontwikkelen en volgens hun eigen wet- en regelgeving. AI factories produceren deze AI-ontwikkelingen en voorzien daarbij voor de benodigde technologie.”

Uitdagingen datacentersector

De komst van AI factories zijn voor het datacentersegment een behoorlijke ‘game changer’ bevestigt VP Sales EMEA Peter Lambrecht van Vertiv. “De datacentermarkt staat voor verschillende uitdagingen. De belangrijkste is congestie op het elektriciteitsnetwerk. Waar datacenters moeten komen, moet natuurlijk voldoende energievoorziening zijn.’

“In Nederland is de capaciteit van het elektriciteitsnetwerk een zeer groot probleem, maar eigenlijk ook voor alle grote ‘metro-omgevingen’ in Europa. Ook Europese datacenterregio’s, denk aan Frankfurt en Parijs, kampen met dit probleem. We zien daardoor een migratie zien van datacenters uit deze regio’s naar locaties waar die energiecapaciteit wel beschikbaar is. Denk aan de landen in Scandinavië, Noorwegen, Zweden, Finland, maar ook Denemarken gaat zich ontwikkelen. Ze spreken daar al van gigawatt factories. Denk daarnaast ook aan Belfast in het Verenigd Koninkrijk of Frankrijk waar ze nog steeds veel nucleaire energiecentrales hebben die de benodigde energiecapaciteit kunnen leveren. Voor de EMEA buiten Europa kan aan de Verenigde Arabische Emiraten en Saoedi-Arabië worden gedacht die bezig zijn met een transitie naar een meer datagerichte economie.”

Peter Lambrecht

Een tweede uitdaging is het gebrek aan geschikt personeel. Werken als ingenieur in datacenters wordt op dit moment niet als sexy gezien. We hebben ook veel mensen nodig die meer de ‘hands on’ diensten uitvoeren, zoals specialisten op het terrein van warmtebeheercontrole. We moeten daarom als ecosysteem, wij als datacenterinfrastructuurspecialisten, hyperscalers als Microsoft en AWS en de NVIDIA’s van deze wereld met een communicatieplan komen om de datacenterwereld weer op de kaart te zetten.”

Opvallend noemt Peter Lambrecht technologische ontwikkelingen niet echt als een bottle neck. “Technologische uitdagingen kunnen wij zelf, maar ook de sector makkelijk oplossen, We zien bijvoorbeeld niets op de Nvidia-roadmap -als belangrijkste en meest dominante leverancier van de voor AI benodigde GPU’s- wat ons op dit moment tegenhoudt. We moeten natuurlijk wel anders over bepaalde zaken nadenken, maar we zien geen ‘show stoppers.’”

Datacenters moeten zich aanpassen

Met deze AI-revolutie is het natuurlijk de vraag of de huidige datacenters nog redenen van bestaan hebben. Vertiv is hier positief over. Peter Lambrecht: “De huidige clouddiensten en -applicaties blijven gewoon beschikbaar. Iedereen blijft tools als Word, Excel of ERP-systemen gebruiken. Kortom, het huidige datacenter blijft zoals het is.”

“Maar daarnaast komt er wel een aparte datacenteromgeving voor AI. Die specifieke omgeving kan de levensduur van 12 tot 15 jaar die datacenters nu gemiddeld hebben, verder doorzetten. Dan wordt het de vraag of ze willen ombouwen en of dat zin heeft. Is er voldoende vraag en hoe gaan we de bestaande ruimte benutten om er een kleine AI factory in te zetten?”

Anders denken voor hybride toepassing

Bestaande datacenters moeten anders gaan denken voor een dergelijk ‘hybride’ datacenter. “Als bestaande datacenters een AI-hoekje willen maken, moeten zij over een bepaalde flexibiliteit beschikken op het gebied van stroomvoorziening, maar vooral koeling. De huidige datacenters zijn ingericht voor air coolingcapaciteit voor 10 tot 15 kilowatt per rack. Datacenterrackinfrastructuur voor AI vraagt tussen de 30 tot 60 kilowatt aan koelingscapaciteit. Hiervoor is liquid cooling voor nodig”, zegt Lambrecht.

“Hoeveel stroom- en vooral koelingscapaciteit deze datacenters nodig hebben, valt niet te voorspellen. Dat kan altijd veranderen. Met onze Vertiv CoolPhase-oplossing kunnen zij hierop anticiperen. Deze modulaire units zijn door de service teams van Vertiv binnen vier uur van air cooling naar een volledig liquid coolingsysteem om te bouwen. De liquid coolingtechnologie is standaard ingebouwd. Met meerdere units kan dan makkelijk de juiste verhouding tussen luchtkoeling voor de bestaande racks en liquid cooling AI-racks nauwkeurig worden bepaald. Ook is het dan mogelijk oude datacenters geleidelijk om te bouwen en de levensduur van 15 jaar te verlengen.”

Lambrecht maakt hierbij een belangrijke kanttekening. “Dit werkt alleen voor een klein AI-hoekje. Wanneer je een tien jaar oud datacenter wil ombouwen naar een echte AI factory wordt het moeilijk. De ‘white space’, de ruimte waarin de te verhuren rackcapaciteit komt te staan, is dan veel kleiner. Hoewel je voor AI-racks, onder meer door een ander bouwontwerp van de AI-clusters, minder racks nodig hebt, neemt de ‘grey space’ wel toe. Deze ruimte is bedoeld voor alle stroom-, connectiviteits- en koelingsapparatuur. Dus uiteindelijk minder ruimte voor rackopstellingen en dus minder verdiensten. Wanneer je echt naar een AI factory wil ombouwen, kan je beter nieuw bouwen.”

Nieuwe samenwerking met kanaal

Vertiv werkt nauw samen met strategische partners, zoals met NVIDIA, om klanten een heel compleet ecosysteem te bieden. De samenwerking met het kanaal is daarom aangepast. Lambrecht: “Vroeger werkten we op de traditionele manier met onze channelpartners. Hierbij deden we wat ook al onze concurrenten doen; het bieden van ‘commodity’-producten als UPS, PDU’s en racks.’

“Met de komst van AI is dat flink veranderd. Bedrijven gaan nu voor hun AI-oplossingen en -toepassingen direct naar IT-providers, system integrators en de uiteindelijke hard- en software OEM’s. denk daarbij aan Dell Technologies of HPE. Deze partijen vragen bij klanten wat zij met die AI op infrastructuurgebied willen doen. Om die vraag te beantwoorden, stappen zij naar ons toe. Dat is de verandering binnen het hele ecosysteem.”

“Dat zij vaak bij ons uitkomen, is omdat we al decennia ervaring hebben met liquid cooling. Al in 1965 leverden onze voorgangers al deze koeling voor IBM mainframes. En deze technologie hebben we verder geoptimaliseerd voor het koelen van AI-omgevingen.”

Drietal adviezen

Tot slot geeft Peter Lambrecht datacenteraanbieders die kijken naar het uitbreiden van hun diensten voor AI nog een aantal tips mee. “Omarm vooral de verandering die nu plaatsvindt. Haal er voor jou het goede eruit en voel je gestimuleerd om daarmee te werken. Dat is heel belangrijk. De technologie hebben wij.”

Een tweede advies heeft hij voor de politieke beslissers. “Ga nadenken over wet- en regelgeving. Ze zijn essentieel, maar moeten geen hinderende factor worden voor innovatie. Europa moet inspelen op wat er wereldwijd rondom AI gebeurt. Ga je afwachten dat twee kolossen, China en de Verenigde Staten de richting bepalen? Europa, neem het initiatief en ga zelf aan de slag!”

“Als laatste, zoek de mensen. En maak duidelijk hoe datacenters hun belangrijke rol in de maatschappij vervullen. Zonder datacenters gebeurt er helemaal niets.”