Vertiv en Deloitte ondersteunen organisaties met het ontwerpen van de juiste AI-infrastructuur

Aanleiding is de gids Designing Infrastructure for Enterprise AI, die Vertiv samen met onderzoeksbureau STL Partners voor digitale infrastructuur heeft ontwikkeld. De gids is bedoeld voor leidinggevenden in business, IT en facilities. Zij krijgen een raamwerk dat uitgaat van de workload zelf. Organisaties bepalen daarmee eerst het beoogde bedrijfsdoel en de AI-workload, en beoordelen vervolgens de implementatielocatie, de infrastructuurvereisten en de gereedheid van hun faciliteiten. Daarna koppelen zij elke workload aan een fysiek infrastructuurmodel en een referentieontwerp, dat dient voor verdere planning en technische validatie.

Het onderzoek achter de gids wijst erop dat de gereedheid van de infrastructuur mede bepaalt waar workloads kunnen draaien en hoe snel ze in productie kunnen gaan. Beschikbare stroom, koeling, connectiviteit en operationele capaciteit kunnen de doorslag geven of een bestaande faciliteit een workload aankan of dat een ander implementatiemodel nodig is. Een vroege beoordeling van de beoogde locatie kan knelpunten aan het licht brengen voordat ze de uitrol belemmeren.

Vier stappen en geen vaste keuze voor of tegen cloud

De gids vertaalt deze overwegingen naar een proces in vier stappen: het definiëren van het bedrijfsresultaat en de workload, het beoordelen van schaal, prestaties en operationele eisen, het bepalen van de meest geschikte locatie en het koppelen van workload en locatie aan een fysiek infrastructuurmodel en referentieontwerp.

Het uitgangspunt is dat enterprise AI uit een portfolio van verschillende workloads bestaat en niet uit één infrastructuurkeuze. Verkennende workloads kunnen volgens de gids in de cloud blijven. Langdurige of bedrijfskritische toepassingen kunnen de voorkeur geven aan hybride infrastructuur of aan capaciteit die de organisatie zelf beheert. Workloads die snellere responstijden, meer controle, nabijheid van data of specifieke modelprestaties vereisen, moeten mogelijk op de edge of in een andere gecontroleerde omgeving draaien. De gids laat ruimte voor publieke cloud, colocatie, eigen infrastructuur, hybride omgevingen en edge-infrastructuur, en geeft geen generiek advies voor of tegen cloudgebruik.

Zes archetypen en vier infrastructuurmodellen

Het onderzoek verdeelt AI-workloads in zes archetypen: modelontwikkeling, modelhertraining en vier categorieën van productiegebruik. Workloads met vergelijkbare prestatie-, operationele en infrastructuureisen worden zo gegroepeerd, wat consistenter plannen mogelijk maakt. Vervolgens kan elke workload worden gekoppeld aan een van vier fysieke infrastructuurmodellen: Edge AI Cluster, Small AI Cluster, Large AI Cluster en High-Density AI Cluster.

Deze modellen vormen een uitgangspunt voor beslissingen over stroom, koeling, regelsystemen, connectiviteit, veerkracht, operationele ondersteuning en toekomstige groei. De bijbehorende referentieontwerpen kunnen worden aangepast op basis van locatiebeoordeling, workloadvereisten en gedetailleerde engineering.

Stroom, koeling en connectiviteit

"De volgende fase van enterprise AI wordt niet alleen bepaald door modellen en rekenkracht, maar ook door de vraag of organisaties kunnen voorzien in de stroom, koeling, connectiviteit en operationele omgeving die elke workload nodig heeft", zegt Giordano Albertazzi, CEO van Vertiv. "Door bij de workload te beginnen, kunnen organisaties infrastructuurbeslissingen eerder nemen, beperkingen sneller signaleren en een geloofwaardiger pad uitstippelen van AI-ambitie naar productie."

"De economische en operationele vereisten van AI veranderen zodra workloads de stap naar productie maken", zegt Nicholas Merizzi, Principal en Silicon2Service U.S. Lead bij Deloitte Consulting LLP. "Organisaties moeten bedrijfswaarde, governance, operationele eigenaarschap en infrastructuur in samenhang beoordelen. Door deze vragen al vroeg in het planningsproces mee te nemen, kunnen besluitvormers beter bepalen waar AI-workloads het beste passen en hoe zij deze op lange termijn ondersteunen."

De volledige gids, Designing Infrastructure for Enterprise AI, beschrijft de zes workloadarchetypen, de vier fysieke infrastructuurmodellen en een routekaart in vier fasen voor het plannen, implementeren en doorontwikkelen van enterprise AI-infrastructuur. De gids is hier beschikbaar.