Floris Hulshoff Pol - 14 mei 2024

Data- en infrastructuurtransformatie door AI

AI zorgt tegenwoordig voor een ongekende revolutie in bedrijfstechnologie. “AI is de volgende digitale trend met veelbelovende concurrentievoordelen als nooit tevoren. Een goede onderliggende infrastructuur is daarom belangrijk om data dáár te krijgen waar deze kunnen worden geanalyseerd, beveiligd en beheerd. Het Nutanix AI-platform GPT-in-a-Box biedt een kant-en-klare, software gedefinieerde oplossing voor een naadloze integratie van generatieve AI- en AI/ML-applicaties organisaties, terwijl gegevens en applicaties onder eigen controle blijven”, zegt Ricardo van Velzen, Manager Systems Engineering bij Nutanix Nederland.

Data- en infrastructuurtransformatie door AI image

Kunstmatige intelligentie (AI, en tegenwoordig vooral generatieve AI (GenAI), helpt bedrijven makkelijker hun werkzaamheden uit te voeren. Denk aan efficiënter werken, het ontwikkelen van oplossingen en toepassingen die eerder niet mogelijk waren of processen beter te beheersen.

De toegevoegde waarde van GenAI is inmiddels alomvattend bekend. Bedrijven en andere organisaties zijn op dit moment haastig aan de slag met het vinden van de beste manier waarmee ze GenAI binnen hun omgevingen kunnen implementeren. Volgens recent onderzoek van Nutanix ziet 90 procent van de respondenten AI als een topprioriteit (bron: Nutanix State of Enterprise AI Report).

Ondanks alle goede bedoelingen, komen bedrijven bij het implementeren van GenAI vaak nog problemen tegen. Denk bijvoorbeeld aan het grote gebrek aan AI-specialisten, maar ook het beveiligen van de voor de GenAI-applicaties noodzakelijke data en het kunnen beheren van alle GenAI-workloads in de eigen IT-omgevingen.

Waar te beginnen

“De grote vraag van bedrijven is waar ze moeten beginnen als ze met GenAI aan de slag willen”, zegt Ricardo van Velzen, manager Systems Engineering Nederland bij multicloud-architectuurspecialist Nutanix. “Over het nut van GenAI zijn de meesten overtuigd, maar de uiteindelijke implementatie moet wel goed plaatsvinden. En hoe alles rondom GenAI beheersbaar te kunnen maken. Uiteindelijk zijn het beheersbaarheid en schaalbaarheid van de GenAI-workloads die doorslaggevend zijn voor de keuze van de implementatie, al dan niet in de cloud of on-premiseomgevingen. Maar ook datamobiliteit, de beveiliging van de data en de controle over deze gegevens en de data governance zullen een belangrijke rol spelen.”

Volgens het Nutanix-rapport gebruiken bedrijven voornamelijk AI voor generatieve video, tekst- en beeldtoepassingen, virtuele assistentie en klantondersteuningsfuncties. Op de voet gevolgd door AI-gebaseerde oplossingen voor fraudedetectie, cyberbeveiliging, beeld en spraakherkenning.

Gegevenslocatie bij AI

“Bij Nutanix hebben we gekeken naar waar we onze klanten het beste kunnen helpen met hun reis naar door AI ondersteunde bedrijfsapplicaties”, vervolgt Van Velzen. “Als multicloud-architectuurspecialist ontwikkelen we de infrastructuur waarop zij AI applicaties kunnen laten draaien. We noemen dit ook wel een AI-ready infrastructuur. Hiermee hebben we een oplossing ontworpen om GenAI- en AI/ML-applicaties naadloos in bedrijven te integreren, terwijl zij de gegevens en applicaties onder eigen beheer houden. Wij doen dat van on-premises tot aan de edge.”

“Vaak gebruiken bedrijven voor eigen GenAI-applicaties datasets van de grote dure LLM’s van Meta, Google of AWS en/of anderen. Wanneer zij specifieke GenAI-applicaties willen maken, dan hebben ze daarvoor ook meestal hun eigen data voor nodig. Ze kunnen dan twee dingen doen: eigen data bij de grote datasets (in de cloud) voegen of de LLM’s juist naar hun on-premises datacenteromgeving halen. Volgens ons rapport zien we de neiging naar private cloud en on-premises als datacenteromgevingen voor zulke applicaties, ook vanuit ggegevenslocatie-overwegingen, naleving van databeheer en vooral-de beveiliging van de eigen data.”

“Bedrijven halen de LLM’s naar hun eigen on-premisesomgeving en voegen daar hun eigen datasets aan toe en trainen deze ook daar. Hierdoor houden ze de zeggenschap of governance over hun data. Voor data security geniet deze optie ook de voorkeur. Bedrijven hebben hierbij meer zelf in de hand dat de (vaak persoonlijke of bedrijfsgevoelige) data veilig is. Bedrijven willen natuurlijk niet dat bedrijfsideeën publiekelijk zichtbaar worden.”

De focus op on-premises- en edge zorgt ervoor dat data na lokale training ook makkelijk naar de edge-omgevingen kan worden gepushed en, indien nodig, weer kan worden teruggehaald. Dit is de datamobiliteit die Van Velzen zo belangrijk noemde. Van Velzen: “Zo zorgen bedrijven dat hun infrastructuur geschikt is om GenAI-applicaties te draaien en op hetzelfde moment de infrastructuur beheersbaar te houden. Je moet je voorstellen dat het om grote datasets gaat, dus het verwerken ook mogelijk gemaakt moet worden door computing resources. Hierdoor hoeven zij ook geen heel leger aan IT-personeel erop na te houden.

Nutanix GPT-in-a-Box

Nutanix helpt zijn klanten voor het verkrijgen van een specifieke voor GenAI ingerichte infrastructuur voor GenAI-applicaties op on-premises- en edge-omgevingen met zijn eigen tool GPT-in-a-Box. Kort gezegd omvat deze ‘AI-stack’ alle benodigde onderdelen waarmee bedrijven een GenAI -infrastructuur kunnen bouwen en implementeren, terwijl zij daarbij de zo noodzakelijke controle houden over data en applicaties.

“De basis van dit (virtuele) platform zijn meerdere (GPU) nodes vanwege de redundancy. Daarbovenop doen we onze hyperconvergd-oplossing, zoals onze eigen hypervisor AOS, de distributedfile- en object storagelaag en Kubernetes voor de uiteindelijke containergebaseerde applicaties. Ook zorgen we voor een geheel geautomatiseerd beheer met alle noodzakelijke updates, zoals voor security.

“Verder zorgen we voor de juiste data pipelines en (open-source) tools als Pytorch en Kubeflow. Hier bovenop bieden we een beheerde set van de LLM’s, zoals Llama 2 van Meta, het Falcon LLM en MPT van Databricks.”

Kansen voor beginners

Het GenAI-platform van Nutanix biedt volgens Van Velzen voor bedrijven die een start willen maken met AI applicaties goede kansen. Zij kunnen er direct mee aan de slag zonder al te veel te moeten ontwikkelen. Koop, bouw of wijzig AI-modellen en gegevens vanuit elke bron, en voer ze uit waar je bedrijf deze nodig heeft. Door het leveren van automatisering, dynamische toewijzing van resources en consolidatie kunnen zij ook de infrastructuurkosten optimaliseren.

Bezint wanneer je begint

Bedrijven die AI-platformen overwegen in te zetten, zijn volgens Ricardo van Velzen al heel ver in hun besluitvorming. Toch geeft hij aan dat er nog een eerdere belangrijke stap in het proces is. “Bedrijven moeten zich in eerste instantie goed afvragen wat zij ermee willen bereiken of opleveren en wat het toekomstperspectief is van de AI-applicatie. Vervolgens is er nog de vraag waar zij hun data onderbrengen. Dat is echt heel belangrijk denk ik. Voor veel bedrijven is dit nog steeds de grootste valkuil zeker als zij zich in de public cloud bevinden. Zij moeten hier goed over nadenken, want het is natuurlijk vervelend als je data, die met veel moeite en kosten is opgebouwd, zomaar uit handen wordt gegeven zonder dat je je dat realiseert”, besluit Van Velzen.

Voor vragen: ask@nutanix.com

Dutch IT Golf Cup BW tm 16-09-2024 Dutch IT Security Day BW tm 15-10-2024
DIC Awards BN tm 21-10-2024