Broadcom onthult VMware AI Factory

Bedrijven willen AI-modellen bij voorkeur laten draaien op de locaties waar hun data staat opgeslagen. Het uitrollen en beheren van deze infrastructuren was tot nu toe echter een complex, traag en kostbaar proces. Met VMware AI Factory belooft Broadcom de doorlooptijd voor het inzetten van het eerste AI-model terug te brengen van enkele weken naar slechts een paar uur.

Geautomatiseerde infrastructuur en beheer

VMware AI Factory combineert automatisering van de onderliggende IT-infrastructuur met beheer van de gehele levenscyclus van AI-toepassingen. De software stelt organisaties in staat om hardwarebronnen, zoals grafische processoren (GPU's), efficiënt te poolen en te delen over meerdere afdelingen en projecten. Hierdoor hoeft hardware niet meer exclusief aan één specifieke werklast te worden toegewezen.

Het platform introduceert diverse nieuwe functionaliteiten ter ondersteuning van AI-omgevingen:

Multi-tenant Model Sharing: Zorgt voor het veilig delen van AI-modellen tussen verschillende bedrijfsonderdelen via geïsoleerde ruimtes, wat redundantie en verspilling van GPU-capaciteit voorkomt.

AI Gateway: Biedt één centrale interface voor het beheer van zowel lokale als cloud-gebaseerde modellen, inclusief slimme routering van zoekopdrachten en limieten op het gebruik.

Beveiligde AI-Sandboxes: Geïsoleerde containeromgevingen waarin door AI-agenten gegenereerde code veilig kan worden uitgevoerd, gecontroleerd en gevalideerd voordat deze in productie gaat.

Samenwerking met MetalSoft en hardwarepartners

Om de uitrol op fysieke servers (bare metal) te versnellen, kondigde Broadcom een partnerschap aan met MetalSoft. Dankzij deze integratie kunnen IT-beheerders fysieke servers van verschillende leveranciers rechtstreeks vanuit de VCF-beheerconsole instellen of herconfigureren, waardoor handmatige configuraties van weken worden teruggebracht tot minuten.

VMware AI Factory is ontworpen om te werken met gecertificeerde hardware van vooraanstaande partners, waaronder Cisco, Dell Technologies, Lenovo en Supermicro. Daarnaast werkt Broadcom nauw samen met AMD om het platform optimaal te ondersteunen op AMD Instinct GPU's en het open AMD ROCm-software-ecosysteem.

Ondersteuning voor meer dan 150 AI-modellen

Klanten van VMware AI Factory krijgen via de ingebouwde 'Model Gallery' toegang tot meer dan 150 gevalideerde open-source en commerciële AI-modellen. Onder meer modellen zoals Nemotron 3, Gemma 4, cotomi, Qwen 3.7-Max en GLM 5.2 kunnen direct lokaal 'as-a-service' worden aangeboden aan interne ontwikkelaars en datascientists.

Volgens Paul Turner, chief product officer van de VMware Cloud Foundation-divisie bij Broadcom, biedt het platform een duidelijke oplossing voor de markt: "De weg van hardware naar een werkend AI-model is vaak traag en duur. Met VMware AI Factory automatiseren we de infrastructuur, verenigen we het beheer en laten we klanten zelf hun hardware en modellen kiezen. Het resultaat is een snellere marktintroductie, voorspelbare private cloud-kosten en meer controle over de totale AI-uitgaven."