A5X-instances van Google Cloud brengen Vera Rubin naar Europa
Google Cloud en Nvidia hebben de algemene beschikbaarheid aangekondigd van het nieuwe A5X-cloudplatform. De A5X-instances worden aangedreven door Nvidia Vera Rubin NVL72-systemen en zijn specifiek ontwikkeld voor het op grote schaal draaien van autonome AI-agenten en zogeheten reinforcement learning. Volgens de planning komen de instances volgende maand beschikbaar voor klanten, waarna het platform snel wordt uitgerold naar Europese datacenters. Google Cloud heeft de ambitie om de Vera Rubin-infrastructuur op te schalen naar liefst 960.000 Rubin GPU's verspreid over meerdere locaties.
De A5X-infrastructuur combineert de nieuwste rekencapaciteit van Nvidia met het eigen Virgo-netwerk van Google Cloud, ConnectX-9 SuperNICs en de vierde generatie geavanceerde vloeistofkoeling van de cloudgigant. Door deze componenten nauw te integreren binnen Google Cloud's AI Hypercomputer ontstaat een platform waarop het genereren van ervaringen, het evalueren van uitkomsten en het bijwerken van AI-modellen in een continue cyclus kan plaatsvinden. Dit is essentieel voor geavanceerde AI-systemen die leren door middel van interactie met hun omgeving.
Het in Londen gevestigde technologiebedrijf Ineffable Intelligence, opgericht door AlphaGo-bedenker David Silver, heeft als eerste klant toegang gekregen tot de A5X-omgeving. Het bedrijf gebruikt de rekenkracht om 'superlearners' te ontwikkelen die zichzelf voortdurend verbeteren. Silver benadrukt dat het versneld verwerken en terugkoppelen van leerervaringen vraagt om een extreem snelle verbinding tussen de Vera CPU's en de Rubin GPU's binnen hetzelfde rack. De hoge bandbreedte van de nieuwe architectuur stelt het onderzoeksteam in staat om de schaal van hun leermodellen aanzienlijk te vergroten.
OpenShell
Naast wetenschappelijk onderzoek wordt de A5X-infrastructuur ingezet voor industriële toepassingen. Marketing- en communicatiebedrijf WPP demonstreerde een referentie-architectuur voor creatieve AI-agenten op basis van de nieuwe instances, Nvidia Nemotron-modellen en de Nvidia OpenShell-beveiliging. Deze agenten zetten opdrachten om in meerstaps creatieve werkprocessen, zoals het genereren en bewerken van video's. Dankzij de krachtige hardware konden taken die voorheen een cluster van meerdere servers vereisten, worden uitgevoerd op één enkele A5X-instance.
Om de vertrouwelijkheid van data en modellen te waarborgen, introduceert Google Cloud tevens op schaal NVIDIA Confidential Computing op bare-metal A4X Max-instances en G4 virtuele machines. Dit stelt organisaties in staat om gevoelige bedrijfsgegevens en merkinformatie af te schermen, zelfs wanneer de verwerking plaatsvindt op externe cloudinfrastructuur. Daarnaast onderzoeken Google Cloud en Nvidia de toepassing van de DSX MaxLPS-technologie om de prestaties per watt te optimaliseren en de capaciteit binnen de beschikbare stroombudgetten van datacenters maximaal te benutten.
Meer over gpu
Over Witold Kepinski
