Nvidia toont op GTC Berlin nieuwe systemen om AI-modellen lokaal te draaien

De RTX Spark, die sinds 16 oktober op de markt is, draait persoonlijke AI-agents op Windows-pc's en heeft tot 128 GB geïntegreerd geheugen en een rekenkracht van 1 petaflop voor AI. Laptops met dit platform zijn verkrijgbaar van ASUS, Dell, HP, Lenovo, Microsoft en MSI; Acer volgt later. Veel van de laptops hebben een ontgrendelde bootloader, zodat ontwikkelaars eigen agents kunnen bouwen en aanpassen. Ook de app Underdog, die modellen volledig op het apparaat uitvoert, is beschikbaar voor het platform.

Meerdere DGX Spark-systemen koppelen

De nieuwe DGX Spark 64GB kan modellen draaien als Nemotron 3.5 Bolt 74B 24GB, Qwen3.8 27B en Gemma 4 26B-A4B. Voor zwaardere taken kunnen ontwikkelaars meerdere systemen koppelen via ConnectX-7-netwerken en NVIDIA Sync. Handmatig worden nu clusters tot acht systemen ondersteund, goed voor 1 TB geheugen. Dit is voldoende voor een model als GLM 5.3. Later deze maand verschijnt bovendien Model Launcher in NVIDIA Sync, dat een geschikt model en container downloadt en koppelt aan OpenCode. De oktoberupdate voegt een Wi-Fi-assistent toe en werkt de DGX Spark Skills bij.

Het DGX Station heeft 748 GB geheugen en tot 20 petaflops aan AI-rekenkracht. Volgens Nvidia kan het systeem een model als GLM 5.3 draaien voor meer dan dertig gebruikers tegelijk, met snelheden die vergelijkbaar zijn met cloudmodellen. Zeven nieuwe integraties, onder meer met Splunk, Microsoft Intune en Tanium, moeten IT-afdelingen helpen de systemen te beheren. Het systeem wordt al geleverd door onder meer ASUS, Dell, HP en Supermicro.

Windows-versie en robotica

DGX Station voor Windows moet in december van fabrikanten komen. Het systeem combineert RTX PRO-gpu's voor professionele software met GB300-hardware voor de taalmodellen. Nvidia noemt ondersteuning voor toepassingen van onder meer Dassault Systèmes, MathWorks, Siemens en Synopsys, en voor agents als Hermes Agent, Perplexity en Aible.

Voor robotica verschijnen drie open-source referentieworkflows waarmee ontwikkelaars GR00T 1.7-modellen kunnen verfijnen en Cosmos-wereldmodellen kunnen natrainen. Daarnaast komt NVIDIA Cloud Functions in early access naar de Linux-versie van DGX Station, waarmee teams lokale modellen via één OpenAI-compatibel toegangspunt delen.

Nieuw codeermodel en modelondersteuning

Recursive Superintelligence bracht Recursive Flint uit, een open codeermodel met 40 miljard parameters, waarvan 2,5 miljard actief. Het model is onder de Apache 2.0-licentie te downloaden via Hugging Face en draait op RTX Spark, DGX Spark en GeForce RTX- en RTX PRO-gpu's. Volgens Nvidia maakte een geautomatiseerd onderzoekssysteem van Recursive kernels die de generatiesnelheid op RTX Spark met 55 procent verhoogden zonder de modelgewichten te wijzigen.

Nvidia ondersteunt vanaf de eerste dag ook nieuwe modellen van onder meer Nemotron, GLM, DeepSeek, Qwen, MiniMax en Black Forest Labs, waaronder het beeldmodel FLUX.3 Klein. Een nieuwe reeks gekwantiseerde checkpoints moet ervoor zorgen dat grote open modellen op lokale hardware voldoende geheugen overhouden voor de KV-cache. Verder meldt Nvidia dat aanpassingen in llama.cpp en vLLM agenttaken met Qwen-modellen tot 1,4 keer respectievelijk 1,3 keer sneller maken.