Nvidia en techgiganten vormen Open Secure AI Alliance

Tot de oprichtingsleden behoren naast Nvidia onder meer Microsoft, IBM, Red Hat, Cisco, CrowdStrike, Palo Alto Networks, Databricks, Cloudflare, SAP, ServiceNow en Hugging Face, evenals de Linux Foundation. De alliantie bouwt voort op bestaande initiatieven zoals het Akrites-project van de Linux Foundation en de OpenSSF-gemeenschap.

Het belang van open AI-defensie

Het initiatief komt voort uit een groeiende discussie binnen de technologiesector over de beveiliging van AI. Waar sommige partijen pleiten voor het gesloten houden van geavanceerde AI-modellen om misbruik te voorkomen, stelt de alliantie juist dat een open benadering essentieel is voor cyberdefensie.

Open modellen en zogeheten 'agent harnesses' (besturingskaders) stellen beveiligers in staat om AI-technologie op hun eigen infrastructuur te onderzoeken, aan te passen en uit te voeren. Dit voorkomt dat organisaties afhankelijk worden van een klein aantal gesloten aanbieders en zorgt ervoor dat defensieve capaciteiten gedemocratiseerd worden.

Het belang van open modellen werd recent onderstreept tijdens een beveiligingsincident bij Hugging Face. Toen gesloten AI-tools forensische analyses blokkeerden omdat ze geen onderscheid konden maken tussen aanvallers en verdedigers, zette Hugging Face het open-weight GLM 5.2-model in op de eigen infrastructuur. Hiermee konden in korte tijd meer dan 17.000 acties worden geanalyseerd om de inbraak in te dammen.

Concrete bijdragen en technologie

De deelnemende organisaties leveren direct concrete technologieën en onderzoeken aan het open-source ecosysteem:

NVIDIA stelt het nieuwe NVIDIA Labs Object-Oriented Agent (NOOA)-framework beschikbaar via GitHub. Dit project helpt ontwikkelaars om het gedrag van AI-agents beter te testen, te auditen en te beheren.

Microsoft draagt bij met MDASH, een harness dat gespecialiseerde AI-agents orchestration biedt om kwetsbaarheden in software op te sporen en te bewijzen.

HPE ondersteunt SPIFFE/SPIRE, een zero-trust identiteitskader om AI-agents en -diensten cryptografisch te verifiëren.

Hugging Face heeft het Safetensors-bestandsformaat voor AI-gewichten overgedragen aan de PyTorch Foundation om het risico op het uitvoeren van kwaadaardige code te elimineren.

IBM en Red Hat dragen bij met Lightwell, dat digitale handtekeningen gebruikt om de veiligheid in de open-source toeleveringsketen te borgen.

SpaceXAI heeft de Grok Build-coderingsagent open-source gemaakt en is van plan de gewichten van de Grok-modellenserie vrij te geven voor ontwikkelaars.

Oproep aan beleidsmakers

De Open Secure AI Alliance richt zich daarnaast expliciet tot wetgevers en toezichthouders. De alliantie waarschuwt dat algemene beperkingen op open-source AI de defensieve slagkracht van bedrijven en overheden aantast.

In plaats van te vertrouwen op de veronderstelling dat geheimhouding automatisch veiligheid biedt, pleit het samenwerkingsverband voor investeringen in gedeelde, openbare infrastructuren voor AI-beveiliging. Dit omvat gezamenlijke datasets, evaluatiekaders en hulpmiddelen voor 'red-teaming' om AI-systemen continu op de proef te stellen.