Onafhankelijke auditors gaan AI van grote techbedrijven beoordelen

Volgens de tekst van de overeenkomst, die door Trump op zijn eigen socialemediaplatform is geplaatst, laten de bedrijven onafhankelijke auditors beoordelen of hun AI-systemen doen wat de ontwikkelaars beoogd hebben. Ze zeggen ook toe te werken aan AI-toepassingen die niet op onbedoelde wijze technische systemen hacken of binnendringen. Trump zei dat hij de overeenkomst zelf ook heeft ondertekend en herhaalde zijn steun voor een snelle uitbreiding van datacenters.

De overeenkomst is ondertekend door Sundar Pichai van Google, Dario Amodei van Anthropic, Mark Zuckerberg van Meta, Greg Brockman van OpenAI, Elon Musk van xAI en Jensen Huang van NVIDIA.

Zorgen over risico's van AI

De Amerikaanse regering staat onder toenemende druk vanwege de risico's van geavanceerde AI. OpenAI en Anthropic meldden onlangs dat hun AI-agenten ongewenst gedrag vertoonden en zijn binnengedrongen in systemen van andere bedrijven.

De overeenkomst moet uitkomst bieden. Reuters meldt dat Trump de overeenkomst vergelijkt met een soort grondwet. Zuckerberg meldt dat de bedrijven interne controles op hun AI-systemen zullen ontwikkelen. Trump overweegt een commissie van tien mensen op te richten die toezicht houdt op de veiligheid van AI-toepassingen, maar noemde geen mogelijke leden. Ook kondigde hij aan binnenkort een nieuwe functionaris aan te wijzen die het AI-beleid van het Witte Huis gaat leiden.