Witold Kepinski - 17 juni 2024

AP en RDI: Toezicht op AI-systemen vraagt samenwerking en moet snel geregeld worden

In het toezicht op kunstmatige intelligentie (AI) moet samenwerking tussen toezichthouders voorop staan, schrijven de Autoriteit Persoonsgegevens (AP) en de Rijksinspectie Digitale Infrastructuur (RDI) in een advies aan het kabinet. Ook moet snel duidelijk worden welke instanties de verschillende delen van het toezicht gaan uitvoeren. Begin 2025 zijn namelijk al de eerste onderdelen van de nieuwe Europese AI-verordening van kracht.

AP en RDI: Toezicht op AI-systemen vraagt samenwerking en moet snel geregeld worden image

De AP en de RDI benadrukken bovendien dat er op tijd voldoende budget en personeel beschikbaar moet zijn voor alle betrokken toezichthouders. Zodat zij op tijd kunnen beginnen aan hun taken, zoals voorlichting en handhaving.

Het advies is opgesteld door de AP en de RDI in samenwerking met de andere 20 toezichthouders die mogelijk een rol gaan spelen in het toezicht op AI. Al meer dan een jaar bereiden Nederlandse toezichthouders zich gezamenlijk voor op het nieuwe AI-toezicht. Met deze gezamenlijke visie over hoe het nationale AI-toezicht geregeld moet worden, lopen Nederlandse toezichthouders voorop in Europa.

AI-verordening

Vorige maand stemden de Europese ministers in met de AI-verordening: de eerste uitgebreide wet over kunstmatige intelligentie ter wereld. De AI-verordening regelt dat AI-systemen met een hoog risico alleen aangeboden en gebruikt mogen worden als ze aan strenge producteisen voldoen. Die systemen krijgen dan een zogeheten CE-markering, zoals ook al jaren verplicht is voor bijvoorbeeld liften, mobiele telefoons en speelgoed.

Aansluiten bij regulier toezicht

De AP en de RDI adviseren het toezicht op AI in de verschillende sectoren zoveel mogelijk te laten aansluiten bij het reguliere toezicht dat al bestaat. Het toezicht op AI-producten met een hoog risico die nu ook al een CE-markering nodig hebben, kan hetzelfde blijven. De Nederlandse Voedsel- en Warenautoriteit (NVWA) blijft bijvoorbeeld speelgoed keuren, ook als er AI in verwerkt zit. En de Inspectie Gezondheidszorg en Jeugd (IGJ) gaat ook toezichthouden op de AI in medische apparaten.

Angeline van Dijk, inspecteur-generaal van de RDI: ‘Samenwerking is de sleutel, daar waar het gaat om concentratie van kennis en coördinatie in uitvoering. Effectief toezicht met oog voor innovatie kan alleen ontstaan als betrokken toezichthouders samenwerken met de ontwikkelaars en gebruikers van risicovolle AI. En marktpartijen dat onderling ook doen. Bedrijven en organisaties kunnen samen met de RDI verkennen of ze aan AI regelgeving moeten voldoen. En hoe ze dat kunnen realiseren. De inzet van de RDI bij de regulatory sandboxes, een soort broedplaatsen voor verantwoorde AI-toepassingen, is daar een uitstekend voorbeeld van. En dit advies is daarbij een belangrijke mijlpaal.’

Nieuw toezicht op AI

Het toezicht op AI-toepassingen met een hoog risico waarvoor nu nog géén CE-markering verplicht is, moet grotendeels bij de AP komen te liggen in aanvulling op het sectorale toezicht, schrijven de toezichthouders. Het maakt daarbij niet uit in welke sector die systemen worden ingezet. Van onderwijs tot migratie en van werkgelegenheid tot rechtshandhaving; de AP zou hier de zogeheten ‘markttoezichthouder’ moeten zijn.

AP-voorzitter Aleid Wolfsen: ‘De markttoezichthouder gaat erop toezien dat op de markt gebrachte AI ook echt voldoet aan eisen op het gebied van bijvoorbeeld het trainen van AI, transparantie en menselijke controle. Dat vereist veel specialistische kennis en kunde, en het is efficiënt als die gebundeld is. Belangrijk is ook dat de AP dan het overzicht heeft: de bedrijven die zulke AI ontwikkelen, doen dat vaak niet alleen voor één sector. Samenwerking met sectorale toezichthouders is daarbij cruciaal, want zij hebben ook goed zicht op AI-gebruik in bijvoorbeeld het onderwijs of door werkgevers. We gaan snel aan de slag om die samenwerking op te zetten.’

De toezichthouders stellen 2 uitzonderingen voor: wat betreft de financiële sector zullen de Autoriteit Financiële Markten (AFM) en De Nederlandsche Bank (DNB) het markttoezicht op zich nemen, de Inspectie Leefomgeving en Transport (ILT) en de RDI voor de kritieke infrastructuur. Verder moet het markttoezicht op AI-systemen die worden gebruikt ten behoeve van de rechtspraak, zodanig vorm krijgen dat de onafhankelijkheid van rechterlijke autoriteiten is gewaarborgd.  Het is belangrijk dat niet alleen in Nederland, maar ook in andere lidstaten snel toezichthouders worden aangewezen. Voor grensoverschrijdende en grote AI-systemen moet namelijk worden samengewerkt tussen toezichthouders uit de verschillende lidstaten en met het nieuwe Europese AI Office dat toezicht gaat houden op grote AI-modellen die bijvoorbeeld ten grondslag liggen aan ChatGPT.

Urgente AI-taken

Een aantal zaken moet al op korte termijn geregeld worden. Het gaat dan bijvoorbeeld om het benoemen van de grondrechtentoezichthouders, een rol die de toezichthouders voorzien voor het College voor de Rechten van de Mens (CRM) en de AP. Een aandachtspunt zijn ook de instanties die worden aangewezen om te beoordelen of AI-systemen aan Europese standaarden voldoen. De toezichthouders vragen het kabinet snel te besluiten de betreffende toezichthouders aan te wijzen, zodat zij op tijd kunnen starten met voorlichting, handhaving en praktische voorbereiding op deze nieuwe taken. Zo is het verbod op sommige vormen van AI waarschijnlijk al in januari 2025 van toepassing. De toezichthouders stellen voor dat de AP verantwoordelijk wordt voor het toezicht op deze verboden.

Dutch IT Security Day BW tm 15-10-2024 Vertiv BW 01-07-2024 tm 05-08-2024
Vertiv BN 01-07-2024 tm 05-08-2024