Autoriteit Persoonsgegevens zet volgende stap in toezicht op AI

De AP is beoogd markttoezichthouder op AI, maar nog niet aangewezen. De AP beschikt pas over bevoegdheden in het AI-markttoezicht zodra de Nederlandse Uitvoeringswet AI-verordening van kracht is. Tegelijkertijd is de AP al wel bezig met samenwerking, voorlichting en ondersteuning van verantwoorde innovatie. De AP bouwt daarbij kennis en expertise op over onder meer AI-veiligheid en draagt bij aan de inrichting van de Europese toezichtaanpak.

Goed georganiseerd, proactief en deskundig 

AI biedt grote mogelijkheden, maar kan ook grote gevolgen hebben voor mensen, organisaties en onze samenleving. AI-systemen kunnen mensen beïnvloeden, selecteren en beoordelen. Ook kan AI steeds zelfstandiger taken uitvoeren. Vooral kinderen en andere kwetsbare groepen kunnen worden geraakt door manipulatieve of misleidende toepassingen.

De recente incidenten met AI Agents die ongeautoriseerd toegang krijgen tot private en publieke online omgevingen, onderstrepen het belang van het krachtige en vroegtijdige toezicht op AI-systemen dat de AI-verordening met zich meebrengt. Dat maakt duidelijk waarom niet alleen regels nodig zijn, maar ook goed georganiseerd, proactief en deskundig toezicht.

Regels voor AI gelden al

De Europese AI-verordening moet ervoor zorgen dat iedereen kan profiteren van de mogelijkheden van AI, maar tegelijkertijd wordt beschermd tegen de risico’s ervan. Sommige toepassingen van AI zijn daarom al verboden. Ook gelden transparantieverplichtingen voor bijvoorbeeld AI-gegenereerde content als video’s, afbeeldingen of teksten. Vanaf 2 december geldt daarnaast een verbod op AI die mensen zonder toestemming virtueel uitkleedt.

Katja Mur, bestuurslid van de AP: "De 'verkeersregels' voor AI worden steeds concreter en het verkeer wordt iedere dag drukker en sneller. Wij kunnen daarom niet wachten tot het laatste verkeersbord is geplaatst. We zijn 3 jaar geleden gestart en met de nieuwe directie bouwen we verder aan de organisatie, kennis en expertise die nodig zijn om goed toezicht te houden."

AP bereidt zich verder voor

Het kabinet is van plan de AP samen met de RDI een centrale rol te geven in het Nederlandse toezicht op de AI-verordening. De start van TCA is een volgende stap in de voorbereiding hierop. Binnen TCA komt het bestaande coördinerende toezicht op AI en algoritmes samen met de voorbereiding op het toekomstige markttoezicht. TCA bestaat uit 2 afdelingen.

Afdeling ARC

De afdeling AI/Algoritmes Risicoanalyse & Coördinatie (ARC) kijkt breed naar de impact van AI en algoritmes op mensen, grondrechten en de samenleving. ARC signaleert ontwikkelingen en risico’s, doet onderzoek, bouwt kennis op en werkt samen met andere toezichthouders en deskundigen.

De afdeling heeft bijzondere aandacht voor impactvolle algoritmische systemen, algoritmeregisters en auditeringskaders. Bijvoorbeeld om ervoor te zorgen dat er goed toezicht is op risicoselectie-instrumenten en dat deze worden getoetst op discriminatie en accuraatheid.

Afdeling MTA

De afdeling Markttoezicht AI (MTA) bereidt het toekomstige toezicht op de AI-verordening voor. MTA bouwt daarvoor onder meer kennis en technische expertise op om AI-systemen te kunnen onderzoeken en testen. Ook is MTA bezig met voorlichting en ondersteuning van verantwoorde innovatie. Voor AI-veiligheid werken nationale toezichthouders samen met het AI Office, onder meer voor het testen en evalueren van 'frontier'-modellen en -systemen.

ARC en MTA versterken elkaar

De perspectieven van ARC en MTA versterken elkaar. Wat de AP in de samenleving signaleert, helpt straks om het toezicht te richten. En kennis over de werking en risico’s van AI helpt om voorbereid te zijn op nieuwe ontwikkelingen.

Beschermen én ruimte geven aan innovatie

Goed AI-toezicht gaat niet alleen om ingrijpen wanneer het misgaat. Het moet organisaties ook duidelijkheid geven over wat wél kan en ruimte bieden om AI verantwoord te ontwikkelen en toe te passen. Een concreet voorbeeld is de 'AI sandbox' die de RDI en AP gezamenlijk opzetten. In deze gecontroleerde omgeving kunnen organisaties samen met de toezichthouders werken aan innovatieve AI-systemen en deze in lijn brengen met deAI-verordening.

Van AVG naar AI-verordening

De AP begint in het toezicht op AI niet op nul. Vanuit de AVG beschermt de AP mensen al jaren tegen risico’s bij het gebruik van persoonsgegevens, ook wanneer algoritmes en AI worden ingezet. De AP bouwt in het nieuwe AI-toezicht mede voort op de opgedane ervaring met de AVG en als coördinerend toezichthouder op AI en algoritmes.

Klaarstaan voor de volgende stap

Over de aanwijzing, bevoegdheden en financiering van de AP als toezichthouder op de AI-verordening worden op verschillende niveaus gesprekken gevoerd. De AP heeft eerder dit jaar de Uitvoeringswet AI-verordening getoetst. Daarbij heeft de AP in kaart gebracht welke capaciteit en financiering nodig zijn om de toezichttaak uit te voeren. De AP heeft daarbij onderzoek gedaan naar de omvang en ontwikkeling van de Nederlandse AI-markt. Op dit moment wordt in Nederland nog gewerkt aan de Uitvoeringswet AI-verordening. De deadline voor het aanwijzen van de toezichthouders was 2 augustus 2025.