Grondrechten centraal in AI-toezicht

Als één van de grondrechtenautoriteiten voor AI-systemen in Nederland, richt het College deze publicatie primair op (markt)toezichthouders en beleidsmakers. Het doel is hen te ondersteunen bij de handhaving en uitvoering van deze complexe wetgeving.

Grondrechten als Rode Draad

De AI-Verordening, die vanaf augustus 2026 vrijwel volledig in werking treedt , heeft als hoofddoel het beschermen van de veiligheid, gezondheid en grondrechten tegen de schadelijke gevolgen van AI.

Omdat AI-systemen een zeer breed scala aan grondrechten kunnen raken — waaronder het recht op non-discriminatie, een eerlijk proces en privacy — vormt de bescherming van deze rechten een rode draad door de gehele verordening. De grondrechtendimensie is bovendien een nieuwe toevoeging aan de bestaande structuren voor productveiligheidstoezicht.

De publicatie van het College bespreekt de grondrechtenbescherming aan de hand van vier hoofdonderdelen:

1. Basisoverzicht van Grondrechten: Toetsing van AI op grondrechten kan niet via een checklist, maar moet altijd plaatsvinden in de context van een concreet systeem en de impact op mensen of groepen.

2. Artikelsgewijze Bespreking: Overzicht van de meest relevante bepalingen, waaronder:

Verboden AI (Hoofdstuk II): Acht specifieke AI-systemen die expliciet verboden zijn vanwege hun onacceptabele grondrechtenrisico’s, zoals social scoring, ongerichte gezichtsherkenning ('scraping'), en emotieherkenning op het werk.

Hoog-risico AI (Hoofdstuk III): Verplichtingen voor systemen die een grote kans op grondrechtenschendingen met zich meebrengen, zoals risicobeheer, datagovernance en menselijk toezicht

AI-Geletterdheid (Artikel 4): De verplichting voor personeel van aanbieders en gebruikers om voldoende kennis te hebben om verantwoord met AI-systemen om te gaan, inclusief inzicht in de impact op grondrechten.

3.Grondrechtenrisico’s van Hoog-risico AI: Een bespreking van de concrete risico's per categorie uit Bijlage III, zoals AI in de rechtshandhaving, onderwijs, werkgelegenheid en essentiële diensten.

4. Grondrechtentoezicht: De cruciale rol van de markttoezichthouders die, als centrale actor, de grondrechtenautoriteiten op het juiste moment moeten betrekken. De grondrechtenautoriteiten leveren expertise voor monitoring, signalering en evaluatie.

Succes afhankelijk van expertise

De effectiviteit van de AI-Verordening zal mede afhangen van twee kritieke factoren. Ten eerste moeten de abstracte verplichtingen worden geconcretiseerd in bruikbare technische standaarden, richtsnoeren en sjablonen.

Ten tweede is het succes sterk afhankelijk van de vaardigheden en capaciteiten van alle betrokken partijen. Aanbieders, gebruiksverantwoordelijken én toezichthouders moeten in staat zijn de grondrechtenrisico’s adequaat in te schatten om de verordening effectief toe te passen en te handhaven.

De complexe, hybride structuur van het toezicht, waarbij traditioneel markttoezicht wordt gecombineerd met grondrechtenexpertise, is innovatief, maar vereist heldere verantwoordelijkheidsverdeling, efficiënte informatie-uitwisseling en voldoende capaciteit bij alle betrokken autoriteiten in Nederland.