AP stelt voorwaarden aan biastoets Belastingdienst

Aanleiding voor de normduiding is het Plan van Aanpak dat de Belastingdienst uitvoert na dringende verzoeken van de privacytoezichthouder. Uit eerder onderzoek van de AP bleek dat de onderbouwing van ruim de helft van de selectieregels mager was gedocumenteerd en dat er nauwelijks periodiek werd gecontroleerd op (indirecte) discriminatie. 

Spanning tussen privacy en non-discriminatie

Om te controleren of een algoritme niet onterecht selecteert op beschermde kenmerken zoals afkomst of etniciteit, heeft de Belastingdienst gegevens nodig over die specifieke kenmerken van belastingplichtigen. Dit veroorzaakt juridische frictie: de Algemene verordening gegevensbescherming (AVG) verbiedt in beginsel het verwerken van bijzondere persoonsgegevens, terwijl dezelfde AVG en het grondrecht op gelijke behandeling de overheid verplichten om discriminatie proactief te voorkomen. 

Omdat specifieke wetgeving met waarborgen op dit moment ontbreekt, oordeelt de AP dat de Belastingdienst in uitzonderlijke gevallen en onder strikte randvoorwaarden reeds rechtmatig verkregen bijzondere persoonsgegevens mag inzetten voor bias-toetsing gedurende de looptijd van het Plan van Aanpak. 

Vijf eisen voor bias-toetsing

Voor elk selectie-instrument dat op bias wordt onderzocht, moet de Belastingdienst aan vijf voorwaarden voldoen: 

Vooraf doel en metriek bepalen: De fiscus moet vooraf vastleggen op welke vormen van bias wordt getoetst, welke 'fairness-metriek' wordt gehanteerd en welke mate van afwijking acceptabel is. Hierbij moeten juridische, technische én ethische experts worden betrokken. 

Geschiktheid van de data: De Belastingdienst moet beoordelen of de beschikbare data kwalitatief en omvangrijk genoeg is voor een betrouwbare analyse. 

Subsidiariteit: Er moet worden onderzocht of het risico op discriminatie niet met minder ingrijpende middelen kan worden ondervangen, zoals het stoppen van onvoldoende onderbouwde selectieregels of het gebruik van geanonimiseerde data. 

Proportionaliteit: De inbreuk op de privacy moet in verhouding staan tot het risico op discriminatie en de impact op burgers. Instrumenten die miljoenen aangiften verwerken hebben hierbij prioriteit. 

Technische en organisatorische waarborgen: De verwerking moet zwaar beveiligd worden. Gegevens moeten zo snel mogelijk worden gepseudonimiseerd, mogen niet aan derden worden verstrekt en moeten direct worden gewist zodra de bias is gecorrigeerd. Ook moet de verwerking worden opgenomen in het AVG-register. 

Tijdelijke overbrugging

De AP benadrukt dat het om een tijdelijke noodoplossing gaat voor de uitvoering van het verbeterplan. Voor de lange termijn moet het kabinet een structurele wettelijke basis creëren. Mogelijk biedt de verruimde AI-Verordening (via de Digitale Omnibus) of toekomstige experimenteerwetgeving uitkomst voor de rechtmatige inzet van gegevens bij het testen van algoritmes.