Gemeenten en algoritmen: Een digitaal mijnenveld voor de burger
De tien grootste gemeenten van Nederland zijn onvoldoende voorbereid op de risico's van algoritmen. Uit nieuw onderzoek van Bits of Freedom blijkt dat gemeenten wettelijke termijnen negeren, privacy-analyses vaak ontbreken en de inzet van technologie soms zelfs de wettelijke basis mist. "De basis is niet op orde," waarschuwt het rapport.
Terwijl de digitale overheid zich in sneltreinvaart ontwikkelt, blijft de bescherming van de burger achter. Bits of Freedom onderzocht de tien grootste gemeenten – van Amsterdam tot Nijmegen – en de resultaten schetsen een zorgwekkend beeld van hoe er wordt omgegaan met onze persoonsgegevens.
De zwarte doos van de lokale overheid
Het onderzoek, een vervolg op een soortgelijke studie uit 2022, laat zien dat transparantie nog steeds een groot struikelblok is. Gemeenten maken gebruik van het Nationale Algoritmeregister om openheid te geven, maar omdat registratie vrijwillig is, ontstaat er een vertekend beeld.
In de praktijk blijkt dat gemeenten zonder geregistreerde algoritmen deze wel degelijk inzetten. Zo hebben Breda en Nijmegen officieel nul algoritmen geregistreerd, terwijl uit andere bronnen blijkt dat zij wel degelijk ondersteunende of zelfs controversiële systemen gebruiken.
Geen wet, wel een algoritme
Misschien wel de meest schokkende bevinding is dat gemeenten regelmatig algoritmen inzetten zonder enige juridische grondslag. In Breda kwam via onderzoek van Follow The Money naar voren dat de gemeente 'sleepnetmethodes' gebruikte om fraude op te sporen in achterstandswijken. Ondanks waarschuwingen van de eigen privacy-functionaris dat een wettelijke basis ontbrak, zette de gemeente de aanpak door.
Ook Amsterdam, koploper in algoritme-inzet, worstelt met de risico's. Systemen zoals 'Slimme Check', bedoeld om bijstandsfraude op te sporen, moesten worden stopgezet omdat het risico op discriminatie simpelweg te groot was.
Bureaucratische vertraging
Om de onderste steen boven te krijgen, diende Bits of Freedom Woo-verzoeken (Wet open overheid) in om impact assessments op te vragen. Deze documenten zijn cruciaal omdat ze de risico's op discriminatie en willekeur vooraf in kaart moeten brengen.
De afhandeling van deze verzoeken bleek echter een bureaucratische nachtmerrie:
Nijmegen was de enige gemeente die binnen de wettelijke termijn besloot en documenten leverde.
Groningen reageerde binnen enkele weken.
Amsterdam en Utrecht lieten de onderzoekers drie tot vier maanden wachten, hoewel zij uiteindelijk wel de meeste documenten deelden.
In de meeste andere steden werden de wettelijke termijnen fors overschreden.
De burger als proefkonijn?
Het rapport waarschuwt dat gebrekkig gegevensbeheer geen louter administratieve fout is, maar een fundamentele dreiging voor de burger. Als een algoritme besluit over iemands recht op een uitkering op basis van verouderde of onjuiste data, zijn de gevolgen voor het individu ingrijpend.
Bits of Freedom pleit daarom voor een harde aanpak: maak het Algoritmeregister verplicht en dwing gemeenten om hun impact assessments actief te publiceren. "Algoritmen kunnen onbedoelde en ingrijpende gevolgen hebben voor burgers," stelt het rapport. "De afweging of technologie echt noodzakelijk is, moet voorafgaand aan de implementatie veel zorgvuldiger worden gemaakt".
