Witold Kepinski - 15 mei 2024

Rekenkamer Rotterdam ontwikkelt algoritmegovernance

De Rekenkamer Rotterdam heeft in 2021 een onderzoek gepubliceerd waarin ze waarschuwde voor de risico’s die kleven aan gebruik van algoritmes door de gemeente.

Rekenkamer Rotterdam ontwikkelt algoritmegovernance image

Op verzoek van de gemeenteraad heeft de rekenkamer nu opnieuw onderzocht hoe het ervoor staat met het gebruik van algoritmes door de gemeente Rotterdam, in het onderzoeksrapport Kleur Bekennen.

Te weinig aandacht had voor de ethische risico’s

Uit het rekenkamerrapport uit 2021, Gekleurde Technologie, bleek onder meer dat de gemeente te weinig aandacht had voor de ethische risico’s bij het gebruik van algoritmes. De rekenkamer deed verschillende aanbevelingen voor verbetering. De rekenkamer concludeert nu dat de gemeente serieus aan de slag is gegaan met de aanbevelingen uit het eerdere onderzoek, maar er zijn nog altijd knelpunten.

De afgelopen twee jaar is er meer aandacht gekomen voor de risico’s van algoritmes en is er een algoritmegovernance ontwikkeld. Maar deze algoritmegovernance is op veel punten nog te vaag. Ook staan nog niet alle algoritmes in het algoritmeregister. Medewerkers zijn zich er soms simpelweg niet van bewust dat zij met een algoritme werken. Volgens de rekenkamer moet er daarom beter gecommuniceerd worden over algoritmes. Het is immers pas mogelijk om een risico-inschatting te maken, als medewerkers herkennen dat ze te maken hebben met een algoritme.

Toelichting in de raad

Tijdens de vergadering van de Commissie Bestuur, Organisatie, Financiën en Veiligheid van de gemeenteraad van Rotterdam op 23 mei zal de rekenkamer het onderzoek toelichten. In dezelfde vergadering vindt ook de politieke behandeling plaats.