AI bij de overheid: de grootste uitdaging is het vertrouwen

Dat is begrijpelijk. De overheid draagt een litteken met zich mee. De maatschappelijke en politieke nasleep van het gebruik van algoritmen bij de beoordeling van regelingen aan burgers heeft diepe sporen achtergelaten. Waar algoritmen ooit werden gezien als hulpmiddel om efficiënter te werken, worden ze nu vaak geassocieerd met discriminatie, gebrek aan transparantie en bestuurlijk falen. Geen bestuurder zit te wachten op Kamervragen of een kritische reconstructie in de media omdat een AI-systeem een verkeerde beslissing heeft genomen.

Die terughoudendheid wordt versterkt door de natuurlijke risicoaversie die binnen veel overheidsorganisaties bestaat. Daar komt een steeds complexer speelveld van wet- en regelgeving bij. De AVG, de AI Act, de Data Act en sectorspecifieke regelgeving stellen terecht hoge eisen aan het gebruik van data en AI. Deze wetten zijn zeker behulpzaam om te bepalen wanneer het een meer risicovolle AI-toepassing betreft en wat je moet doen om dat wel veilig te maken.

Limiteren van risico’s

De overheid moet leren goed te weten wat AI-toepassingen zijn met gelimiteerd risico en hoe die zo eenvoudig mogelijk compliant op te leveren. En voor de hoog-risico AI-toepassingen moet de businesscase duidelijk bewijzen dat al die investeringen en risico het waard zijn. Dit zorgt voor een context waarin innovatie al snel voelt als een juridische hindernisbaan. Het gevolg is dat veel organisaties vooral bezig zijn met het voorkomen van risico’s, in plaats van met het realiseren van verbeteringen.

Daar houdt het niet op. De informatiehuishouding van de overheid is nog altijd sterk versnipperd. Data bevindt zich verspreid over tientallen applicaties, databases en archieven. De kwaliteit is wisselend en de toegankelijkheid beperkt. Bovendien speelt voortdurend de vraag of data die ooit voor een specifieke wettelijke taak is verzameld, ook voor een andere toepassing mag worden gebruikt. AI is uiteindelijk zo goed als de data waarop zij draait. Zonder een stevige informatiebasis, duidelijke data-eigenaren en stewards en dus serieus beheer is op kwaliteit, vastlegging en definities blijft elke AI-ambitie beperkt tot experimenteren.

Alsof dat nog niet ingewikkeld genoeg is, is er geopolitiek de nodige onrust. Digitale autonomie en datasoevereiniteit zijn inmiddels strategische thema's. Overheden willen steeds beter kunnen bepalen waar hun data staat, onder welke wetgeving deze valt en wie er toegang toe heeft.

Niet langer vanzelfsprekend

Daardoor zijn publieke cloudplatformen voor bepaalde toepassingen niet langer vanzelfsprekend. Niet omdat de technologie tekortschiet, maar omdat de afhankelijkheid van buitenlandse aanbieders steeds kritischer wordt beoordeel. Daarnaast is de belangrijkste reflex van de overheid in het licht van de gespannen geopolitieke verhoudingen om alles zelf en opensource te doen in plaats van samen te werken met Europese partners om zo serieus tempo te maken in het digitaal autonoom worden.

Ondertussen gebeurt er iets opmerkelijks binnen de muren van diezelfde overheid. Medewerkers ontdekken zelf AI-tools. Ze gebruiken ChatGPT, Copilot of andere toepassingen om sneller rapporten te schrijven, documenten samen te vatten of analyses uit te voeren. Vaak zonder duidelijke richtlijnen of toezicht.

Shadow AI is inmiddels net zo'n realiteit als shadow IT dat jaren geleden was. De behoefte aan AI is er dus wel degelijk; alleen het AI-beleid en de governance daarop loopt achter. Start met beleid richting de organisatie over wat wel en niet kan in publieke AI-tooling, dat goed communiceren en uitdragen. En in het beleid benoemen welke AI-tooling je überhaupt wel of niet wilt (misschien kies je Mistral Vibe i.p.v. ChatGPT vanwege de geopolitiek). En daarnaast werken aan veilige AI-toepassingen waar je dingen in mag die vanwege beleid niet in openbare tools mogen.

Reden voor optimisme

Toch zie ik alle reden voor optimisme. De publieke discussie over AI lijkt zich vrijwel volledig te richten op de bekende grote AI-toepassingen zoals ChatGPT, Gemini, Claude, Grok en Copilot. Daardoor ontstaat gemakkelijk de indruk dat AI per definitie draait om Amerikaanse hyperscalers en publieke cloudplatformen.

Dat beeld is onvolledig omdat er nog veel meer is onder de AI zon. Naast bovengenoemde grote modellen bestaat een snelgroeiend ecosysteem van duizenden open-sourcemodellen die specifiek zijn ontwikkeld voor afgebakende taken. Deze modellen kunnen binnen de eigen infrastructuur van een overheidsorganisatie draaien, volledig onder eigen regie. Ze zijn transparanter, beter controleerbaar en kunnen op de eigen data worden gefinetuned zonder dat gevoelige informatie de organisatie verlaat. Juist voor veel overheidstoepassingen biedt dat een aantrekkelijk alternatief.

Daarmee verschuift de discussie van de vraag óf AI verantwoord kan worden ingezet naar de vraag hoe je dat verstandig organiseert. AI is geen tech, maar een organisatievraagstuk. AI hoeft niet te beginnen bij complexe besluitvorming over burgers. De grootste winst ligt waarschijnlijk veel dichter bij huis: het moderniseren van de informatiehuishouding, het ontsluiten van kennis, het ondersteunen van medewerkers en het versnellen van processen.

Grootste kans

Ik denk dat dit – het wendbaarder en slanker maken van de overheid - misschien de grootste kans is van AI voor de overheid. Niet mensen vervangen, maar de enorme technische schuld van verouderde systemen stap voor stap afbouwen. Om informatie beter vindbaar en bruikbaar te maken. Om ambtenaren meer tijd te geven voor hun echte werk. En uiteindelijk om burgers beter, sneller én goedkoper van dienst te zijn met minder achterstanden en wachtlijsten.

De vraag is dan ook niet langer of de overheid AI moet omarmen. De vraag is of zij erin slaagt dat op een manier te doen die past bij de publieke waarden die zij zelf wil beschermen. Wie daarin slaagt, bewijst dat innovatie en vertrouwen geen tegenstelling hoeven te zijn, maar juist elkaars voorwaarden.

Hans Hendrikx is account directeur Justitie & Veiligheid bij Sopra Steria en adviseur bij Brightlands Data & AI Academy.