'IND gebruikte AI-chatbots maandenlang zonder deze te registreren'

De dienst bevestigt tegenover het dagblad het gebruik van de assistenten Robin en ChatIND, zonder dat hier eerder ruchtbaarheid aan is gegeven. Medewerkers mogen de tools niet gebruiken voor besluiten over asielaanvragen, maar wel voor voorbereidend werk. Zo kan Robin worden ingezet om jurisprudentie uit te zoeken en beleid op te zoeken, terwijl ChatIND een breder takenpakket heeft en lange documenten kan samenvatten, teksten kan vertalen en interviews of onderzoeksstukken kan analyseren.

Tijdsbesparing, maar ook risico's

Rechtspsycholoog Tanja van Veldhuizen van de Vrije Universiteit Amsterdam wijst op de tijdswinst die AI kan opleveren bij het controleren van asielverhalen, bijvoorbeeld bij het nagaan of een aanslag die een asielzoeker aanhaalt daadwerkelijk heeft plaatsgevonden. Dergelijke informatie staat vaak in omvangrijke overheidsrapporten, waarin zoeken met AI sneller kan verlopen dan handmatig.

Tegelijk wijst zij erop dat AI-systemen regelmatig onjuiste conclusies trekken uit rapporten. Begin dit jaar bleek al uit het rapport Ervaren besluitvaardigheid dat veel van de vierhonderd ondervraagde hoor- en beslismedewerkers behoefte hadden aan een betere zoekfunctie of chatbot. Robin werd vorig jaar ontwikkeld door het ministerie van Justitie en Veiligheid als veilig alternatief voor generatieve AI-modellen zoals ChatGPT en is vervolgens getest door een groep medewerkers die zichzelf de Einstein Brigade noemt.

Discussie over transparantie

Het gebruik van AI binnen het Nederlandse asielsysteem ligt gevoelig, omdat besluiten altijd door een mens genomen moeten worden om discriminerende of hardvochtige uitkomsten te voorkomen. Eerder ontstond kritiek van advocaten op de interne zoekmachine Case Matcher, waarvan rechters vonden dat de IND onvoldoende transparant was over de werking. Volgens een recente uitspraak is Case Matcher echter geen AI-systeem.

Robin en ChatIND zijn dat wel, maar zijn niet geregistreerd in de Nederlandse database voor algoritmes en evenmin gemeld bij het Europese register. Volgens de IND is dat niet nodig omdat uit een risicotoets zou zijn gebleken dat de assistenten geen hoog risico met zich meebrengen. Dit staat op gespannen voet met een beleidsstuk uit 2023, waarin de IND aangeeft alle algoritmesystemen ongeacht het risiconiveau te zullen publiceren en met de eigen website, waarop staat dat AI-toepassingen worden geregistreerd ook wanneer dat niet verplicht is.

Zorgen over functioneren en gevolgen

De AI-assistenten van de IND zijn nog niet geëvalueerd, maar volgens ingewijden functioneren ze nog niet naar behoren: Robin geeft medewerkers soms onvolledige of onjuiste antwoorden, wat een woordvoerder bevestigt. De dienst noemt Robin ongeschikt voor de meeste taken, zoals het doorzoeken van beleidsdocumenten, wat de ontwikkeling van het extra beveiligde ChatIND verklaart, waarmee ook vertrouwelijke gegevens van asielzoekers mogen worden gedeeld.