Hoe krijg je grip op shadow AI in je organisatie?

Duijts benadrukt dat veel directies geen zicht hebben op het daadwerkelijke AI-gebruik van hun personeel. Medewerkers plakken regelmatig gevoelige bedrijfs- of klantdata in ongecontroleerde AI-tools om geautomatiseerd contracten of documenten te analyseren. De reflex van sommige bestuurders – met name binnen de zorg en de overheid – is om het gebruik van AI volledig te blokkeren. Volgens Duijts leidt dit tot een achterstand die over enkele jaren niet meer in te halen is.

Vrijheid binnen duidelijke vangrails

In plaats van een totaalverbod pleiten Centero en SLTN voor vrijheid met duidelijke 'vangrails'. Bedrijven moeten per organisatie en per datatype bepalen welke kaders nodig zijn. Een webwinkel stelt immers andere eisen aan gegevensbescherming dan een zorginstelling. Daarbij waarschuwt Duijts voor een herhaling van de bureaucratische aanpak rondom de AVG: te strakke, papieren regels doden de innovatie.

Aan de regelgevende kant waarschuwt Tuijnman voor de toenemende druk op bestuurders. Organisaties krijgen te maken met een stapeling van eigen AI-beleid, de Europese AI Act en NEN-normeringen, dikwijls bovenop bestaande richtlijnen zoals NIS2. Een belangrijk knelpunt is de omgekeerde bewijslast: bij toezicht moet een bestuurder zelf kunnen aantonen dat het proces correct is ingericht en dat er altijd menselijke tussenkomst (human-in-the-loop) plaatsvindt. Ook moeten logbestanden minimaal zes maanden worden bewaard.

Starten met een nulmeting

Om de regie te pakken, adviseren de experts directies om direct te starten met een grondige nulmeting. Daarmee wordt in kaart gebracht welke AI-toepassingen er al rondzingen en waar de grootste risico's zitten. Risicovolle software of gevaarlijke datastromen kunnen vervolgens pragmatisch worden stopgezet of afgeschermd.

Volgens Duijts wordt AI-governance de komende jaren geen losstaand project, maar een vast onderdeel van de bedrijfsvoering, vergelijkbaar met financiële controle. Het kunnen aantonen dat een organisatie 'in control' is op het gebied van AI, wordt volgens haar een cruciale voorwaarde bij aanbestedingen en een hoeksteen voor het vertrouwen van klanten.

Beluister de volledige aflevering op Spotify.

People Work Technology met Richard Bordes is iedere vrijdag te beluisteren via New Business Radio tussen 14 en 16 uur en later op Spotify.

Foto VLNR: Eugene Tuijnman (SLTN), Richard Bordes (PWT), Maaike Duijts (Centero) en HP van Tilburg (PWT)