AI-verantwoordelijkheid verschuift van ICT naar bestuursniveau

Volgens het onderzoek hangt deze verschuiving samen met een sterke toename van vacatures voor Chief AI Officers en de benoeming van prominente AI-leiders binnen bedrijven. Op LinkedIn zijn inmiddels meer dan 20.000 CXO-functietitels te vinden waarin AI of Artificial Intelligence wordt genoemd. Organisaties erkennen daarmee steeds vaker dat AI niet louter een technologie of hulpmiddel is, maar een fundamentele verandering betekent voor de bedrijfsvoering.

Verantwoordelijkheid is nog altijd versnipperd

Toch blijkt de verantwoordelijkheid voor AI binnen de meeste organisaties nog versnipperd. Taken op het gebied van AI-strategie, risico's en toezicht liggen vaak verspreid over meerdere functies en teams. Dat kan leiden tot onduidelijkheid over eigenaarschap, aansprakelijkheid en besluitvorming, vooral wanneer er iets misgaat.

Bedrijven die niet investeren in AI-accountability lopen achter nu organisaties governance steeds hoger op de agenda zetten

BSI onderscheidt in het onderzoek verschillende modellen voor AI-accountability, zonder dat één aanpak als beste oplossing naar voren komt. Sommige organisaties werken met een Chief AI Officer, andere breiden de verantwoordelijkheden van een CIO of CDO uit, richten federatieve governance councils in of leggen het eigenaarschap bij afzonderlijke bedrijfsonderdelen. Grote ondernemingen en sectoren met een hoog risicoprofiel, zoals de financiële sector, bewegen volgens het onderzoek sneller richting formele accountability en governance. Mkb-organisaties kiezen vaker voor flexibelere, capability-led aanpakken.

Mandaat om verantwoordelijkheid te nemen

Het onderzoek concludeert verder dat effectieve governance minder afhangt van een specifieke functietitel dan van de vraag of een persoon of team daadwerkelijk mandaat heeft om verantwoordelijkheid te nemen. Dat vraagt onder meer om voldoende invloed over disciplines heen, de juiste middelen en de mogelijkheid om verantwoord gebruik van AI in de praktijk te brengen. Daarnaast laat het rapport zien dat de volwassenheid van AI binnen een organisatie samenhangt met de volwassenheid van de governance: naarmate bedrijven van experimenteren overgaan naar grootschalige toepassing van AI, wordt formeel toezicht en duidelijke verantwoordelijkheid belangrijker.

Uit eerder onderzoek van BSI bleek dat minder dan een kwart van de organisaties over een AI governance-programma beschikte (24 procent), en dat minder dan de helft aangaf het gebruik van AI via formele processen te beheersen.

Meer informatie deelt BSI in een whitepaper.