CFO moet governance voorrang geven boven ROI bij AI-agents

Volgens Gartner verschillen de risico's van AI-agents wezenlijk van eerdere automatiseringsgolven, waardoor het inrichten van een solide toezichtsstructuur noodzakelijk is voordat applicaties op grotere schaal worden uitgerold.

Autonomie brengt nieuwe risico's met zich mee

Waar traditionele automatisering vaste regels volgt en generatieve AI (GenAI) hoofdzakelijk content produceert, handelen AI-agents met een veel grotere mate van autonomie. Ze interpreteren doelstellingen, plannen opeenvolgende stappen, voeren deze uit en communiceren zelfstandig met meerdere bedrijfssystemen.

"Deze autonomie betekent dat agents beslissingen kunnen nemen en acties kunnen uitvoeren die voor mensen niet direct zichtbaar of eenvoudig uit te leggen zijn," licht Alex Levine, Director Analyst bij de Gartner Finance-praktijk, toe. "Daardoor kunnen fouten of verkeerde inschattingen zich snel verspreiden als het toezicht onduidelijk is. Het risico verschuift van de uiteindelijke uitkomst naar het gehele proces, wat governance en traceerbaarheid essentieel maakt."

Eerste pilot als testcase voor toezicht

Volgens Levine mislukken de eerste pilots binnen financiële afdelingen zelden door gebrekkige technologie, maar eerder door onduidelijke interne controles. Gartner adviseert CFO's daarom de eerste AI-agent te benaderen als een testcase voor de toezichtsstructuur. Door eventuele hiaten in de controle- en beoordelingsprocessen vroegtijdig te identificeren, ontstaat een basis voor veilig gebruik bij meer kritische processen met hogere financiële of operationele belangen.

Voor een eerste proefproject raadt Gartner een afgebakend proces aan met een laag risicoprofiel, herhaalbare stappen en omkeerbare uitkomsten. Hoge-risicoprocessen, zoals wettelijke of regelgevende rapportages, moeten in deze fase worden vermeden. Daarnaast dienen toegangsrechten, toegestane acties en verplichte menselijke controlepunten vooraf te worden vastgelegd, bij voorkeur binnen een afgeschermde testomgeving (sandbox).

Succes meten aan de hand van transparantie

De uitkomst van een pilot moet volgens het onderzoeksbureau niet primair worden afgemeten aan de mate van autonomie of directe besparingen. 

Belangrijke indicatoren voor succes zijn:

Een volledige traceerbaarheid van alle acties die de AI-agent heeft ondernomen

Consistent toegepaste controle- en reviewmomenten door het team

Een gedetailleerd logboek waarin fouten, aanpassingen en besluitvormingsstappen transparant worden gedocumenteerd

Herbruikbare sjablonen en richtlijnen die vervolgprojecten veiliger en goedkoper maken

Door deze voorwaarden in te richten, kunnen financiële teams exact reconstrueren wat een agent heeft gepraat, geanalyseerd en geproduceerd, wat de basis vormt voor een verantwoorde schaalvergroting van AI binnen de organisatie.