Snelle omarming van AI leidt tot governance-uitdagingen

Naarmate AI-agents van pilot naar productie gaan, staan organisaties voor de uitdaging om ervoor te zorgen dat de data die deze systemen aandrijven zichtbaar, beheerd, veilig en robuust zijn. Het onderzoek toont aan dat de adoptie van AI aanzienlijk sneller verloopt dan de governance-structuren die bedoeld zijn om AI te beheren. Ondanks investeringen en goede bedoelingen van het management, is het vermogen om AI te beheersen, te monitoren en te herstellen ernstig onderontwikkeld.

Uit het onderzoek blijkt onder meer dat slechts 7% van de organisaties écht klaar is voor AI, terwijl 88% al AI-agents gebruikt of test. Slechts 28% heeft vertrouwen dat ze AI-systemen kunnen detecteren die buiten de goedgekeurde parameters opereren. Daarnaast zegt 95% dat uitdagingen op het gebied van data de vooruitgang van AI al hebben vertraagd.

“De meeste organisaties hebben geen AI-adoptieprobleem, maar een AI-vertrouwensprobleem”, aldus Anand Eswaran, CEO van Veeam. “De eerste fase van AI werd gekenmerkt door investeringen in infrastructuur, experimenten en versnelling. De volgende fase zal worden gekenmerkt door vertrouwen. Met de wijdverspreide toepassing van autonome AI-agents die op machinesnelheid werken, verschuift de vraag van of je AI kunt gebruiken naar of je kunt garanderen dat al je data veilig, beheerd, conform en robuust zijn. En mocht er iets misgaan, kun je dan nauwkeurig herstellen? Alleen door álle data op orde te hebben, versnel je AI veilig en op grote schaal zonder reputatie- en operationele risico’s te vergroten.”

Kloof tussen directie en operationele teams

Er bestaat een aanzienlijk verschil in inzicht tussen de directie en operationele teams over de stand van zaken rondom AI. Governance is inconsistent, data worden reactief beheerd en verantwoordelijkheid is weliswaar toegewezen, maar gefragmenteerd.

Uit het onderzoek blijkt dat 65% van de CEO’s denkt een volledige AI-inventaris te hebben, vergeleken met 48% van de technische leiders. Daarnaast denkt 52% van de CEO’s actief leiding te geven op het gebied van data, maar slechts 41% van de CISO’s en 38% van de CIO’s is het daarmee eens. Verder gelooft 48% van de CEO’s dat betrouwbare, veilige en conforme data een omzetgroei van meer dan 25% mogelijk maakt. Ten slotte voelt 83% van de CEO’s de druk om hun AI- en datacapaciteiten te versnellen.

De combinatie van snelle AI-adoptie, onvolledig inzicht en onduidelijke verantwoordelijkheid creëert de ideale omstandigheden voor mislukkingen die moeilijk te detecteren, verklaren en beheersen zijn.

Nieuwe uitdagingen bij AI-storingen

Naarmate AI-systemen autonomer worden, verandert de aard van storingen. Het risico verschuift van traditionele systeemuitval naar storingen op dataniveau. Deze incidenten zijn moeilijker te detecteren, verklaren en beheersen. Het onderzoek waarschuwt dat fouten op machinesnelheid sneller kunnen plaatsvinden dan ze gedetecteerd kunnen worden. Daarom moet veerkracht evolueren van breed herstel naar precisieherstel, waarbij alleen datgene wordt hersteld wat is getroffen.

Van de organisaties die momenteel AI gebruiken, kan slechts een minderheid binnen enkele minuten vaststellen:

• welke systemen AI benadert (29%)
• welke acties het onderneemt (25%)
• welke beslissingen het beïnvloedt (24%)
• welke data het gebruikt (22%)

Slechts 40% van de executives heeft veel vertrouwen dat ze een AI-storing kunnen isoleren en nauwkeurig kunnen herstellen.

Risico’s van schaduw-AI
De uitdagingen rond governance worden groter door het toenemende risico op schaduw-AI. Binnen organisaties is ongeoorloofd AI-gebruik inmiddels gemeengoed:

95% meldt ongeoorloofd AI-gebruik, en 93% beschouwt dit als een significant risico.
Toch biedt slechts 25% goedgekeurde alternatieven aan, wat betekent dat de meeste organisaties de vraag proberen te onderdrukken in plaats van deze effectief te reguleren.
44% geeft aan dat schaduw-AI het snelst groeiende cyberrisico is.

Tegelijkertijd neemt de druk van externe regelgeving toe. 61% van de organisaties zegt dat Europese AI-wetgeving de investeringsstrategieën voor AI de afgelopen twaalf maanden al heeft beïnvloed. 47% noemt het kunnen verklaren van AI-besluiten voor audits hun grootste compliancezorg.

Verantwoordelijkheid als sleutel tot vertrouwen

Het onderzoek toont aan dat de belangrijkste belemmering voor vooruitgang een combinatie is van een geïntegreerde aanpak, discipline en afstemming tussen teams. De verantwoordelijkheid voor data, AI en governance is vaak gefragmenteerd, wat verantwoording beperkt en uitvoering vertraagt.
Waar verantwoordelijkheid duidelijk is gedefinieerd, verbeteren bedrijfsresultaten aanzienlijk:

Organisaties waar CISO’s verantwoordelijk zijn voor AI-agent-risico’s, hebben 24% meer kans om ongewenst AI-gedrag te detecteren.
Organisaties waar die verantwoordelijkheid gedeeld wordt, hebben 47% minder kans om ongewenst AI-gedrag te detecteren.
Organisaties hebben duidelijk leiderschap en expliciet toegewezen verantwoordelijkheid nodig om governance, beveiliging, privacy, compliance en veerkracht op elkaar af te stemmen.

Vertrouwen als operationele basis voor AI

Er ontstaat een duidelijke scheiding tussen organisaties die vertrouwen operationeel kunnen maken en organisaties die dat niet kunnen. Organisaties die ambitie, zichtbaarheid en governance succesvol op elkaar afstemmen, presteren aanzienlijk beter dan hun concurrenten. Van de organisaties die als ‘volledig AI-klaar’ worden beschouwd, rapporteert 97% meetbare zakelijke voordelen van investeringen in data en AI, vergeleken met 48% gemiddeld.

Veeam pakt deze uitdaging aan door dataveerkracht, beveiliging en governance te combineren in één aanpak. Zo kunnen organisaties inzicht krijgen in welke data AI gebruikt, bepalen hoe mensen en AI-agents toegang hebben en nauwkeurig schone, betrouwbare data herstellen wanneer incidenten zich voordoen.

“De bevindingen laten geen ruimte voor twijfel: wanneer 95% van de managers aangeeft dat data-uitdagingen hun AI-vooruitgang al vertragen, ligt het knelpunt niet bij het model, maar bij betrouwbare, beheerde en herstelbare data”, aldus Eswaran. “Veeam bouwt de vertrouwenslaag voor data en AI om bedrijven de zichtbaarheid, controle en nauwkeurige herstelmogelijkheden te bieden die nodig zijn om AI veilig op te schalen, zodat het echte bedrijfswaarde kan leveren.”