Gartner: verborgen risico’s kunnen succesvolle inzet van GenAI ondermijnen

“De technologie en toepassingen van GenAI ontwikkelen zich in een ongekend tempo, terwijl de hype eromheen het voor CIO’s lastig maakt om deze dynamische omgeving goed in te schatten,” zegt Arun Chandrasekaran, Distinguished VP Analyst bij Gartner. De marktonderzoeker voorspelt dat deze verborgen risico’s tegen 2030 het verschil gaan maken tussen bedrijven die AI veilig en strategisch opschalen en organisaties die vastlopen, achteropraken of van binnenuit ontwricht worden.

Shadow AI neemt toe

Uit een enquête van Gartner onder 302 securitymanagers (maart-mei 2025) blijkt dat 69 procent van de organisaties vermoedt of bewijs heeft dat medewerkers niet-goedgekeurde publieke GenAI-tools gebruiken. Dit brengt risico's met zich mee. Zo kan intellectueel eigendom op straat komen te liggen, kunnen datalekken ontstaan en zijn er beveiligingsrisico’s. Gartner verwacht dat meer dan 40 procent van de bedrijven tegen 2030 te maken krijgt met veiligheids- of compliance-incidenten door ongeautoriseerd gebruik van shadow AI.

Chandrasekaran adviseert CIO’s om duidelijke bedrijfsbrede richtlijnen op te stellen voor AI-toepassingen, regelmatig audits uit te voeren naar shadow AI en GenAI-risico’s mee te wegen in de beoordeling van SaaS-oplossingen.

Technical debt door AI

Gartner voorziet dat de helft van de organisaties tegen 2030 te maken krijgt met vertraagde AI-upgrades of stijgende onderhoudskosten door onbeheerde technical debt. “Bedrijven zijn enthousiast over de snelheid waarmee GenAI resultaten oplevert, maar de hoge kosten voor het onderhouden, repareren of vervangen van AI-gegenereerde output, zoals code, content of ontwerpen, kunnen de beloofde rendementen aantasten”, waarschuwt Chandrasekaran. Organisaties doen er volgens hem goed aan om duidelijke normen te hanteren voor het reviewen en documenteren van AI-gegenereerde assets en technische schulden op te nemen in IT-dashboards.

Tegen 2028 introduceert naar verwachting 65 procent van de overheden wereldwijd technologische soevereiniteitseisen om onafhankelijkheid te vergroten en buitenlandse regelgeving tegen te gaan. Beperkingen op grensoverschrijdende datadeling of modellen kunnen AI-implementaties vertragen, de totale eigendomskosten verhogen en tot suboptimale resultaten leiden.

CIO’s moeten volgens Gartner al in een vroeg stadium juridische en compliance-teams betrekken bij hun AI-strategie en leveranciers selecteren die voldoen aan de eisen voor data- en AI-soevereiniteit.

Verdwijnen van menselijke vaardigheden

Overmatig vertrouwen op AI kan kritieke menselijke expertise, oordeelsvermogen en impliciete kennis, die moeilijk te codificeren of te vervangen zijn, geleidelijk doen eroderen. Dit proces verloopt vaak onopgemerkt totdat een organisatie niet meer goed functioneert zonder AI of wanneer AI faalt in situaties waar menselijke intuïtie nodig is, waarschuwt Gartner.

“Om verlies van bedrijfskennis en capaciteit te voorkomen, moeten organisaties in kaart brengen waar menselijk inzicht en vakmanschap onmisbaar zijn, en AI zo inzetten dat het deze vaardigheden aanvult in plaats van vervangt”, aldus Chandrasekaran.

Afhankelijkheid van leveranciers en interoperabiliteit

Bedrijven die GenAI op grote schaal willen inzetten, kiezen vaak voor één leverancier omwille van snelheid en eenvoud. Deze afhankelijkheid kan de technische wendbaarheid beperken en de onderhandelingspositie verzwakken op het gebied van prijs, voorwaarden of serviceniveaus. Veel CIO’s onderschatten hoe sterk hun data, modellen of werkprocessen verbonden raken aan leverancierspecifieke API’s, datameren en platformtools.

Gartner beveelt aan om open standaarden, API’s en modulaire architecturen te prioriteren bij het ontwerp van de AI-infrastructuur. Daarnaast moet interoperabiliteit een standaardvereiste zijn bij GenAI-pilots en -evaluaties.

Het volledige rapport Generative AI’s Invisible Undercurrents: 10 Blind Spots CIOs Aren’t Watching but Should is beschikbaar voor klanten van Gartner.