Gartner: Organisaties gaan zero-trust-benadering voor databeheer hanteren

"Organisaties kunnen niet langer blind vertrouwen op data of aannemen dat deze door mensen is gegenereerd", aldus Wan Fui Chan, Managing VP bij Gartner. "Nu AI-gegenereerde data steeds vaker voorkomt en moeilijk te onderscheiden is van menselijke data, is een zero-trust-aanpak met authenticatie- en verificatiemechanismen essentieel om bedrijfs- en financiële resultaten te beschermen."

Risico's door AI-gegenereerde data

Large language models (LLM’s) worden doorgaans getraind op data die van internet wordt gescrapet en bronnen als boeken, code-repositories en wetenschappelijke artikelen. Een deel van deze bronnen bevat echter al AI-gegenereerde content. Indien de huidige trend doorzet zal bijna al deze data uiteindelijk door AI zijn gegenereerd.

Uit de Gartner CIO and Technology Executive Survey 2026 blijkt dat 84% van de ondervraagde organisaties verwacht hun investeringen in generatieve AI in 2026 te verhogen. Naarmate bedrijven AI-initiatieven versneld adopteren en er meer in investeren, neemt ook het volume aan AI-gegenereerde data toe. Dit betekent dat toekomstige generaties LLM’s steeds vaker zullen trainen op output van eerdere modellen, wat het risico op ‘model collapse’ vergroot – een situatie waarin AI-systemen niet langer de werkelijkheid nauwkeurig weerspiegelen.

Wettelijke eisen aan 'AI-vrije' data

"Naarmate AI-gegenereerde content algemener wordt, zullen wettelijke eisen voor het verifiëren van ‘AI-vrije’ data naar verwachting strenger worden in bepaalde regio’s", meldt Chan. "Deze eisen kunnen echter sterk verschillen per jurisdictie: sommige gebieden zullen strengere controles opleggen, terwijl anderen een flexibelere aanpak hanteren. In dit veranderende regelgevende landschap moeten organisaties in staat zijn AI-gegenereerde data te identificeren en te labelen. Succes hangt af van de juiste tools, een geschoolde werknemer in informatie- en kennisbeheer, en metadata-oplossingen die cruciaal zijn voor datacatalogisering."

Actief metadata-beheer wordt hierbij een belangrijke onderscheidende factor, omdat het organisaties in staat stelt data te analyseren, waarschuwingen te genereren en besluitvorming te automatiseren.

Risicobeheer bij ongeverifieerde AI-gegenereerde data

Om de risico’s van ongeverifieerde data te beheersen, kunnen organisaties verschillende strategische stappen overwegen:

• Aanstellen van een AI-governanceverantwoordelijke: Een toegewijde rol die zich bezighoudt met AI-governance, zero-trust-beleid, risicobeheer en compliance. Deze functionaris werkt nauw samen met data- en analyseteams om zowel AI-klaarheid van data als systemen die AI-gegenereerde content kunnen verwerken te waarborgen.
• Samenwerking tussen afdelingen: Vorm multidisciplinaire teams met vertegenwoordigers uit cybersecurity, data & analytics en andere relevante stakeholders. Deze teams voeren uitgebreide risicoanalyses uit om bedrijfsrisico’s gerelateerd aan AI-gegenereerde data in kaart te brengen en te bepalen welke risico’s al gedekt zijn door bestaand beleid – en waar nieuwe strategieën nodig zijn.
• Gebruikmaken van bestaand governance-beleid: Bouw voort op huidige data- en analytics-governancekaders en werk vooral security-, metadata- en ethische richtlijnen bij om nieuwe risico’s van AI-gegenereerde data aan te pakken.
• Actief metadata-beheer toepassen: Dit maakt realtime-meldingen mogelijk wanneer data verouderd is of hercertificatie nodig heeft, zodat organisaties snel kunnen ingrijpen als kritieke systemen blootgesteld dreigen te worden aan onnauwkeurige of bevooroordeelde data.

Gartner-klanten kunnen meer lezen in het rapport 'Predicts 2026: AI-Driven, Automated, Zero-Trust Governance'. Lees daarnaast hoe je de waarde van AI kunt maximaliseren terwijl je kritieke risico's beheert in het e-boek 'AI in Cybersecurity: Minimize Risks and Maximize Impact'.