Gartner: Guardian agents groeien snel in populariteit

Guardian agents zijn AI-gebaseerde technologieën ontworpen om betrouwbare en veilige interacties met AI te ondersteunen. Ze functioneren zowel als AI-assistenten, die gebruikers helpen met taken zoals contentbeoordeling, monitoring en analyse, als semi-autonome of volledig autonome agenten, die in staat zijn actieplannen te formuleren en uit te voeren, evenals acties te herleiden of te blokkeren om ze af te stemmen op vooraf gedefinieerde doelen.

AI-agents winnen snel aan populariteit

Volgens een Gartner-webinarpeiling onder 147 CIO's en IT-functionarissen, uitgevoerd in mei 2025, had 24% van de respondenten al enkele AI-agenten (minder dan een dozijn) ingezet en had nog eens 4% er meer dan een dozijn ingezet. Uit dezelfde peilingvraag bleek dat 50% van de respondenten aangaf het onderzoek te doen en te experimenteren met de technologie, terwijl nog eens 17% van de respondenten aangaf dat ze dat nog niet hadden gedaan, maar de technologie uiterlijk eind 2026 wilden inzetten. Er zijn geautomatiseerde vertrouwens-, risico- en beveiligingscontroles nodig om deze agenten afgestemd en veilig te houden, wat de behoefte aan en de opkomst van Guardian Agents versnelt.

"Agentic AI zal tot ongewenste resultaten leiden als het niet wordt gecontroleerd met de juiste leuningen," zei Avivah Litan, VP Distinguished Analyst bij Gartner. "Guardian agents maken gebruik van een breed scala aan agentic AI-mogelijkheden en AI-gebaseerde, deterministische evaluaties om het volledige scala aan agent-mogelijkheden te superviseren en te beheren, waarbij runtime-besluitvorming in evenwicht wordt gebracht met risicobeheer."

Toenemende risico's

Tweeënvijftig procent van de 125 respondenten uit dezelfde webinarpeiling identificeerde dat hun AI-agenten zich primair richten of zullen richten op gebruiksscenario's met betrekking tot interne administratieve functies zoals IT, HR en accounting, terwijl 23% zich richt op externe, klantgerichte functies.

Naarmate gebruiksscenario's voor AI-agenten blijven groeien, zijn er verschillende bedreigingscategorieën die hen beïnvloeden, waaronder inputmanipulatie en datavervuiling, waarbij agenten afhankelijk zijn van gemanipuleerde of verkeerd geïnterpreteerde gegevens. Voorbeelden hiervan zijn:

• Inbreuk op referenties en misbruik leidend tot ongeoorloofde controle en datadiefstal.
• Agenten die interacteren met nep- of criminele websites en bronnen die kunnen resulteren in vergiftigde acties.
• Afwijking van agenten en onbedoeld gedrag als gevolg van interne gebreken of externe triggers die reputatieschade en operationele verstoring kunnen veroorzaken.

"De snelle versnelling en toenemende agenten van AI-agenten maken een verschuiving voorbij traditioneel menselijk toezicht noodzakelijk", aldus Litan. "Naarmate bedrijven zich richten op complexe multi-agentsystemen die met hoge snelheid communiceren, kunnen mensen de potentiële fouten en kwaadwillige activiteiten niet bijbenen. Dit escalerende bedreigingslandschap benadrukt de dringende behoefte aan guardian agents, die geautomatiseerd toezicht, controle en beveiliging bieden voor AI-toepassingen en -agenten."

CIO's en beveiligings- en AI-leiders moeten zich richten op drie primaire gebruikstypen van guardian agents om bij te dragen aan het beschermen en beveiligen van AI-interacties:

• Beoordelaars: Identificeren en beoordelen van AI-gegenereerde output en content op nauwkeurigheid en acceptabel gebruik.
• Monitors: Observeren en volgen van AI- en agentacties voor menselijke of AI-gebaseerde follow-up.
• Beschermers: Aanpassen of blokkeren van AI- en agentacties en -machtigingen met behulp van geautomatiseerde acties tijdens operaties.

Guardian agents beheren interacties en anomalieën, ongeacht het gebruikstype. Dit is een belangrijke pijler van hun integratie; Gartner voorspelt dat tegen 2028 zeven op de tien AI-apps multi-agentsystemen gebruikt.

Gartner-klanten kunnen meer lezen in "Guardians of the Future: How CIOs Can Leverage Guardian Agents for Trustworthy and Secure AI." Aanvullende details zijn ook te vinden in het gratis Gartner-webinar "CIOs, Leverage Guardian Agents for Trustworthy and Secure AI."

Gartner Security & Risk Management Summit

Gartner-analisten presenteren het laatste onderzoek en advies voor beveiligings- en risicomanagementleiders tijdens de Gartner Security & Risk Management Summit, die plaatsvindt van 9 tot en met 11 juni in National Harbor, MD. Aankomende data en locaties voor Gartner Security & Risk Management Summits zijn 23 tot en met 25 juli in Tokio, 5 tot en met 6 augustus in Sao Paulo en 22 tot en met 24 september in Londen.