Gartner waarschuwt CISO’s voor snelle uitrol van AI-agenten

Volgens Gartner moeten chief information security officers (CISO's) in een AI-first wereld hun aandacht richten op de opkomst van ongecontroleerde AI-agenten, toenemende fragmentatie van digitale soevereiniteit en de menselijke impact van autonome AI binnen cybersecurity. Daarnaast spelen een groeiende divergentie op de arbeidsmarkt, veranderende klantinteracties door geautomatiseerde agenten, vertragingen bij de uitrol van onuitleg bare AI en aanvalsketens binnen de circulaire IT-toeleveringsketen een cruciale rol.

De risico's rond autonome AI-agenten nemen volgens het onderzoeksbureau snel toe. Gartner voorspelt dat het misbruik van niet-beheerde AI-agenten tegen 2028 verantwoordelijk zal zijn voor 25 procent van alle bedrijfsinbreuken. Dit verplicht organisaties tot het invoeren van zero-trust governance en specifieke noodstopsystemen voor AI-agenten.Tegelijkertijd zorgt nationale regelgeving voor operationele druk. 

Gartner verwacht dat 30 procent van de multinationale ondernemingen tegen 2028 hun AI-architectuur moet herzien om te voldoen aan uiteenlopende nationale soevereiniteitsseisen, wat de operationele kosten met naar schatting 20 procent verhoogt

.Ondanks de snelle technologische vooruitgang waarschuwt Gartner voor overhaaste personeelsreducties. Organisaties die hun werknemers in staat stellen mee te groeien met de introductie van AI zullen uiteindelijk meer groei en innovatie realiseren dan bedrijven die personeel direct vervangen in de veronderstelling dat AI een volwaardige vervanger is.