Zebra pleit voor noodstops en governance bij inzet van AI-agents

De waarschuwing volgt op recente incidenten waarbij AI-agents betrokken raakten bij cyberaanvallen of uit afgeschermde omgevingen wisten te breken. Analistenbureaus voorspellen daarnaast dat tot 40 procent van de projecten rondom agentic AI tegen het einde van 2027 zal worden stopgezet vanwege stijgende kosten, een onduidelijk rendement of gebrekkig risicobeheer.

AI-agents beheren als digitale identiteiten

Om de risico's te beperken, adviseert Zebra om AI-agents niet te behandelen als reguliere software-applicaties, maar als niet-menselijke identiteiten. Dit vereist een eigen governance-structuur met unieke inloggegevens, rolgebaseerde toegangsrechten (least privilege) en continue monitoring.

Zonder deze maatregelen kan een agent voor bijvoorbeeld voorraadoptimalisatie onbedoeld toegang krijgen tot klantbetalingen, of kan een logistieke agent zonder autorisatie instellingen in een warehouse-managementsysteem wijzigen. Zonder strikt beheer riskeert een AI-agent uit te groeien tot een 'insider' met verregaande bevoegdheden binnen het netwerk.

Governance op MCP en runtime-beveiliging

Een belangrijk aandachtspunt is de beveiliging van het Model Context Protocol (MCP), de technologie waarmee AI-agents verbinding maken met interne bedrijfstools, databases en externe diensten. Zebra benadrukt dat organisaties goedgekeurde tools moeten vastleggen op zogeheten allowlists en de contextuele gegevens strak moeten controleren om manipulatie te voorkomen.

Daarnaast is continue bewaking tijdens het gebruik (runtime) noodzakelijk. Mocht een retail-agent plotseling duizenden prijzen tegelijk proberen te wijzigen, of een logistieke agent bezorgschema's buiten de vastgestelde beleidsregels omleiden, dan moeten ingebouwde noodstopschakelaars en anomaliedetectie de actie direct blokkeren.

Gelaagde verdediging van digitale werkkrachten

Volgens Srikrishna Shankavaram, Principal Engineer AI Security bij Zebra Technologies, verschuift het zwaartepunt in de cybersecurity: "Traditionele vraagstukken rond AI, zoals promptinjectie en datalekken, blijven belangrijk. Security-leiders staan nu echter voor een grotere uitdaging: het beheren van autonome agents die toegang hebben tot tools, workflows uitvoeren en apparaten aansturen zonder voortdurend menselijk toezicht. De focus verschuift van het beveiligen van AI-modellen naar het beveiligen van digitale werkkrachten."

Zebra pleit daarom voor een gelaagde verdedigingsstrategie waarin identiteitsbeheer, endpoint-beveiliging, API-controle en periodieke stresstests van volledige workflows samenkomen.