Gartner: Autonome AI-agents overbelasting overheidsdiensten in 2030

Volgens Gartner gaan deze autonome agents onder meer zelfstandig kansen signaleren, beoordelen of iemand ergens recht op heeft en namens gebruikers aanvragen indienen, met weinig menselijke tussenkomst. De verwachte toename van aanvragen en transacties gaat naar verwachting overheidssystemen onder druk zetten en vraagt om betere identiteitscontrole en verantwoordingsmechanismen. Gartner adviseert overheden om hun digitale infrastructuur te moderniseren en zich voor te bereiden op een grotere hoeveelheid interacties die door AI worden aangestuurd.

Fysieke AI op de werkvloer

Daarnaast verwacht Gartner dat in 2030 tachtig procent van de operationele medewerkers bij internationale bedrijven ondersteund wordt door fysieke AI-systemen, zoals robots, drones en autonome voertuigen. Deze systemen worden al ingezet om werkzaamheden veiliger te maken, herhalend of gevaarlijk werk te automatiseren en operationele inzichten te verzamelen. Gartner adviseert organisaties om hierbij veiligheid voorop te stellen en te investeren in schaalbare platforms en governance.

Nieuw type cyberaanval

Gartner voorspelt ook dat in 2030 tachtig procent van de organisaties met publiek toegankelijke AI-toepassingen te maken heeft gehad met een zogeheten cost exhaustion-aanval. Hierbij sturen kwaadwillenden bewust op overmatig gebruik van AI-systemen om de operationele kosten voor een organisatie op te drijven. Gartner stelt dat bedrijven AI-kosten voortaan ook als beveiligingsindicator moeten behandelen en aparte controlemechanismen moeten inrichten om dit risico te beperken.

Wegwerpsoftware

Voor 2029 voorspelt Gartner dat tachtig procent van nieuwe applicaties bedoeld is voor gebruik van minder dan een jaar. Doordat AI het ontwikkelen van software steeds toegankelijker maakt, gaan medewerkers naar verwachting vaker tijdelijke applicaties bouwen voor kortlopende bedrijfsbehoeften. Dit brengt nieuwe uitdagingen met zich mee op het gebied van governance, beveiliging, naleving van regelgeving en archivering, vooral wanneer deze applicaties invloed hebben op besluitvorming of toegang geven tot gevoelige gegevens.

Bedrijven als energieleverancier

Gartner voorspelt verder dat bedrijven uit de Global 2000 in 2030 gezamenlijk 10 biljoen dollar aan energiebezit in eigen beheer hebben, waardoor zij onbedoeld stroomleveranciers worden aan energienetten en AI-datacenters. De sterk toenemende vraag naar elektriciteit vanuit AI en datacenters zet bedrijven ertoe aan fors te investeren in energieopwekking, -opslag en -beheer. Daardoor vervaagt de traditionele scheiding tussen energieverbruikers en energieleveranciers.

Verzekeraars sturen AI-beleid

Volgens Gartner nemen in 2030 niet toezichthouders maar juist verzekeraars het voortouw in AI-governance, doordat strenge acceptatievoorwaarden voor AI-aansprakelijkheidsverzekeringen nodig zijn om premies te beperken. Organisaties verschuiven daarmee van beleid gebaseerd op regels naar operationele governance waarbij controles rechtstreeks in AI-systemen en werkprocessen worden ingebouwd.

Concurrentiepositie door AI-innovatie

Gartner voorspelt dat in 2029 een kwart van de Global 500-bedrijven doorlopend AI-gedreven producten en diensten vernieuwt, waardoor een voorsprong ontstaat die met traditionele 'fast follower'-strategieën niet meer is in te halen. Bedrijven die AI-native concurrenten het hoofd willen bieden, hebben naast investeringen in AI ook sterke datastructuren, governance en flexibele werknemers nodig.

Kosten koppelen aan waarde

Voor 2029 verwacht Gartner dat zestig procent van de organisaties die AI inzetten een aparte functie inricht die de totale kosten van AI koppelt aan de gecreëerde waarde of winst. Doordat het gebruik van agentic AI toeneemt, wordt het beheersen van tokenverbruik een groeiende prioriteit, terwijl het steeds lastiger wordt om uitgaven te koppelen aan concrete bedrijfswaarde.

Realtime kostenbeheer

Gartner voorspelt dat in 2028 zestig procent van de Global 500-bedrijven kostenbeheersing voor AI direct inbouwt op het moment van gebruik, waarmee de aanpak verschuift van achteraf rapporteren naar realtime bijsturen. Organisaties zullen zich daarbij steeds meer richten op de kosten per taak en de efficiëntie van tokengebruik om marges te bewaken.

CIO verantwoordelijk voor bewijsvoering

Ten slotte verwacht Gartner dat in 2030 tachtig procent van de Global 500-bedrijven de CIO of Chief AI Officer contractueel aanwijst als verantwoordelijke voor het bewaren van bewijsmateriaal over AI-beslissingen. Naarmate AI een grotere rol speelt in bedrijfskritische processen, groeit de druk om toezicht en transparantie te waarborgen, wat de rol van technologieleiders bij AI-verantwoording verder uitbreidt.