Gartner waarschuwt voor vier kritieke dreigingen

De Gartner ThreatScape deelt bedreigingen in in zes verschillende categorieën langs twee assen:

• differentiatie op basis van de kwaliteit en hoeveelheid beschikbare informatie (“dreigsignaal”)
• beoordeling op basis van de organisatorische capaciteiten om deze te beheersen, en of aanvallers een voordeel hebben.

Compromittering van AI-toepassingen

Aanvallers richten zich op de groeiende hoeveelheid openbaar toegankelijke en interne AI-tools van bedrijven. De aanvalsoppervlakte is uitgebreid met op maat gemaakte AI-agents, integraties van derden en toepassingen die alleen voor medewerkers bedoeld zijn. Zwakke beveiligingsmaatregelen kunnen hierdoor gevoelige gegevens of inloggegevens blootstellen.

Volgens John Watts, vicepresident en analist bij Gartner, moeten cybersecurityteams hun programma’s uitbreiden beyond traditionele softwarebescherming. “Het toepassen van Gartners trust en risk in security management (TRiSM)-raamwerk stelt cybersecurityteams in staat om AI-specifieke dreigingsmitigaties direct in het ontwikkelproces van AI-toepassingen in te bouwen”, aldus Watts.

Om deze dreiging het hoofd te bieden, adviseren experts om veilige ontwikkelcycli en threat modelling toe te passen op AI-toepassingen. Daarnaast moeten organisaties de gegevensbeveiliging versterken door de classificatie van gegevens te verbeteren, doelgebaseerde toegangcontrole (PBAC) toe te passen en runtime-monitoring te implementeren.

Identiteitsvervalsing met deepfakes

De opkomst van generatieve AI heeft de productie, kwaliteit en toegankelijkheid van deepfakes in spraak, video en afbeeldingen aanzienlijk vergroot, waarschuwt Gartner. Dit biedt aanvallers meer mogelijkheden om identiteiten te vervalsen, bijvoorbeeld door biometrische authenticatieprocessen aan te vallen, sociale technieken in realtime in te zetten tegen medewerkers of wervingsprocessen te ondermijnen.

“Aanvallers gebruiken deepfakes steeds vaker, waardoor fraude en phishing moeilijker te detecteren zijn”, aldus Watts. “Er is geen enkele cybersecuritymaatregel die volledige bescherming biedt. Organisaties moeten een combinatie toepassen van versterkte bedrijfsprocessen, bewustwording en beschikbare deepfake-detectietechnologieën.”

Cybersecurityteams moeten verder kijken dan alleen deepfake-detectie en de integriteit van realtime communicatie, biometrische authenticatie en verificatieprocessen beschermen. Gartner doet een aantal aanbevelingen:

• Bouw een robuuste mitigatiestrategie door te erkennen dat deepfake-detectie alleen onvoldoende is. Richt je in plaats daarvan op lagen van controles die per gebruikssituatie verschillen.
• Bescherm biometrische identiteitsverificatie door presentatie- en injectieaanvallen te detecteren, naast contextuele signalen.
• Beveilig online vergaderingen door conditionele toegangbeleid te implementeren, zoals sterke authenticatie voor deelnemers en analyse van vergadermetadata.

Bedreigingen in de softwaresupplychain

“De ontwikkeling van generatieve AI-aanbiedingen zal de trend van aanvallen op de softwaretoeleveringsketen via kwetsbaarheden in open-source software alleen maar versnellen”, aldus Watts. Organisaties moeten werken aan betrouwbare componentenregisters, hun CI/CD-pipelines verharden en sterke operationele anomaliedetectie en -responscapaciteiten opbouwen.

Cybersecurityteams moeten uitgebreide inventarissen van software-activa opstellen en sterke controles integreren in elke ontwikkelfase. Gartner adviseert CISO’s om:

• SBOM’s (en AIBOM’s) van alle leveranciers te eisen en elk component op risico te beoordelen met behulp van tools met actuele dreigingsinformatie voordat deze worden geïmplementeerd.
• Gecureerde repositories te gebruiken voor code van derden, containerimages en AI-modellen; takbescherming af te dwingen op repo's.
• Artefacten tijdens builds te ondertekenen, toegang met minimale rechten toe te passen op buildsystemen en runtime-activiteiten door AI-agents continu te monitoren.

Prompt-injectie

Prompt-injectie is een cybersecuritybedreiging gericht op AI-systemen, met name die gebruikmaken van grote taalmodellen (LLM’s). Aanvallers manipuleren prompts om het gedrag van het model te wijzigen, waardoor het gevoelige informatie lekt, onbevoegde acties uitvoert of controles omzeilt. Naarmate organisaties generatieve AI steeds vaker toepassen, neemt het risico op prompt-injectie toe.

Om prompt-injectie effectief tegen te gaan, adviseert Gartner cybersecurityteams een gelaagde mitigatiestrategie implementeren. Dit omvat AI-beveiligingstests om kwetsbaarheden proactief op te sporen, het opstellen van sterke systeemprompts om het gedrag van AI te sturen, en het inzetten van AI-runtimebeveiligingen die verdachte activiteiten detecteren en blokkeren. Belangrijke acties voor CISO’s zijn:

• Inputvalidatie en -sanitatie implementeren om mogelijk kwaadaardige prompts te filteren.
• Monitoring en waarschuwingen instellen voor abnormaal AI-gedrag dat kan wijzen op succesvolle prompt-injectie.
• Prompt-injectietests integreren in de levenscyclus van AI-systeemontwikkeling.
• De resultaten van de tests gebruiken om runtime-controles te verbeteren.

Meer informatie is voor klanten van Gartner beschikbaar in 'How to Respond to the 2026-2027 Threat Landscape'.