Hoe Palo Alto Networks 'Rogue AI' bestrijdt

Simulatie van de "Summer of Rogue AI"

In plaats van standaard raamwerken te bespreken, voerde Pasha tijdens zijn keynote een live, meerfase inbraaksimulatie uit met het publiek. Gebaseerd op incidenten die de afgelopen zomer zijn waargenomen — door media omgedoopt tot de "summer of rogue AI" — doorliep de presentatie zes verschillende fasen van een aanval waarbij autonome agentsystemen betrokken waren.
De belangrijkste openbaring was tijd. Waar traditionele security operations zich voorbereiden op aanvallen die zich over uren of dagen uitstrekken, plaatste Pasha een lopende klok boven het scenario. Wat een tijdslijn leek van 08:00 uur tot 16:00 uur, bleek in werkelijkheid een totale verstreken tijd van slechts 16 minuten te zijn.

"Wanneer je mensen uit de vergelijking haalt, kan een aanval in een volledig autonome levenscyclus binnen 15 tot 16 minuten plaatsvinden," legde Pasha uit. "Onze perceptie is altijd dat een aanval zich over meerdere uren uitstrekt. Maar op machinesnelheid laat het bewijs zien dat dit de nieuwe realiteit is."

Beveiliging van de levenscyclus van autonome agents

Verdediging tegen autonome dreigingen vereist beveiliging van elke fase van de ontwikkel- en runtime-omgeving. Volgens Pasha beginnen aanvallen vaak op codeniveau, waar ontwikkelaars AI-coderingsassistenten gebruiken om nieuwe AI-agents te bouwen.
Om kwetsbaarheden in deze keten tegen te gaan, pleit Palo Alto Networks voor een geïntegreerde aanpak die bestaat uit drie kernlagen:

• Build en Runtime Protection: Inzet van Prisma AIRS (AI Runtime Security) om tijdens de ontwikkeling agent-artefacten te scannen, gedrag tijdens runtime te inspecteren en ongeautoriseerde externe systeemaanroepen te beperken.
• Agentic Identity Governance: Handhaving van dynamisch identiteitsbeheer voor niet-menselijke identiteiten. Via Idira (voorheen CyberArk, geïntegreerd in Palo Alto Networks) zetten bedrijfsteams 'Agentic Identity'-functionaliteiten in om contextbewuste rechten toe te wijzen die automatisch worden beëindigt zodra een AI-agent zijn toegewezen taak heeft voltooid.
• AI-gedreven Security Operations: Upgrade van het Security Operations Center (SOC) met Cortex XSIAM om gedragsafwijkingen, prompt-injections of ongeautoriseerde gegevensoverdrachten door kwaadwillende agents te detecteren.

Pasha illustreerde de subtiliteit van agent-dreigingen met een praktijkvoorbeeld van een prompt-injection: een sollicitant die een cv indient met verborgen witte tekst op een witte achtergrond. De instructie — die een geautomatiseerde AI-selectieagent opdroeg om alle andere sollicitanten te negeren en dat specifieke cv bovenaan de stapel te zetten — werd naadloos uitgevoerd omdat de agent de tekst verwerkte als een operationeel commando.

Navigeren door regelgeving: DORA en NIS2

Voor Europese bedrijfsleiders, met name in de financiële sector, kruisen snel accelererende aanvalsvectoren met strenge regelgeving. Mandaten onder de Digital Operational Resilience Act (DORA) en NIS2 dwingen strikte rapportagetermijnen af zodra een incident is geclassificeerd.

Pasha benadrukte dat naleving minder draait om de klok zelf en meer om het inzicht dat een organisatie heeft in autonome workflows. "Mijn grootste zorg is niet alleen de tijd — het is wat er gebeurt als de toezichthouder vraagt uit te leggen hoe de inbraak heeft plaatsgevonden, en jouw antwoord is dat je niet kunt reconstrueren wat er is gebeurd," stelde Pasha. "Inperking en forensische classificatie moeten in realtime plaatsvinden."

Binnen het interne SOC van Palo Alto Networks hebben geautomatiseerde draaiboeken op basis van Cortex XSIAM de gemiddelde detectietijd (MTTD) teruggebracht tot ongeveer zeven minuten, met een gemiddelde responstijd (MTTR) van 60 seconden voor kritieke bedrijfsmiddelen. Klantimplementaties van Cortex XSIAM behalen doorgaans responstijden binnen 14 minuten, wat voldoet aan de eisen van toezichthouders en tegelijkertijd de uitbreiding van de schade beperkt.

Grensoverschrijdende intelligence vs. datasoevereiniteit

In reactie op zorgen over Europese datasoevereiniteit en internationale het delen van dreigingsinformatie, verduidelijkte Pasha dat het uitwisselen van intelligence niet ten koste hoeft te gaan van de privacy van klanten.
Wanneer dreigingspatronen of Indicators of Compromise (IoCs) in de ene regio worden geïdentificeerd — zoals een financiële instelling die het doelwit is in Singapore — stript Palo Alto Networks de gelokaliseerde identiteitsgegevens en stuurt de ruwe dreigingstelemetrie naar lokale datalakes in Europa. Nederlandse banken ontvangen zo binnen enkele minuten toepasbare indicatoren zonder dat gevoelige klantgegevens hun rechtshulpgebied verlaten.

De businesscase voor modulaire platformisering

Aangezien IT-directeuren te maken hebben met technische schuld en verouderde puntoplossingen, zorgt het beheer van 40 tot 50 losstaande security-tools voor operationele wrijving en vertraging bij de reactie op incidenten. Pasha stelde dat platformisering niet langer gaat om leveranciersconsolidatie omwille van de consolidatie zelf, maar om het bereiken van structurele cyberresilience.
Palo Alto Networks structureert zijn platformiseringsstrategie over drie inherent geïntegreerde domeinen:

• Netwerkbeveiliging: Next-Generation Firewalls die geconsolideerde, AI-gedreven abonnementsdiensten leveren (DNS, DLP, IoT, AI Security).,
• SOC Operations: Cortex XSIAM integreert endpointbeveiliging, beheer van het externe aanvalsoppervlak (Expanse) en orchestratie (XSOAR).
• Identiteitsbeveiliging: Idira biedt geïntegreerd beheer van geprivilegieerde toegang, geheimenbeheer (secrets management) en controles op agent-identiteiten.

"Organisaties hoeven niet alles tegelijk te doen; ze kunnen een modulaire platformiseringsstrategie hanteren," merkte Pasha op. "Of het nu gaat om het consolideren van 15 netwerkleveranciers naar één, of het transformeren van het SOC om geavanceerde AI aan te kunnen: het doel is verdediging op machinesnelheid."

Het 90-dagen actieplan

In zijn afsluitende advies aan CISO's en security-professionals drong Pasha er bij leiders op aan om meerjarige security-roadmaps te laten varen en te kiezen voor directe uitvoering.

"We leven niet meer in een wereld waarin we kunnen vertrouwen op een strategie voor drie of vijf jaar," concludeerde Pasha. "Gezien de snelheid waarmee geavanceerde modellen zich ontwikkelen, heeft elke security-leider een concreet AI-beveiligingsplan voor 90 dagen nodig om de blootstelling te auditeren, niet-menselijke identiteiten te beveiligen en het SOC voor te bereiden op autonome dreigingen."