Cisco laat AI-model Claude Mythos aanvallen simuleren op AI-agents

AI Defense is sinds januari 2025 beschikbaar en volgens Cisco hebben honderden klanten er al kritieke kwetsbaarheden in AI-modellen, -applicaties en -agents mee opgespoord voordat die in productie gingen. Claude Mythos moet daar redeneervermogen aan toevoegen. Het model plant zelf welke tests het meest relevant zijn en bedenkt per systeem aanvalspaden in meerdere stappen om subtiele kwetsbaarheden te vinden. Elke testactie wordt vastgelegd voor audits. Klanten werken uitsluitend via de gestructureerde interface van AI Defense en hebben dus geen open toegang tot het model via prompts.

Beperkingen aan het gebruik van het model

Cisco legt Claude Mythos meerdere beperkingen op. Het model werkt alleen op systemen die de klant zelf heeft geregistreerd, in eigendom heeft en heeft vrijgegeven voor testen. Elke opdracht vereist authenticatie en is cryptografisch gekoppeld aan een benoemde operator binnen de organisatie. Een mens bepaalt de taak en de doelen, sessies hebben een tijdslimiet en kunnen op elk moment worden stopgezet. Daarnaast werken de controles in AI Defense samen met safeguards en monitoring op programmaniveau.

De adaptieve red teaming met Claude Mythos komt binnenkort beschikbaar voor geselecteerde organisaties. Een concrete datum noemt Cisco niet.

Kosten van agents koppelen aan resultaat

Naast de testfunctie breidt Cisco Splunk Agent Observability uit met Tokenomics. Die functie koppelt de kosten van elke AI-agent aan evaluaties van de kwaliteit en impact van het werk. Daarvoor gebruikt Cisco gebruiksdata uit Amazon Bedrock en Amazon CloudWatch. Organisaties krijgen zo in één overzicht te zien wat hun AI-uitgaven opleveren. Tokenomics verschijnt naar verwachting in december als private preview. Algemene beschikbaarheid in AWS Marketplace volgt begin 2027.

Ook introduceert Cisco de Eval-G1 Evaluation Models en The Evaluation Tuner. Met die laatste zetten teams agentic traces en feedback van experts om in eigen small language models voor evaluaties en guardrails. Volgens Cisco zijn die modellen tot 98 procent goedkoper dan een commercieel LLM en reageren ze 2,5 keer sneller dan traditionele LLM’s. De evaluatiemodellen en de Evaluation Tuner zijn vanaf deze maand algemeen beschikbaar.

Kwetsbaarheden sneller koppelen aan dreigingen

Cisco stelt dat AI de tijd tussen de bekendmaking van een kwetsbaarheid en de exploitatie ervan heeft ingekort van weken naar uren. Het bedrijf brengt daarom informatie uit Cisco IQ rechtstreeks naar securityomgevingen en geautomatiseerde workflows, onder meer in Splunk en ServiceNow. Cisco IQ koppelt kennis over kwetsbaarheden in realtime aan dreigingen op het netwerk. Het wordt volgens Cisco gebruikt door meer dan 16.000 klanten met samen bijna 20 miljoen apparaten.

"Je kunt niet opschalen wat je niet kunt beveiligen, beheren of observeren," zegt Jeetu Patel, President en Chief Product Officer van Cisco. "Door AI-runtimebescherming op frontier-niveau te combineren met supersnelle kwaliteitscontroles van agents, bouwen we aan een continue trust loop. Zo voorkomen we dat agents worden gecompromitteerd en zorgen we er tegelijk voor dat elke ingezette token meetbare businesswaarde oplevert."

"Door AI wordt de tijd die organisaties hebben om op dreigingen te reageren steeds korter, en weten waar je kwetsbaar bent heeft alleen zin als je er ook iets mee kunt," zegt Liz Centoni, EVP en Chief Customer Experience Officer bij Cisco. "Samen met onze partners en Professional Services-teams helpen we klanten om van het identificeren van risico's naar het daadwerkelijk verkleinen ervan te gaan."