NCSC waarschuwt voor hackend AI-model Mythos van Anthropic

Anthropic benadrukt dat Mythos een krachtig hulpmiddel is voor het detecteren en analyseren van kwetsbaarheden. Op dit moment is de toegang tot het model beperkt tot een selecte groep grote technologiebedrijven, wat de gevoeligheid en het potentieel van deze technologie onderstreept. Het model kan niet alleen afzonderlijke kwetsbaarheden opsporen, maar ook laten zien hoe deze in samenhang kunnen worden gebruikt om complete aanvalsketens te vormen. Dit vergroot het risico dat ogenschijnlijk onschuldige bugs, in combinatie met elkaar, ernstige aanvallen mogelijk maken.

Impact moeilijk te verifiëren

Er zijn echter weinig publieke technische details beschikbaar om de volledige impact van Mythos te verifiëren. Hoewel het aannemelijk is dat het model echte kwetsbaarheden kan identificeren, is het minder duidelijk hoe eenvoudig deze in de praktijk kunnen worden misbruikt. Verwacht wordt dat vergelijkbare capaciteiten bij andere AI-modellen snel breder beschikbaar zullen komen. Deze versnelling zal niet beperkt blijven tot een beperkt aantal partijen.

Wat betekent dit voor cybersecurity? De snelheid van zowel aanvallen als verdediging neemt toe. Verdedigers kunnen AI inzetten om kwetsbaarheden eerder te detecteren en sneller te verhelpen. Aanvallers met toegang tot vergelijkbare modellen zullen echter ook hun onderzoek, identificatie en uitbuiting van kwetsbaarheden opschalen. Dit maakt uitstel gevaarlijk. Reactietijden van dagen worden uren; weken worden dagen. Organisaties die hun patchprocessen, monitoring en incidentrespons niet versnellen, lopen een aantoonbaar hoger risico.

'Neem AI-ontwikkelingen expliciet op in securitymaatregelen'

Het Nationaal Cyber Security Centrum (NCSC) adviseert organisaties om AI-ontwikkelingen expliciet op te nemen in hun beveiligingsmaatregelen, met name op het gebied van patchmanagement. Zero-days kunnen niet worden voorkomen, maar de tijd die nodig is om kwetsbaarheden te patchen, moet worden verkort. Uitstel van dagen of weken past niet meer bij het huidige dreigingslandschap.

Daarnaast is het belangrijk om te anticiperen op aanvallen die sneller, geautomatiseerder en in grotere aantallen plaatsvinden. AI kan hierbij een rol spelen in het ondersteunen van de verdediging, bijvoorbeeld door afwijkend gedrag in netwerken te detecteren. Aanvallers gebruiken AI al om bestaande technieken te verbeteren en te automatiseren, waarbij het zoeken naar kwetsbaarheden slechts één onderdeel is. Het is daarom essentieel om de basisbeveiliging op orde te hebben en deze waar nodig aan te vullen met passende aanvullende maatregelen.