Google lanceert offensief: AI beveiligen tegen cyberdreigingen

Centraal in deze aankondiging staat CodeMender, een nieuwe AI-gestuurde agent die automatisch kwetsbaarheden in code verhelpt. CodeMender gebruikt de geavanceerde redeneervermogens van Gemini-modellen om de hoofdoorzaak van beveiligingslekken te identificeren en effectieve patches te genereren. Deze patches worden vervolgens door gespecialiseerde 'critique'-agents gevalideerd voordat een menselijke goedkeuring volgt. Dit moet het tempo van het patchen in de open-sourcegemeenschap aanzienlijk versnellen.

Daarnaast lanceert Google een nieuw, specifiek AI Vulnerability Reward Program (AI VRP). Dit programma is bedoeld om de wereldwijde beveiligingsonderzoeksgemeenschap te stimuleren om hoogwaardige AI-gerelateerde kwetsbaarheden op te sporen en te melden. Het nieuwe VRP bundelt de regels voor AI-gerelateerde misbruik- en beveiligingskwesties voor meer duidelijkheid en hogere beloningen.

Agent Risk Map

Google breidt ook zijn Secure AI Framework (SAIF) uit naar SAIF 2.0. Deze update biedt nieuwe richtlijnen en een 'Agent Risk Map' om de snel opkomende risico's van autonome AI-agents aan te pakken. Dit bouwt voort op het principe dat AI-agents ontworpen moeten zijn met duidelijke menselijke controle, beperkte bevoegdheden en volledige observeerbaarheid.

Volgens Google, dat samenwerkt met onder andere DARPA en de Coalition for Secure AI (CoSAI), is de ambitie om AI te gebruiken om het evenwicht in cybersecurity fundamenteel te doen doorslaan in het voordeel van de verdedigers.