AI-model Astra bereikt kritieke drempel voor cybersecurity

Onder het zogeheten Preparedness Framework van OpenAI bereikt een AI-model het kritieke niveau wanneer het zonder menselijke tussenkomst functionele zero-day kwetsbaarheden kan opsporen en uitbuiten in beveiligde, real-world systemen. Ook het zelfstandig bedenken en uitvoeren van complexe cyberaanvallen valt onder deze definitie. Eerdere geavanceerde modellen, zoals GPT-5.6-Sol, werden na evaluatie ingeschaald op het niveau 'hoog' in plaats van 'kritiek'.

Striktere beveiligingsmaatregelen en opschorting

Hoewel de testfase nog loopt, neemt OpenAI uit voorzorg direct ingrijpende veiligheidsmaatregelen. Bepaalde interne activiteiten met Astra die nog niet voldoen aan de verhoogde veiligheidseisen zijn per direct gepauzeerd.

Daarnaast voert het bedrijf een reeks verstrengde beveiligingsprotocollen door voor de verdere ontwikkeling. Het gaat hierbij onder meer om geïsoleerde testomgevingen (sandboxes), beperkte netwerk- en tooltoegang, extra encryptie en beveiliging van de modelgewichten, en verscherpte monitoring. OpenAI maakt hierbij gebruik van universele controlemechanismen die de redeneerstappen (Chain of Thought) van het model bewaken en risicovolle acties automatisch onderbreken.

Samenwerking met overheid en veiligheidsinstituten

OpenAI benadrukt dat het transparantie richting het publiek en de veiligheidsgemeenschap essentieel vindt bij dit soort capaciteitssprongen. Het bedrijf gaat samenwerken met relevante overheidsinstanties en geselecteerde AI-veiligheidsorganisaties om de mogelijkheden en risico's van Astra uit te testen. Externe partners krijgen daarnaast specifieke beveiligingsrichtlijnen opgelegd om hoog-risico evaluaties veilig uit te voeren.

Volgens OpenAI is het doel uiteindelijk om geavanceerde cyber-capabele AI-modellen in te zetten ten dienste van verdedigers, zodat kwetsbaarheden in systemen kunnen worden opgespoord en gedicht voordat kwaadwillenden er misbruik van maken.