Security by obscurity is dood

Als obscurity verdwijnt, blijft preventie noodzakelijk, maar niet langer voldoende. We moeten systemen bouwen die bestand zijn tegen ontdekking én we moeten kunnen bewijzen wat er werkelijk is gebeurd. Dat is een fundamenteel andere manier van denken over security. De klassieke vraag was: hoe voorkom ik dat iemand binnenkomt? De nieuwe vraag wordt: als iemand binnenkomt, als een systeem een fout maakt of als een AI-agent ontspoort, kan ik dan nog vaststellen en bewijzen wat er is gebeurd?

In een wereld waarin AI-agents zelfstandig code analyseren, systemen aanpassen, data verwerken en beslissingen nemen, is security niet langer alleen een kwestie van preventie. We hebben daarnaast een onveranderbaar geheugen nodig. Een digitale zwarte doos.

Security krijgt een geheugen

In de luchtvaart is het ondenkbaar dat een vliegtuig alleen beveiligd zou zijn zolang alles goed gaat. Een cockpitrecorder en flight data recorder zijn juist bedoeld voor het moment waarop iets misgaat. Niet om de crash te voorkomen, maar om achteraf zo precies mogelijk te kunnen reconstrueren wat er gebeurde. Voor IT is dat lange tijd anders geweest. We hebben logs, monitoring, SIEM-systemen en databases. Maar veel van die registraties bevinden zich uiteindelijk binnen hetzelfde IT-landschap dat onderzocht moet worden. Een beheerder kan logs aanpassen. Een aanvaller kan sporen wissen. Een gecompromitteerd systeem kan zijn eigen geschiedenis veranderen.

Dan heb je wel logging, maar nog geen bewijs. Dat onderscheid wordt steeds belangrijker: een log is informatie; een onveranderbaar vastgelegde gebeurtenis is bewijs. Oplossingen zoals de DGMV ICT BlackBox van DigiCorp Labs zijn vanuit precies die gedachte ontwikkeld. Logging wordt onafhankelijk van de kern-IT vastgelegd, waarbij blockchain-validatie, Non-Fungible Data Entries en WORM-opslag samen een onveranderbare audit trail vormen. Logging verschuift daarmee van een operationeel hulpmiddel naar een forensische bewijslaag.

Als iedereen kan kijken, moet je kunnen bewijzen

Dat is de stap die nodig is wanneer obscurity geen bescherming meer biedt. Als iedereen kan kijken, moeten we achteraf kunnen aantonen wat er werkelijk stond, wat er veranderde en wie of wat die verandering veroorzaakte. Een Black Box registreert vooral gebeurtenissen nadat data of een actie is ontstaan. Daar zit nog een volgende laag. Want hoe weet je of de data waarmee een systeem begon überhaupt betrouwbaar was?

Daarvoor is niet alleen een zwarte doos nodig, maar ook een geboorteakte van data. Dat is de gedachte achter de Non-Fungible Data Entry, de NFD. Niet als digitaal eigendomsbewijs, maar als een cryptografisch vastgelegde geboorte van data: waar kwam deze data vandaan, wanneer ontstond zij, wie of welk systeem was erbij betrokken en onder welke omstandigheden? Op het eerste gezicht lijkt dat een administratief detail. In werkelijkheid is het een nieuwe securitylaag.

Stel dat een AI-agent vandaag een beslissing neemt op basis van een dataset. Dan is de cruciale vraag niet alleen of die beslissing is genomen, maar waar de oorspronkelijke data vandaan kwam, wat er onderweg met die data is gebeurd en welke beslissing de AI vervolgens heeft genomen.

Zonder die keten kunnen we achteraf hooguit vaststellen dat er iets is gebeurd. Met die keten kunnen we proberen te reconstrueren waarom, op basis waarvan en door wie of wat. Daarmee ontstaat iets wat we in de fysieke wereld heel normaal vinden: provenance. Een voedselproduct heeft een herkomst. Een medicijn heeft een batchnummer. Een vliegtuigonderdeel heeft een serienummer en onderhoudshistorie. Een financieel document heeft een auteur, datum en goedkeuring. Data had dat lange tijd nauwelijks. Data kon vrijwel anoniem door organisaties bewegen. AI maakt dat probleem groter.
AI maakt data genealogisch

De interessante consequentie van een NFD is dat data niet alleen een oorsprong kan hebben, maar ook een stamboom. Een dataset wordt gebruikt door een AI-model. Het model produceert nieuwe data. Die nieuwe data wordt vervolgens gebruikt door een ander model. Dat model maakt weer een nieuwe analyse. Enzovoort. Zo ontstaat een keten van bron naar verwerking, van AI-model naar afgeleide data, van nieuwe verwerking naar beslissing en uiteindelijk naar actie. Als iedere belangrijke stap aantoonbaar wordt vastgelegd, ontstaat een digitale genealogie. Dat is veel meer dan logging. Logging vertelt wat een systeem heeft gedaan. Data provenance vertelt waar de input vandaan kwam. Samen vertellen ze de geschiedenis van een digitale beslissing.
Precies daar raken de twee ideeën elkaar: het geboortebewijs van data en de zwarte doos van IT. De eerste legt vast wat er aan het begin van de keten gebeurt. De tweede legt vast wat er tijdens het proces gebeurt. Tussen die twee ontstaat iets nieuws: digitale accountability.

De AI-agent heeft een flight recorder nodig

Dit wordt vooral relevant voor AI-agents. Een klassieke applicatie doet wat een programmeur heeft bedacht. Een AI-agent krijgt steeds vaker een doel en zoekt vervolgens zelf de route naar dat doel. Hij observeert, interpreteert, beslist en handelt. Dat lijkt sterk op de OODA-loop: Observe, Orient, Decide, Act. Deze denkwijze werd ontwikkeld door de Amerikaanse luchtmachtpiloot en strateeg John Boyd en beschrijft een continue cyclus van waarnemen, oriënteren, beslissen en handelen. Juist omdat AI-agents deze cyclus steeds sneller kunnen doorlopen, wordt het moeilijker voor mensen om achteraf uit het geheugen van het systeem te reconstrueren waarom een bepaalde actie is uitgevoerd. Een AI-agent zonder onafhankelijke registratie is eigenlijk een vliegtuig zonder flight recorder. Zolang alles goed gaat, merk je het niet.

Totdat het misgaat.

Mijn eerdere stuk over de AI-black box ging precies over dat probleem: we hebben een onafhankelijke getuige nodig die AI-beslissingen en acties kan vastleggen, zodat afwijkend gedrag, incidenten en manipulatie achteraf onderzocht kunnen worden. Daaruit volgt een belangrijk nieuw principe. Een autonome AI-agent heeft niet alleen een identiteit nodig. Hij heeft ook een geschiedenis nodig. Wie heeft hem gemaakt? Met welke versie van het model werkt hij? Welke data mag hij gebruiken? Welke bevoegdheden heeft hij? Welke tools mag hij aanroepen? Welke beslissingen heeft hij genomen? Welke acties heeft hij uitgevoerd? En vooral: kan hij achteraf nog ontkennen wat hij heeft gedaan?

Van Zero Trust naar Zero Unknown

Zero Trust zegt: vertrouw niets, verifieer alles. In de wereld van autonome AI moeten we daar nog een principe aan toevoegen: Zero Unknown. Niet alleen moet een agent worden geauthenticeerd en iedere actie worden geautoriseerd. We moeten ook kunnen reconstrueren wat er is gebeurd. Identity, authorization, provenance en auditability horen bij elkaar. Een AI-agent krijgt een digitale identiteit. Zijn bevoegdheden worden vastgelegd. De data waarmee hij werkt heeft een herkomst. Zijn acties worden onafhankelijk geregistreerd. En de belangrijke gebeurtenissen worden onveranderbaar vastgelegd.

Zo ontstaat een nieuwe security-architectuur waarin identiteit, autorisatie, herkomst, handeling en bewijs onlosmakelijk met elkaar verbonden zijn. Dat is fundamenteel anders dan security by obscurity. Obscurity zegt: je weet niet hoe het werkt, dus je kunt het niet aanvallen. Deze nieuwe architectuur zegt: je mag weten hoe het werkt. Maar als je het aanvalt, kunnen we bewijzen dat je het deed, wat je deed en wat er is gebeurd. Dat is een veel sterkere positie.

De paradox van openheid en controle

Daarmee ontstaat een interessante paradox. Hoe opener systemen worden, hoe belangrijker het wordt om de geschiedenis van die systemen betrouwbaar vast te leggen. Open source maakt de code zichtbaar. AI maakt analyse van die code goedkoop. Cryptografie maakt bepaalde eigenschappen wiskundig controleerbaar. Maar geen van die drie vertelt automatisch wat er gisteren met een systeem is gebeurd. Daarvoor heb je bewijs nodig.

Onveranderbare logging en data provenance zijn geen tegengestelde beweging van open source. Ze vullen elkaar juist aan. Openheid zegt: kijk maar. Cryptografie zegt: controleer maar. Provenance zegt: dit is waar het vandaan kwam. De Black Box zegt: dit is wat er daarna gebeurde. Samen zeggen ze: je hoeft mij niet op mijn woord te geloven. Je kunt het controleren.

Van geheim naar bewijs

Daarmee komen we terug bij het begin. Security by obscurity probeerde onzekerheid te creëren bij de aanvaller. De nieuwe security-architectuur probeert juist zekerheid te creëren bij de verdediger. Niet verbergen, maar bewijzen. Niet hopen dat niemand het ontdekt, maar ervan uitgaan dat iemand het ontdekt. Niet vertrouwen op het feit dat een systeem geheim is, maar ervoor zorgen dat het systeem veilig blijft wanneer het volledig bekend is. En als er toch iets misgaat, zorgen dat de digitale geschiedenis niet kan worden uitgewist.

Dat is misschien wel de belangrijkste verschuiving die AI ons brengt. AI vernietigt niet alleen security by obscurity. AI dwingt ons om na te denken over wat er daarna komt. Het antwoord is niet nóg meer geheimhouding. Het antwoord is evidence.
Van security naar bewijsvoering

De komende jaren zullen we daarom een verschuiving zien van security als een probleem van preventie naar security als een combinatie van preventie, verificatie en bewijsvoering. De vraag is dan niet meer alleen of een systeem veilig is, maar of we kunnen aantonen dat het veilig was, welke data het heeft gebruikt, wie of wat een beslissing heeft genomen en of de registratie achteraf niet is veranderd. Als het antwoord op die vragen nee is, hebben we misschien geen securityprobleem in de klassieke betekenis. We hebben iets fundamentelers: een bewijsprobleem.

Daarmee verschuift ook de betekenis van vertrouwen. We vertrouwen straks niet meer omdat een leverancier zegt dat zijn systeem veilig is. We vertrouwen omdat de architectuur het mogelijk maakt om dat onafhankelijk te controleren. Dat is de stap van trust naar verifiable trust.

Misschien is dat wel de echte les van de Coldcard-kwetsbaarheid. Niet dat AI tegenwoordig sneller bugs kan vinden. Maar dat we een wereld binnengaan waarin alles wat verborgen is uiteindelijk gevonden kan worden, en waarin alleen datgene duurzaam waarde houdt wat aantoonbaar klopt.

Security by obscurity is dood

Security by obscurity is dood. AI heeft alleen de stekker eruit getrokken. Wat overblijft is de vraag hoe we digitale systemen bouwen waarin niet geheimhouding, maar bewijs de basis van vertrouwen vormt. De toekomst van security is niet dat niemand het systeem begrijpt. De toekomst is dat iedereen het mag begrijpen, en dat niemand de geschiedenis ervan kan vervalsen.

Door: Hans Timmerman