AI in de Cockpit – Wie Heeft de Controle?

Van microservices naar autonome AI-agents

Zoals ik eerder beschreef in mijn blog over AI-agents als managers van microservices, gaan we van centraal beheerde software naar decentrale, zelfstandige intelligentie. AI-agents zijn digitale entiteiten die zelfstandig beslissingen nemen, taken uitvoeren en zelfs met elkaar communiceren – vergelijkbaar met digitale medewerkers die zonder menselijke tussenkomst opereren.

Deze agents zijn niet meer ‘domme’ softwaremodules die wachten op een opdracht. Ze interpreteren, overleggen, zoeken hulp of antwoorden, leren bij en maken keuzes op basis van context, data en doelen. Hiermee nemen ze steeds meer over van traditionele backoffice- en middleware-systemen. Het centrale besturingssysteem wordt vervangen door een zwerm aan agents die autonoom en adaptief samenwerken.

Maar wie zit er dan nog in de cockpit?

De onzichtbare hand van AI

Deze ontwikkeling roept fundamentele vragen op over eigenaarschap, toezicht en verantwoordelijkheid. We maken digitale systemen steeds slimmer, maar geven tegelijk de controle steeds meer uit handen. Het gevaar bestaat dat we de rol van gezagvoerder verliezen – dat we niet meer snappen wát het systeem doet, laat staan waarom.

Een goed voorbeeld is de toename van zogeheten “digitale blackouts”: grootschalige IT-storingen, niet zelden veroorzaakt door een combinatie van menselijke fouten en onbegrijpelijke interacties tussen autonome systemen. Denk aan recente incidenten in luchtvaart, spoorwegen, defensie, banken en overheden. Deze digitale uitval leidt tot reële maatschappelijke schade.

Zoals ik eerder stelde in “AI – De Nieuwe Olie van een Nieuwe Wereldorde”: AI is niet zomaar technologie – het is een strategisch machtsmiddel. Daarmee wordt grip op deze technologie een voorwaarde voor nationale veiligheid en publieke stabiliteit.

Digitale luchtwaardigheid: black box én edge box

In de luchtvaart is elk vliegtuig verplicht uitgerust met een ‘black box’ – een apparaat dat registreert wat er gebeurt tijdens de vlucht. Niet om de piloot te controleren, maar om reconstructie mogelijk te maken bij incidenten. Wat gebeurde er precies? Wie deed wat, wanneer en waarom?

Voor AI-agents zouden we iets soortgelijks moeten hebben: een digitale black box. Niet alleen voor logging of compliance, maar voor real-time toezicht en traceerbaarheid. Een cockpit waarin de menselijke gezagvoerder – of toezichthoudende AI – nog steeds overzicht heeft.

Daarom heeft DigiCorp Labs de DGMV ICT Black Box ontwikkeld: een digitale loggingmodule waarin elke agent registreert wat hij doet én waarom. Beslissingen worden voorzien van metadata, gehashed en in een gedistribueerd logboek bewaard. Zo ontstaat een vertrouwde digitale omgeving waarin menselijke én kunstmatige intelligentie veilig kunnen samenwerken.

Maar reconstructie achteraf is niet genoeg. Wat als je hele digitale systeem stilvalt? Heb je dan ‘escape-slides’ of een alternatief om nog enigszins in leven te blijven? Daarvoor is er de DGMV Edge Box: een draagbaar, zelfstandig mini-datacenter dat bij een totale uitval uit de kast kan worden gehaald om de essentiële processen van een organisatie tijdelijk voort te zetten. Denk aan financiën, belastingzaken, communicatie met aandeelhouders, klanten of medewerkers.

De Edge Box draait op batterijen, kan gevoed worden met zonnepanelen of een generator, heeft aansluitingen voor 4G, 5G of zelfs Starlink, en functioneert als noodplatform in een wereld waar verder alles plat ligt. Als hij goed geconfigureerd en ‘stand-by’ staat, fungeert hij als digitale reddingsboot die je bedrijf – minimaal – in de lucht houdt en beschermt tegen een stille, digitale dood.

Controle behouden, overleven mogelijk maken

We staan op een kruispunt. Enerzijds willen we profiteren van de kracht en schaal van AI. Anderzijds moeten we zorgen voor digitale veerkracht, transparantie en bestuurbaarheid. Dat vraagt niet om minder technologie, maar om betere architectuur – zoals ik betoogde in “De databloem” en “Digitaal versus digitaliseren”.

De cockpitmetafoor herinnert ons eraan dat autonomie geen vrijblijvendheid is. Net als in de luchtvaart moet er altijd iemand zijn die het stuur kan overnemen. AI mag dan co-piloot zijn, maar het is aan ons om te zorgen dat de vlucht veilig verloopt.

Hebben we voldoende gedaan om te voorkomen dat we bij een digitale crash niet alleen de oorzaak, maar ook ons bedrijf verliezen?

Met een Black Box kun je tenminste reconstrueren. Met een Edge Box kun je – misschien – overleven.

———————- Translated by ChatGPT ——————

Door: Hans Timmerman (foto)