'De black box weet alles. Behalve wat er mis is'

Tot het systeem uit balans raakt

Precies dat moment begint zich nu ook in onze digitale systemen te manifesteren. We hebben jarenlang keihard gewerkt om IT slimmer te maken. Microservices maakten systemen flexibel. De cloud maakte ze schaalbaar. En met AI-agents en grote taalmodellen legden we er een zenuwstelsel bovenop: systemen die niet alleen uitvoeren, maar ook waarnemen, reageren, optimaliseren en steeds vaker zelfstandig beslissingen nemen. Het werkte. Indrukwekkend goed zelfs. Tot het niet meer werkte.

De illusie van controle

Want in elk complex systeem ontstaat op een gegeven moment een soort duisternis. Afhankelijkheden stapelen zich op tot je ze niet meer kunt overzien. Kleine afwijkingen versterken elkaar, fouten verspreiden zich als een infectie. Ergens diep in het systeem ontstaat een verstoring waarvan niemand precies meer weet waar die begonnen is. We voelen dat er iets mis is. Maar wat precies? Dat blijft vaak gissen. Ironisch genoeg meten we inmiddels álles. Elke transactie, elke latency, elke foutmelding, elke resource-spike wordt vastgelegd. Onze systemen zitten vol sensoren. We hebben een digitale flight recorder gebouwd — een ICT black box die feilloos registreert wat er gebeurde. Maar zoals elke rampenonderzoeker weet: een black box vertelt je wat er is gebeurd. Hij vertelt je niet waarom. En al helemaal niet hoe je het had kunnen voorkomen.

Van meten naar begrijpen

We hebben bergen data, maar te weinig begrip. We kunnen ruis niet altijd van signaal onderscheiden. We herkennen geen beginnende “ziekte” voordat die escaleert. En als het misgaat, weten we vaak niet waar we precies moeten ingrijpen. Daarmee staan we op het punt waar meten overgaat in geneeskunde.

Een idee dat zijn tijd vooruit was

Deze gedachte is niet nieuw. Al in de jaren negentig probeerde een kleine groep visionairs grip te krijgen op de groeiende complexiteit van informatiesystemen. Als lid van een visitatiecommissie voor het technisch hoger onderwijs kwam ik in contact met Theo Lohman, gefascineerd door die groeiende complexiteit en de ‘collectieve intelligentie’ die daarmee ontstond. Later ontmoette ik ook Harm Rozie, die samen met hem het Collins-model verder ontwikkelde: een poging om orde te scheppen in chaos door betekenis centraal te stellen. Niet alleen data verzamelen, maar data begrijpen. Niet alleen systemen bouwen, maar kennis expliciet maken. Het verbinden van dode materie met levende materie. En visa versa. Een samenwerkingsmodel voor lerende netwerken. Een model dat zich richt op het first time right ontwerpen van complexe producten en processen. Een bepaalde kunst van samenwerken en co-creatie waarbij kennisontwikkeling en vooral kennisvastlegging de rode draad vormt. Zie ook mijn blog ‘Ethische ICT’ van tien jaar geleden.

Structuur aanbrengen in rollen, processen en informatie, zodat complexiteit hanteerbaar werd. Een collectief geheugen — e-memory — waarin kennis niet verloren ging, maar juist groeide en zich verbond. Het was een prachtig, krachtig idee. Misschien wel té krachtig. Te abstract. Te vroeg. De technologie was er nog niet rijp voor, de urgentie werd nog niet gevoeld, en de praktijk liep er nog niet tegenaan. Het bleef hangen als een mooi concept waar mensen respect voor hadden, maar waar bijna niemand écht mee aan de slag ging. Een samenwerkingsmodel voor lerende netwerken. Een model dat zich richt op het first time right ontwerpen van complexe producten en processen. Een bepaalde kunst van samenwerken en co-creatie waarbij kennisontwikkeling en vooral kennisvastlegging de rode draad vormt.

Waarom het nu wél kan

Achteraf is dat niet zo vreemd. De wereld waarvoor dat model bedoeld was, bestond toen nog nauwelijks. Vandaag de dag is die wereld er wél. En hoe. Onze systemen zijn vele malen complexer, genereren continu data en veranderen voortdurend. Met AI kunnen we ineens betekenis uit die bergen data halen, verbanden zien en patronen herkennen die vroeger verborgen bleven. Wat toen theorie was, wordt nu tastbare praktijk. En daarmee verschuift de centrale vraag. Niet langer: Hoe begrijpen we deze systemen? Maar: Hoe houden we ze gezond?

Systemen hebben zorg nodig

Dat is een wezenlijk ander perspectief. Begrijpen is één ding. Gezond houden is iets anders. Het vraagt om diagnostiek, om behandeling, om preventie. Het vraagt om het vermogen om niet alleen achteraf te analyseren, maar tijdens het proces bij te sturen. Om niet alleen fouten op te lossen, maar systemen robuuster en veerkrachtiger te maken. We moeten stoppen met kijken naar IT als een verzameling componenten. We moeten het gaan zien als een levend systeem. Iets dat in balans kan zijn, maar ook uit balans kan raken. Iets dat zorg nodig heeft, onderhoud, en soms een stevig ingrijpen van buitenaf.

Van smart naar healthy

Dat is de verschuiving waar we nu middenin zitten. Van Smart Systems naar Healthy Systems. De afgelopen decennia draaiden om slimmer, sneller, efficiënter, autonomer. De volgende fase gaat niet over nog slimmer worden. Die gaat over gezonder worden. Systemen die hun eigen toestand kunnen voelen. Die vroege afwijkingen herkennen voordat ze escaleren. Die zichzelf kunnen herstellen waar mogelijk, en die precies weten wanneer ze menselijke hulp nodig hebben. Systemen die niet alleen functioneren, maar zelfstandig in balans blijven.

De digitale dokter

En in die overgang ontstaat een nieuwe rol. Niet de pure developer, niet de klassieke operator, maar iemand — of iets — die ertussenin staat. Iemand die naar het geheel kijkt. Die patronen en samenhang ziet. Die symptomen herkent, diagnoses stelt en de juiste interventies uitvoert. De digitale dokter. Misschien is dit geen revolutie, maar gewoon een logisch en onvermijdelijk vervolg. Een idee dat al lang in de lucht hing, maar pas nu kan landen omdat alle puzzelstukjes er eindelijk zijn: de data, de intelligentie, de complexiteit en de groeiende noodzaak.

De tijd is rijp

Sommige ideeën hebben tijd nodig. Ze ontstaan, worden herkend, maar vallen nog niet op hun plek. Totdat de wereld er klaar voor is. Dit lijkt zo’n moment. We hebben de black box al. Nu moeten we leren wat we ermee doen. Van registreren naar begrijpen. Van begrijpen naar behandelen. Van behandelen naar voorkomen.

Daar begint de digitale geneeskunde.

Door: Hans Timmerman (foto)