AI-dromen: warme gevoelens of zwetend wakker worden?

Anneke: ik droom soms over AI, ik vind dat echt mega-interessant. Ik kan er echt plezier aan beleven om te ontdekken welke technologische oplossingen we ineens kunnen maken. Als IT’er in hart en nieren hou ik een beetje van die klassieke technologiepush.

Maar mag ik wel zo dromen? Technologiepush is meestal een slechte strategie. En ja, er is zoiets als security, risico’s, governance en compliance. Allemaal terecht. En toch… ik herken dat oude gevoel. Alsof het weer 1994 is en internet net opkomt. Je voelt dat het groot gaat worden, maar je hebt geen idee welke kant het op gaat, en je weet ook nog niet welke risico’s er allemaal aan vast zitten.

En de AI-investeringsgolf versnelt opnieuw, wat mij sterkt in deze gedachte. In hun artikel ‘The Macro Implications of the AI Capex Boom’ voorspelt Bridgewater dat de capaciteit van datacenters in 2028 twee keer zo groot is als nu. Reuters verwacht - ook met een verwijzing naar de Bridgewater-analyse - dat Alphabet, Amazon, Meta en Microsoft in 2026 samen rond de $650 miljard investeren in AI-infrastructuur, tegen circa $410 miljard in 2025.

Hoe is dat voor jou, Valentijn? In 1994 was jij nog niet bezig met internetstrategieën, maar nu zit je midden in deze versnelling. Hoe beleef jij dit?

Valentijn: In 1994 kroop ik net rond op deze wereldbol. En zelfs voor mij lijkt de techniek alsmaar sneller te gaan. Een week vakantie zorgt er al voor dat ik een nieuwe ontwikkeling mis!

Eigenlijk doet het twee dingen met me. Enerzijds zijn de mogelijkheden eindeloos. Zo kun je eindelijk snel die integratie maken en worden dingen die je in je strategie hebt staan heel snel tastbaar. En ook als IT-er kun je lekker vibe coden en anderen hiermee inspireren of makkelijker duidelijk maken wat je nou eigenlijk echt bedoelt.

Anderzijds maak ik me zorgen over de potentiële bubbel, de energiecrisis, fake news en maatschappelijke consequenties – zoals dat veel jobs nu wellicht kunnen worden gedownsized. Zo zat ik laatst bij een pitch en dacht ik opeens: maar voordat dit product is gekocht en geconfigureerd heb ik het zelf al weten te bouwen met AI.

Van platformarchitectuur naar organisatiearchitectuur

Anneke: Wat ik interessant vind, is dat je echt anders moet leren denken. Waar je bij ‘klassieke’ IT nadenkt over platformarchitectuur, denk je nu steeds vaker in agents: software die niet volledig is uitgeprogrammeerd, maar waaraan je taken kunt geven, die zich daarop aanpast, en die ook onderling kan samenwerken.

We hebben natuurlijk eerder de shift naar microservices gehad - ook het opsplitsen van je systeemlandschap. Maar dit is anders: minder op het ontwerpen van een technisch platform, meer op het ontwerpen van een organisatie. Grappig genoeg is dat geen nieuw idee: Conway’s Law beschrijft al decennia dat systemen vaak de communicatie- en samenwerkingsstructuur van organisaties kopiëren, dat zal met AI ook wel weer zo zijn.

Alleen draaien we het nu bijna om. Als ik nadenk over oplossingen met AI, merk ik dat de technische oplossing zélf bijna een soort organisatie wordt, met eigen ‘rollen, overdrachten en interacties. En of we het nou leuk vinden of niet: door hun kracht gaan AI-agents de manier van werken van mensen in de organisatie beïnvloeden.

Misschien moeten we het denken over Target Operating Models, waar grote consultancybedrijven zo’n fan van zijn om een reorganisatie te structureren, uitbreiden naar operating models - waarin mensen en agents samenwerken. Tot nu toe optimaliseerden we processen voor mensen en pasten we IT daarop aan. Maar als agents een volwaardige rol krijgen in een organisatie, worden ze onderdeel van deze processen. Dan voeren ze daarin stappen uit en controleren andere agents of mensen. Dan moeten we opnieuw gaan nadenken hoe we verantwoordelijkheden verdelen, of kunnen agents die rol ook oppakken? En hoe bouw je een cultuur in zo’n organisatie? Kan je die dan gewoon aan een soort model spec van je AI-oplossing meegeven? Zou wel makkelijk zijn, maar ik kan me niet voorstellen dat het werkt.

Maar dat is wel precies waar het spannend wordt. Agents vóelen als collega’s, maar zijn het niet. Ze hebben geen gevoel, geen geweten, geen context buiten wat jij en anderen organiseren. Dus als we dit ‘organisatiearchitectuur’ noemen, moeten we ook durven spreken over leiderschap, rollen, checks en balances. In gewone organisaties noemen we dat governance.

Valentijn: ik zie ook een enorme verandering. Zo ben ik met een team met een multi-agent system bezig. Wij zijn hierin de broker tussen het bedrijf en de klant. Waarbij we proberen nu nog zo dicht mogelijk te blijven bij het huidige business proces.

Alleen: je ziet bij het implementatievraagstuk al gelijk dat het ook de business processen op (korte) termijn gaat veranderen - en dat is spannend.

Ik denk zelf graag in beeldspraken. Zo zie ik een toekomst waarbij we straks de agents zelf hun werk laten doen in een agent-mesh (een IT-architectuur die een netwerk van gespecialiseerde, autonome AI-agenten verbindt). Als je dit vergelijkt met een autonetwerk, kan elke auto zelf kiezen waar die heen gaat, en zal het weggetjes en snelwegen gebruiken. De kunst is dat we de juiste routeborden moeten ophangen en moeten monitoren, zoals politie en Rijkswaterstaat ook doen.

Dit vraagt om een nieuwe skillset, en verandert fundamenteel ons werk. Een Target Operating Model daarvoor opstellen is echt een uitdaging en dat lijkt me eerlijk gezegd niet de oplossing. Ken je bijvoorbeeld die olifantenpaadjes? Van die processen die binnen een operatie soms al jarenlang bestaan en die helemaal niet door consultants bedacht zijn, maar gewoon door mensen in de organisatie zelf die praktisch nadenken.

Ik denk niet dat we processen moeten ontwerpen en proberen uit te voeren. We moeten binnen bedrijven vooral openstaan voor de komende veranderingen en flexibel bijsturen. Dat zal betekenen dat we echt een omslag krijgen in hoe we werken, wat wellicht disruptief kan zijn voor onze (corporate) samenleving.

Dromen zonder gevaren te negeren

Anneke: Als we ‘dromen met AI’ zeggen, moet er eigenlijk altijd een tweede zin achteraan: ‘met mensen in de lead’. AI is niet neutraal. Het kan bias versterken, privacy schenden, intellectueel eigendom raken én onbedoeld onveilig gedrag introduceren in je systemen.

Ik merk dat veel organisaties nu één van twee fouten maken. Ze gaan te snel, zonder spelregels, en nemen daarmee te veel risico’s. Of ze gaan te langzaam, omdat ze wachten op perfect beleid, en missen intussen de leerervaring.

In Europa zet de EU AI Act duidelijke kaders neer voor risicocategorieën, transparantie en verplichtingen, met een gefaseerde invoering. Of dat genoeg is moet blijken.

Valentijn: dit vraagt veel van werknemers/-gevers en van de politiek. Het is tot op zekere hoogte ook goed mogelijk om agents niet zomaar overal toegang toe te geven. Toch moet je versneld meer aandacht geven aan een vorm van pen/agent-testing om je bedrijf constant in de gaten te houden. Helemaal zonder risico is het allemaal nite. Maar wachten op het juiste moment is net zo goed een risico. Immers is stilstand achteruitgang.

Droomhygiëne

Anneke: Ik denk dat ‘droomhygiëne’ een talent wordt. Klinkt gek, maar ik bedoel dit: als ik met nieuwe technologie dromen waarmaak, maak ik expliciet wat het technische ontwerp is. Benoemen welke aannames ik maak, daarna checken welke data ik nodig heb en of het gebruik daarvan mogelijk is op een goede manier.

Vervolgens kijk ik bewust naar de mogelijke schaduwkant, wie er benadeeld kan worden en hoe we dat snel signaleren. Dan pas kiezen we een klein experiment dat genoeg is om te leren, zonder directe grote gevolgen. Wat proberen we op te lossen, wie helpen we daarmee, welke waarden willen we beschermen, en waar trekken we de grens als het schuurt?

Valentijn: mijn advies zou zijn om een skill of agent te maken om mee te sparren. Zorg dat deze op een veilige omgeving staat en de juiste veiligheidscontext heeft. Daarnaast laat jezelf ook checken door een ander. Bij wandklimmen heb je ook een partnercheck, zo weet je of de dingen die jij in hand hebt veilig zijn.

Droom mee

In ons vorige blog hadden we het over 'van verbeelding naar strategie', ook het thema van het Dream Festival. De wereld wordt voller van mogelijkheden, dus strategie wordt misschien wel: ‘nee’ durven zeggen.

Dat is precies waarom we het Dream Festival houden. Niet om technologie ‘uit te leggen’, maar om te oefenen met het gesprek dat ertoe doet. Als je voelt dat je organisatie méér kan dan roadmapjes afvinken en je wil leren dromen met beide voeten op de grond, dan is 16 april voor jou.

Zin om samen te dromen? Sluit aan bij het Dream Festival op 16 april.
Het NextGen Tech Leaders-initiatief is Powered bij CIO Platform Nederland.

Anneke Keller is strategisch adviseur en interim-CTO.
Valentijn Lemkes is product manager bij Alliander.