Hoe AI-Agenten de software-engineeringwereld ontwrichten

Wat is een AI-agent?

In tegenstelling tot een eenvoudige AI-assistent die reageert op specifieke commando's, is een AI-agent een tool die in staat is tot autonoom handelen en besluitvorming. Volgens Herschmann wordt deze autonomie mogelijk gemaakt door een architectuur die verschillende componenten combineert:

Geheugen: Een agent heeft zowel kortetermijngeheugen (voor taken binnen een proces) als langetermijngeheugen (voor context en eerdere uitvoeringen).

Planning: Een agent kan complexe doelen opbreken in kleinere taken en de benodigde acties definiëren.

Sensing: De agent kan zijn omgeving waarnemen en analyseren, vergelijkbaar met een zelfrijdende auto die reageert op zijn omgeving.

Modellen: De agent wordt aangedreven door AI-modellen, zoals Large Language Models (LLM's), die de basis vormen voor zijn intelligentie en acties.

AI-washing

Herschmann waarschuwde dat er sprake is van veel 'AI-washing'. Niet elk geautomatiseerd proces of elke conversational assistant is een AI-agent. Een agent krijgt de autoriteit om namens de gebruiker te handelen, zoals het boeken van een vlucht en het betalen ervan, in plaats van alleen suggesties te geven. Dit betekent een fundamenteel verschuiving in vertrouwen en verantwoordelijkheid.

De impact op software-engineering

De introductie van AI-agenten zal volgens Herschmann de workflows van ontwikkelaars fundamenteel veranderen. Er ontstaan twee klassen van agenten:

1. Rol-specifieke AI-agenten: Deze zijn gespecialiseerd in één taak, zoals het automatisch genereren van documentatie of het ondersteunen van productmanagement.
2. Doel-specifieke AI-agenten: Deze zijn gericht op een breder doel, zoals het uitrollen van een nieuwe softwareversie, waarbij ze taken als code-generatie, debugging en prestatietuning overnemen.

De interactie tussen mens en AI zal veranderen in een continu proces van samenwerking. Herschmann illustreerde dit met een voorbeeld van het bouwen van een nieuwe UI-component: de ontwikkelaar definieert de eisen, de agent stelt een ontwerp voor en genereert de code, en de ontwikkelaar verfijnt en test het resultaat. Het is een iteratieve, gezamenlijke aanpak waarin de mens de supervisie behoudt.

Deze nieuwe vorm van samenwerking biedt aanzienlijke voordelen voor bedrijven:

Efficiëntieverbetering: Ontwikkelaars kunnen routinematige taken uitbesteden, waardoor de time-to-market wordt verkort.

Kwaliteitsverbetering: Agenten kunnen autonoom code debuggen en testen, wat leidt tot betrouwbaardere en veiligere software.

Datagedreven besluitvorming: Agenten kunnen enorme hoeveelheden data analyseren om inzicht te geven in gebruikersgedrag en projectstatus, wat leidt tot betere strategische beslissingen.

Risico's en aanbevelingen

Ondanks de beloftevolle voordelen zijn er ook risico's. Herschmann noemde twee belangrijke punten: de noodzaak van nieuwe vaardigheden en het mitigeren van beveiligingsrisico's.

Ontwikkelaars zullen moeten leren hoe ze effectief met AI-systemen kunnen communiceren, bijvoorbeeld door middel van 'prompt engineering'. Tegelijkertijd moeten ze zich richten op hogere, strategische taken die AI-agenten nog niet kunnen uitvoeren, zoals het begrijpen van complexe bedrijfscontext en regelgeving. Herschmann benadrukte: "AI-agenten zullen ontwikkelaars niet vervangen, maar ontwikkelaars die weten hoe ze AI moeten gebruiken, zullen degenen vervangen die dat niet doen."

Op het gebied van beveiliging vormen AI-agenten een risico door hun autonomie. Ze kunnen onbedoeld onbevoegde acties uitvoeren, datalekken veroorzaken of malware introduceren via de supply chain. Om deze risico's te beheersen, moeten organisaties duidelijke 'governance guardrails' vaststellen, inclusief juridische en ethische richtlijnen voor autonomie, aansprakelijkheid en gegevensprivacy. Het monitoren van de agenten in realtime is cruciaal, omdat menselijke supervisie niet op schaal mogelijk is.

Herschmann adviseerde om te beginnen met een kleinschalige pilot die zich richt op één specifieke fase van de software-engineeringlevenscyclus. Zo kunnen bedrijven de technologie in een gecontroleerde omgeving testen en de bedrijfsimpact meten, zonder de veiligheid van de hele organisatie in gevaar te brengen.

Door: Witold Kepinski