Oratie Stefano Bromuri: de mens moet het laatste woord houden bij AI

AI heeft softwareontwikkeling drastisch veranderd. AI-copiloten en -agenten ondersteunen ontwikkelaars tijdens vrijwel de hele levenscyclus van software: van haalbaarheidsonderzoek en het formuleren van vereisten tot ontwerpvoorstellen maken, programmeren, testen en onderhouden.

Tegelijkertijd bevat software steeds vaker ook zelf AI. Deze systemen interpreteren informatie, leren van gegevens, doen aanbevelingen, plannen acties of werken samen met andere systemen. Hun gedrag wordt daardoor niet meer uitsluitend bepaald door de broncode, maar ook door data, leerprocessen, onderlinge interacties en de omgeving waarin ze functioneren.

Als een pen die over zichzelf schrijft

Met de leerstoel Software engineering en AI verbindt Stefano Bromuri deze twee richtingen, die voor een interessante wisselwerking zorgen. 'De AI-tool die helpt een softwaresysteem te ontwerpen, wordt zelf onderdeel van dat systeem.' Bromuri vergelijkt het met een pen die over zichzelf schrijft. Vandaar de titel van zijn oratie: Software Engineering and AI: How to make a pen write about itself.

Menselijke controle

'De centrale vraag in mijn onderzoek is hoe we softwaresystemen ontwerpen die redeneren, leren en zichzelf verbeteren, maar wel binnen duidelijke grenzen en onder toezicht van de mens. Daarbij kijken we naar vragen als: waar moeten we intelligentie plaatsen binnen de softwarearchitectuur? Welke informatie mag een AI-component waarnemen en welke niet? Hoe moeten verschillende AI-agenten samenwerken? Hoe kunnen we beslissingen controleren en wie is verantwoordelijk wanneer er iets misgaat?'

Bromuri is met name geïnteresseerd in representatieleren: de manier waarop een AI-systeem informatie intern ordent. 'Een systeem heeft interne representaties nodig over zijn omgeving, het probleem dat het oplost en mogelijke acties. Mijn onderzoek richt zich op de vraag hoe representaties het redeneerproces kunnen ondersteunen en hoe softwaresystemen zelfstandig onderdelen van hun eigen structuur, instructies, regels en werkprocessen kunnen verbeteren. Dat moet systematisch gebeuren met behoud van veiligheid, reproduceerbaarheid en menselijke controle.'

Meer dan een goede voorspelling

De onderzoeksvragen zijn volgens de hoogleraar urgenter dan ooit met AI-toepassingen in de gezondheidszorg, logistiek, energievoorziening, wetenschappelijke infrastructuur, publieke dienstverlening en dagelijks werk. In deze domeinen is een goede voorspelling niet voldoende. Het softwaresysteem moet betrouwbaar, begrijpelijk, veilig en controleerbaar zijn. Want AI-systemen kunnen onjuiste informatie produceren, zich onvoorspelbaar gedragen, vooroordelen versterken, gevoelige gegevens openbaren of buiten beoogde verantwoordelijkheden handelen. Soms is het ook moeilijk te achterhalen waarom een beslissing is genomen.

De inzet van meerdere samenwerkende AI-agenten lost deze problemen niet op, maar kan juist leiden tot meer fouten. Daarom moeten verantwoordelijkheden, grenzen, controles, registratie, goedkeuringsprocedures en menselijk toezicht vanaf de start van de ontwerpfase worden opgenomen en niet pas achteraf worden toegevoegd.

Kritisch blijven denken

Met zijn onderzoek wil Bromuri bijdragen aan methoden voor het ontwikkelen van krachtige AI-systemen die inzichtelijk, toetsbaar en verantwoord zijn, met behoud van menselijke zeggenschap. Die benadering werkt ook door in het onderwijs. Toekomstige software-engineers moeten volgens Bromuri leren begrijpen dat werken met AI een volwaardige technische activiteit is. 'Ze moeten AI creatief gebruiken, zonder het belang van wiskundige kennis, bewijsvoering, controleerbaarheid en kritisch denken uit het oog te verliezen.'

Bromuri wil software engineering en AI ontwikkelen tot één samenhangend vakgebied. Met als doel: 'Systemen ontwerpen die redeneren, leren en zichzelf verbeteren, terwijl ze begrijpelijk en goed controleerbaar blijven voor de mensen die ermee werken.'

Over Stefano Bromuri

Stefano Bromuri (1982, Cesena, Italië) is sinds 2025 hoogleraar Software Engineering en Artificial Intelligence bij de faculteit Bètawetenschappen. Hij begon in 2016 als universitair docent Data Analytics en werd in 2022 universitair hoofddocent. Bromuri studeerde computer engineering en ICT engineering aan de Universiteit van Bologna en promoveerde in 2009 aan Royal Holloway, University of London. Naast zijn werk bij de Open Universiteit werkt hij bij DHL Express aan toepassingen van AI en machine learning.

Praktische informatie

Stefano Bromuri spreekt zijn oratie Software Engineering and AI: How to make a pen write about itself uit op vrijdag 6 november 2026 van 16.00 tot 17.00 uur aan de Open Universiteit in Heerlen. Voorafgaand aan de oratie is er het symposium Software Engineering en AI. Aanvang 13.00 uur. De oratie is integraal te volgen via ou.nl/live. Aanmelden voor de oratie en het symposium kan via ou.nl/uitnodiging.