Fontys-student presenteert methode voor veilige AI bij NASA

De inzet van Generatieve AI in risicovolle sectoren zoals de medische wereld of de lucht- en ruimtevaart is tot nu toe beperkt, simpelweg omdat de systemen niet honderd procent betrouwbaar zijn. "Bedrijven met zeer dure of gevaarlijke apparatuur willen de voordelen van kunstmatige intelligentie benutten, zonder mensenlevens of de veiligheid van die apparatuur toe te vertrouwen aan een LLM dat niet betrouwbaar is," legt Kalogeropoulos uit. "Je moet kunnen controleren of AI doet wat je dénkt dat het doet."

De methode: Een panel van AI-controleurs

Binnen de onderzoeksgroep Fontys High Tech Embedded Systems ontwikkelde Kalogeropoulos, samen met docent en onderzoeker Herman Jurjus, een methode die fungeert als een dubbele veiligheidscheck voordat een AI-systeem operationeel wordt.

Het framework werkt als volgt:

Code-evaluatie: Op basis van een menselijke instructie genereert de AI eerst code. Het framework evalueert deze code en maakt een risico-analyse vanuit de perspectieven van verschillende belanghebbenden. Mensen kunnen op basis hiervan de code goed- of afkeuren.

Het AI-panel: Tegelijkertijd buigt een panel van meerdere afzonderlijke AI-systemen zich over de voorgestelde actie. Zij beoordelen vanuit diverse invalshoeken of de actie gevaarlijk is en kennen risicofactoren toe aan potentiële faalscenario's (zoals een robot die ergens tegenaan botst).

Alleen wanneer beide checks onder een vooraf ingestelde risicodrempel blijven, wordt de actie daadwerkelijk uitgevoerd. Bij de minste twijfel blokkeert het systeem de handeling en wordt er om menselijke tussenkomst gevraagd.

Van Fontys naar het Jet Propulsion Laboratory

Dit innovatieve concept bleef niet onopgemerkt. Het onderzoekspaper werd geaccepteerd voor de RE×AI-workshop (gericht op betrouwbare AI in veiligheidskritische toepassingen) als onderdeel van het NASA Formal Methods Symposium 2026. Dit congres werd op 4 mei georganiseerd door het befaamde NASA Jet Propulsion Laboratory en de University of Southern California.

"Ik was enorm vereerd," blikt Kalogeropoulos terug. "Dit is een plek waar de beste onderzoekers ter wereld samenkomen. Ik had vooraf geen hoge verwachtingen, maar ik ben trots dat mijn onderzoek een plek heeft gekregen tussen hun werk."

Serieuze interesse uit de industrie

De reacties in Los Angeles waren uitgesproken positief. Naast diepgaande technische vragen van NASA-wetenschappers over zijn experimentele methoden, toonden senior onderzoekers uit de private techsector concrete interesse. Zij onderzoeken momenteel of het framework van de Fontys-student op wereldschaal kan worden ingezet voor geautomatiseerd LLM-testen.

Voor Kalogeropoulos, die een grote passie heeft voor luchtvaart en formele verificatiemethoden, smaakt het avontuur naar meer. Wat hem betreft is zijn methode een cruciale stap om AI te transformeren van een technologisch snufje naar een onmisbaar, stabiel fundament. "Als een nieuwe technologie niet te vertrouwen is met de informatie die het geeft, is het niet meer dan een gimmick. AI kan, en moet, veel meer zijn dan dat."