Europese AI Act treedt in werking: experts aan het woord over transparantie-eisen

Wat houden deze wijzigingen in voor organisaties? We spraken met verschillende experts uit de technologiewereld over hun visie op de volgende fase van de AI-wet en de verwachte impact op de ontwikkeling, toepassing en het beheer van AI binnen bedrijven.

Van AI bouwen naar AI beheersen

“Met de AI Act verschuift de aandacht van AI bouwen naar AI beheersen”, zegt Luis Blando, Chief Product & Technology Officer bij OutSystems. "Nu AI-agents steeds vaker bedrijfskritische processen ondersteunen, wordt inzicht in hun werking, besluitvorming en de momenten waarop menselijk toezicht nodig is essentieel.”

“Toch ontbreekt bij bijna twee derde van de organisaties nog altijd een centrale aanpak voor AI-governance. Een belangrijke oorzaak is dat het voldoen aan governance-eisen net zo afhankelijk is van de onderliggende IT-architectuur als van beleid. Tegelijkertijd proberen veel organisaties AI-oplossingen te bouwen op legacy-systemen die nooit zijn ontworpen om de zichtbaarheid, traceerbaarheid en controleerbaarheid te bieden die de AI Act vraagt.”

“Governance kan daarom niet achteraf als extra laag worden toegevoegd. Het moet vanaf het begin onderdeel zijn van de architectuur, zodat organisaties AI-systemen centraal kunnen beheren, monitoren en orkestreren, ook wanneer deze op grote schaal worden ingezet.”

De basis voor betrouwbare AI

"Met het inwerking treden van de AI Act wordt AI steeds meer een onderdeel van het digitale fundament waarop bedrijven dagelijks vertrouwen," zegt Bilal Ahmed, Chief AI & Data Officer bij team.blue. "Net zoals de AVG een gemeenschappelijk kader heeft gecreëerd om op een verantwoorde manier om te gaan met persoonsgegevens, legt de AI Act de basis voor betrouwbare AI in Europa."

"Voor het mkb draait het niet alleen om naleving van de wetgeving. Het gaat erom dat zij erop kunnen vertrouwen dat de AI die zij gebruiken transparant, verantwoord en geschikt is voor het beoogde doel. De AI Act zou de adoptie van AI dan ook niet moeten afremmen, maar bedrijven juist moeten stimuleren om AI bewuster in te zetten. Uiteindelijk komt succes met AI niet voort uit het omarmen van iedere nieuwe tool, maar uit het bouwen aan een betrouwbare digitale basis die bedrijven helpt zich aan te passen, zichtbaar te blijven en met vertrouwen te groeien in een door AI-gedreven economie."

Transparantie wordt essentieel

"De aankomende update van de AI Act markeert een belangrijke stap richting een betere balans tussen innovatie en veiligheid in Europa", zegt Anouck Teiller, Deputy CEO bij HarfangLab. "Nu AI steeds dieper wordt geïntegreerd in bedrijfsprocessen, is het niet langer voldoende om alleen te kijken naar wat een AI-systeem kan. Organisaties moeten ook kunnen uitleggen hoe AI wordt gebruikt, welke risico's ermee gepaard gaan en waar menselijk toezicht plaatsvindt. Dat niveau van transparantie is essentieel om vertrouwen in AI op te bouwen."

"Voor cybersecuritybedrijven is dit een logische ontwikkeling. AI speelt inmiddels een cruciale rol aan beide kanten van het cybersecuritylandschap: aanvallers gebruiken de technologie om cyberaanvallen sneller, overtuigender en geavanceerder uit te voeren, terwijl beveiligingsteams AI inzetten om dreigingen eerder te detecteren en incidenten effectiever af te handelen. AI is geen op zichzelf staande innovatie. De technologie heeft invloed op bestaande cybersecurityprocessen en moet vanaf het ontwerp worden meegenomen in beveiligingsstrategieën. AI ondersteunt zowel aanvallers als beveiligingsteams en geeft tegelijkertijd vorm aan een nieuw domein binnen cybersecurity: AI Detection and Response."

"De AI Act benadrukt dat organisaties niet alleen verantwoordelijkheid dragen voor de inzet van AI, maar ook voor het zorgvuldig integreren van AI in bestaande processen en het transparant en verantwoord beheren van deze systemen. Uiteindelijk draait betrouwbare AI om sterke governance, inzicht in hoe AI-modellen worden gebruikt en blijvend menselijk toezicht."

AI-governance als concurrentievoordeel

"Nu AI steeds verder wordt geïntegreerd in de dagelijkse bedrijfsprocessen, wordt vertrouwen net zo belangrijk als de technologie zelf", zegt Marija Nakevska, Chief Product & Technology Officer bij Pleo. "De AI Act is een belangrijke mijlpaal omdat de wet organisaties stimuleert om verder te kijken dan alleen AI-adoptie. Bedrijven moeten steeds beter begrijpen waar AI wordt ingezet, hoe beslissingen tot stand komen en waar menselijk toezicht essentieel blijft. Dat is met name belangrijk binnen finance, waar iedere geautomatiseerde handeling transparant, uitlegbaar en controleerbaar moet zijn."

"De volgende generatie AI zal steeds vaker zelfstandig taken uitvoeren namens financiële teams. Dat biedt enorme kansen om routinetaken te automatiseren, zodat finance professionals zich kunnen richten op strategische besluitvorming. Maar meer autonomie vraagt ook om sterkere governance. Organisaties die vanaf het begin investeren in transparantie, duidelijke audit trails en menselijk toezicht, zijn beter voorbereid op de AI Act, bouwen meer vertrouwen op en halen uiteindelijk meer waarde uit AI."

Hoewel de meningen uiteenlopen, zijn de experts het over één ding eens: de volgende stap in de Europese AI-wet gaat verder dan louter het voldoen aan nieuwe voorschriften. Volgens hen zullen transparantie, governance en menselijk toezicht de sleutel vormen tot een verantwoorde en succesvolle inzet van AI. Bedrijven die nu al investeren in deze aspecten, leggen niet alleen de basis voor naleving, maar bouwen ook aan het vertrouwen in AI.