NLDigital: 'Leg de focus in de AI Act op risico's en aansprakelijkheid

De AI Act is een nieuwe Europese wet die het gebruik van AI reguleert. De reikwijdte is breed, aangezien AI in nagenoeg iedere sector inzetbaar is. De wet geldt voor zowel onderzoek, innovatie, niet-professionee gebruik en sectoren die speciale regelgeving vereisen.

Verschillende eisen voor verschillende toepassingen

De Europese wet brengt onderscheid aan tussen verschillende soorten AI. Eenvoudige AI-toepassingen hoeven bijvoorbeeld aan minder strengere eisen te voldoen dan systemen die als hoog risico worden beschouwd. Alle AI-systemen moeten voldoen aan fundamentele transparantieverplichtingen, wat een minimaal niveau van duidelijkheid en begrip moet garanderen. AI-systemen die zogeheten systeemrisico's met zich meebrengen moeten voldoen aan strengere regels.

Tegelijkertijd legt de AI Act het gebruik van bepaalde toepassingen die als schadelijk zijn bestempeld aan banden. Denk daarbij aan AI voor het manipuleren van gedrag, gezichtsherkenning in openbare ruimtes, emotieherkenning op werkplekken en in het onderwijs, en sociale kredietscores.

Toezicht en sanctiesysteem

Onderdeel van de AI Act is onder meer de komst van een Europees AI-bureau dat toezicht gaat houden op de meest complexe AI-modellen. Ook wordt een sanctiesysteem geïntroduceerd; overtreding van de AI Act kan leiden tot een boete van maximaal 35 miljoen euro of 7% van de mondiale omzet.

"We zijn blij dat er een nieuw kader ligt om de ontwikkeling van AI in goede banen te leiden. Vanuit de sector pleiten we al langer voor een zorgvuldige aanpak. Een aanpak die gericht is op het reguleren van risicovolle toepassingen van AI en het bevorderen van transparantie, verklaarbaarheid en veiligheid van AI-modellen. Hoewel de technische details nog worden uitgewerkt, pleit NLdigital voor een focus op risico’s en aansprakelijkheid, in plaats van op algoritmen. De AI Act moet innovatie stimuleren en niet afremmen. Dat is een reëel risico voor het mkb-bedrijfsleven, dat kan worden geconfronteerd met 300.000 euro aan nalevingskosten", meldt NLDigital in een reactie op de AI Act.

"We zijn ons, als vertegenwoordiger van de digitale sector in Nederland, ook bewust van de maatschappelijke discussies over AI. In 2019 publiceerden we al een eerste Ethische Code AI. In de komende tijd lanceren we daar een nieuwe versie van."

Wat zijn de consequenties van de AI Act?

De branchevereniging van de digitale sector organiseert op 1 februari 2024 een bijeenkomst waarin het ingaat op de consequenties van de nieuwe AI Act. Ook geeft het tijdens deze bijeenkomst praktische handvatten en verzamelt NLDigital input voor zijn Ethische Code AI.