Consumentenorganisaties willen betere bescherming van consumenten tegen AI

Aanleiding voor de oproep is een onderzoek van de Noorse consumentenorganisatie Forbrukkeradet (NCC), dat deze week is verschenen. Het rapport beschrijft de belangrijkste risico's van generatieve AI voor consumenten, onder meer op het gebied van veiligheid van privacy. Ook zet het rapport uiteen hoe generatieve AI misleiding, manipulatie, discriminatie, fraude en desinformatie kan vergroten.

'Rechten en veiligheid van consumenten in geding'

Naar aanleiding van het rapport maken consumentenorganisaties zich zorgen over de rechten en veiligheid van consumenten bij generatieve AI in zijn huidige vorm. De Europese AI Act is vooralsnog niet van kracht. Dit betekent volgens de organisaties dat toezichthouders bestaande Europese wetgeving op het gebied van gegevensbescherming, veiligheid en consumentenbescherming moeten gebruiken om te handhaven.

In Nederland pleit de Consumentenbond voor regelgeving en toezicht op het gebied van AI. De oproep is gericht aan de Autoriteit Consument & Markt (ACM), de Autoriteit Persoonsgegevens (AP) en staatssecretaris Van Huffelen (Digitalisering).

'Niet tegen AI of generatieve AI'

"AI biedt consumenten talloze mogelijkheden, dus wij zijn niet tegen AI of generatieve AI. Maar transparantie moet de basis zijn. Consumenten moeten weten wanneer ze met AI te maken hebben en waar ze verhaal kunnen halen als ze nadeel ondervinden van AI", zegt Sandra Molenaar, directeur Consumentenbond. "Daarnaast hebben we de ACM en de AP gevraagd een onderzoek in te stellen naar de risico's en schade die generatieve AI diensten opleveren voor consumenten."

Het rapport van de Noorse NCC is hier beschikbaar.