AP: gezamenlijke keuzes nodig voor verantwoorde inzet generatieve AI

Generatieve artificiële intelligentie (AI) is niet meer weg te denken uit de samenleving. Het potentieel om bij te dragen aan economische en maatschappelijke welvaart is groot. Generatieve AI is mogelijk doordat modellen worden getraind met een duizelingwekkende hoeveelheid informatie. Daarnaast worden deze systemen extra gevoed door mensen die tijdens het gebruik ervan persoonsgegevens invoeren. Veel modellen voor generatieve AI hebben daardoor vermoedelijk een onrechtmatige ontstaansgeschiedenis.

Verantwoord vooruit

Zowel de maatschappelijke beloften als risico’s van generatieve AI zijn groot. Dit brengt dilemma’s mee voor regulering en voor toezicht. Grondrechten en publieke waarden moeten daarom leidend zijn. Als samenleving kunnen we actief sturen door voorwaarden te scheppen voor verantwoorde generatieve AI. Innovatiemogelijkheden en effectieve regulering kunnen op deze manier samengaan.

Dit toekomstbeeld staat centraal in Verantwoord vooruit: AP-visie op generatieve AI. De AP legt deze visie de komende periode ter consultatie voor. De visie is een richtinggevend perspectief voor wat er nodig is om als samenleving generatieve AI verantwoord te benutten.

AP-voorzitter Aleid Wolfsen: "De mogelijkheden van generatieve AI blijven verrassen. De technologie kan veel goeds brengen, maar net zo goed zorgen baren. Bovendien gaat generatieve AI hand in hand met massale gegevensopslag. Het is essentieel dat de bescherming van persoonsgegevens ook bij de inzet van generatieve AI op orde is. En dat we als samenleving grip hebben op de technologie, om grondrechten en publieke waarden te beschermen. Gegeven de snelle technologische ontwikkelingen is achteraf corrigeren niet voldoende. Met deze visie laat de AP zien dat de ontwikkeling en inzet van generatieve AI veilig en verantwoord mogelijk is."

Toekomstscenario: waarden aan het werk

De AP verkent in deze visie 4 toekomstscenario’s voor 2030. Hierbij kijkt de AP naar de mogelijke ontwikkeling van technologie en Europese regulering. De AP streeft naar het scenario 'Waarden aan het werk'. Om daar te komen benoemt de AP een aantal noodzakelijke uitgangspunten op maatschappelijk niveau. Zoals meer Europese digitale autonomie, maatschappelijke weerbaarheid, democratische sturing, een goed functionerende markt en het vermogen om door de AI-keten heen te corrigeren.

Aanvullend ziet de AP voor dit scenario uitgangspunten op het niveau van individuele AI-modellen en -systemen. Zoals wanneer ontwikkelaars en gebruikers transparant zijn, risico’s in kaart brengen en afwegen, heldere doelen formuleren en controle hebben over de omgeving waar het AI-systeem draait en de data die verwerkt worden. Door deze maatregelen te treffen kunnen organisaties voldoen aan relevante wetgeving, waaronder de AVG, de AI-verordening en eventuele sectorale wetgeving.

AI-modellen voor algemene doeleinden

Deze visie gaat over breed inzetbare AI-modellen die allerlei vormen van output genereren, en de systemen en applicaties waarvan die modellen onderdeel zijn. Bijvoorbeeld als chatbot, beeld- of videogenerator of als onderdeel van een zoekmachine. Generatieve AI-modellen kunnen als fundament dienen voor allerlei doeleinden. Zulke 'foundation models' of 'general purpose AI-models' vallen in deze visie onder de noemer generatieve AI.

AVG-randvoorwaarden voor generatieve AI

De AP ziet zowel mogelijkheden als uitdagingen voor de rechtmatige ontwikkeling en inzet van generatieve AI. Daarom publiceert de AP tegelijkertijd AVG-randvoorwaarden voor generatieve AI. Ook hierbij nodigt de AP organisaties uit om feedback te geven op deze voorlopige versie. De AP verwerkt de reacties in de definitieve versie.

Volgens de AP schiet de totstandkoming van de meeste foundationmodellen qua rechtmatigheid tot op heden tekort vanwege (bijzondere) persoonsgegevens in de trainingsdata en de wijze waarop deze zijn verzameld. De EDPB stelde echter vast dat de inzet van deze foundationmodellen door Nederlandse en Europese partijen niet bij voorbaat onrechtmatig is.

Stappen AP

De technologische ontwikkelingen op het gebied van generatieve AI gaan razendsnel. Ontwikkelaars en organisaties die generatieve AI inzetten, moeten de risico’s voor eindgebruikers op het netvlies hebben. Met de visie en AVG-randvoorwaarden geeft de AP meer duidelijkheid voor organisaties.

Naast deze consultatiedocumenten zet de AP de komende tijd concrete stappen om tot het voorkeursscenario 'Waarden aan het werk' te komen. In Europees verband draagt de AP bij aan normering van de technologie.

Ook start de AP met een loket voor generatieve AI, waar ontwikkelaars en gebruikers vragen en aandachtspunten kunnen delen met de AP. Dit helpt de AP om een vinger aan de pols te houden bij de grootste aandachtspunten die spelen bij organisaties. De AP gaat de komende periode in gesprek over de visie en de AVG-randvoorwaarden en haalt input op tijdens bijeenkomsten.