Toezichthouders en Justitie eisen totaalverbod op AI-uitkleedapps

De opkomst van kunstmatige intelligentie heeft geleid tot een wildgroei aan apps en websites waarmee met één druk op de knop kleding van personen op foto’s kan worden verwijderd. Hoewel de Europese Unie werkt aan wetgeving om deze praktijken aan banden te leggen, waarschuwen Nederlandse autoriteiten dat de huidige plannen niet ver genoeg gaan.

De maas in de wet: 'Toestemming'

In de huidige conceptplannen voor de Europese AI-verordening is een verbod opgenomen, maar met een cruciale uitzondering: de tools zouden toegestaan blijven wanneer de afgebeelde persoon expliciet toestemming geeft voor het vervaardigen van de naaktbeelden.

Juist die uitzondering is de toezichthouders een doorn in het oog. Volgens de Autoriteit Persoonsgegevens (AP), de ACM, het Commissariaat voor de Media, de politie en het OM staat deze clausule een structurele oplossing in de weg. "Er zijn op dit moment geen mogelijkheden om de tools zelf aan te pakken," stelt Monique Verdier, vicevoorzitter van de AP. "Het is van belang om de tools volledig te verbieden, ook in gevallen waarin de persoon toestemming zou hebben gegeven. Gebeurt dat niet, dan voegt zo’n verbod weinig toe aan de huidige, tekortschietende regelgeving."

Een instrument voor chantage

De zorgen van de autoriteiten zijn niet ongegrond. De praktijk wijst uit dat 'nudify tools' zelden voor onschuldige doeleinden worden gebruikt. De door AI gegenereerde beelden vormen een machtig wapen in de handen van kwaadwillenden. Slachtoffers worden:

• Gechanteerd of afgeperst met realistisch ogende nepbeelden.
• Gedwongen tot het sturen van écht seksueel beeldmateriaal (sextortion).
• Sociaal beschadigd door de verspreiding van de beelden op sociale media of pornosites.

Structurele aanpak ontbreekt

Uit een gezamenlijk onderzoek van de betrokken instanties blijkt dat de huidige gereedschapskist van justitie beperkt is. Op dit moment kan de politie vooral individuele daders aanpakken die de beelden maken of verspreiden. De bron van het probleem – de aanbieders van de software zelf – blijft buiten schot.

De toezichthouders willen dat de verantwoordelijkheid verschuift van het bestrijden van symptomen naar het elimineren van de technologie die dit misbruik faciliteert.

Overzicht van betrokken instanties

De weg naar Brussel

Hoewel de urgentie hoog is, blijft het onduidelijk wanneer het verbod definitief van kracht wordt. In Europa wordt momenteel nog volop onderhandeld over de exacte details en de handhavingsmechanismen van de AI-verordening.

Tot die tijd verklaren de Nederlandse instanties nauw te blijven samenwerken. Ze beloven de huidige, beperkte wettelijke kaders tot het uiterste te benutten om slachtoffers te beschermen, terwijl ze de druk op de Europese wetgever opvoeren voor een waterdicht totaalverbod.