OpenAI reageert op EU AI Act met watermerk voor AI-tekst

De door OpenAI ontwikkelde technologie draagt de naam textGrain. In tegenstelling tot zichtbare stempels of verborgen tekens werkt textGrain door een subtiel, onzichtbaar statistisch patroon aan te brengen in de woordkeuze van het taalmodel. Een gespecialiseerde detector kan dit patroon vervolgens analyseren om te bepalen of een passage door OpenAI is gegenereerd. Volgens interne benchmarks op het nieuwste vlaggenschipmodel Astra heeft de toevoeging van het watermerk geen significante invloed op de kwaliteit of nauwkeurigheid van de gegenereerde output.

OpenAI benadrukt dat de technologie nog in een vroeg stadium verkeert en duidelijke technische beperkingen kent. Zo blijkt uit evaluaties dat kortere fragmenten of teksten over onderwerpen met een beperkte woordkeuze, zoals wiskunde, aanzienlijk moeilijker betrouwbaar te detecteren zijn. Waar een langere passage over psychologie in het merendeel van de gevallen correct wordt herkend, daalt dat percentage bij kortere teksten of wiskundige formules sterk.

Daarnaast neemt de herkenbaarheid snel af zodra teksten handmatig worden aangepast. Bij het vervangen van slechts tien procent van de woorden door synoniemen zakte de detectiescore al aanzienlijk, en bij een aanpassing van een kwart van de woorden bleef er nog maar een fractie van het signaal over. Vanwege het risico op valse positieven en valse negatieven wordt de detectietool niet direct voor het brede publiek opengesteld. Toegang wordt op aanvraag uitsluitend verleend aan goedgekeurde onderzoekers en gespecialiseerde organisaties. OpenAI is wel van plan de textGrain-technologie op termijn als open-source software beschikbaar te stellen aan de ontwikkelaarscommunity.

Content

Het bedrijf verduidelijkt voorts dat een gedetecteerd watermerk geen uitsluitsel geeft over de intentie, het eigendom of de exacte verhouding tussen mens en machine. Het geeft aan dat een OpenAI-systeem betrokken was bij de tekst, maar niet hoeveel redactie of menselijke creativiteit er aan te pas is gekomen. Het legt evenmin auteursrecht, juridische aansprakelijkheid of eigendom vast, en het identificeert niet de individuele gebruiker of de specifieke prompt. Ook geeft het geen garantie over de inhoudelijke juistheid van de informatie. Andersom bewijst de afwezigheid van een watermerk niet dat een tekst door een mens is geschreven, omdat de tekst bewerkt, vertaald of afkomstig van een ander AI-model kan zijn.

De uitrol van tekstwatermerken vormt een aanvulling op de bestaande verificatie-instrumenten van OpenAI voor beeld en geluid, zoals C2PA Content Credentials en SynthID-watermerken. OpenAI geeft aan de regionale uitrol in de Europese Unie te gebruiken om praktijkervaring op te doen. Het beleid en de detectiemogelijkheden zullen verder worden bijgesteld op basis van maatschappelijke feedback, technologische vorderingen en de verdere uitwerking van Europese regelgeving.