OpenAI geeft ChatGPT-teksten in EU standaard onzichtbaar watermerk

In dit artikel:

OpenAI gaat door het bedrijf gegenereerde teksten in de Europese Unie standaard voorzien van het onzichtbare watermerk textGrain. Buiten de EU is de functie niet automatisch ingeschakeld, maar kunnen ontwikkelaars haar via de API activeren.

De bijbehorende detectietool kan volgens OpenAI vaak vaststellen of tekst door AI is gemaakt. Dat wordt moeilijker bij zeer korte teksten en wanneer gebruikers minstens 10 procent van de woorden aanpassen. Daarom krijgen voorlopig alleen goedgekeurde onderzoekers en gespecialiseerde organisaties toegang tot de detector, zodat de betrouwbaarheid en verantwoorde toepassingen verder kunnen worden onderzocht.

TextGrain deelt tokens, oftewel mogelijke woorden, met behulp van een geheime sleutel in groepen in. Een statistische analyse kan vervolgens verbanden tussen de woordkeuze en die sleutel herkennen, zonder dat het watermerk zichtbaar is. Een zogenoemd entropiebudget bepaalt hoeveel willekeur daarvoor wordt ingeruild.

De Europese AI-verordening schrijft voor dat synthetische inhoud, waaronder tekst, beeld en audio, machinaal herkenbaar moet worden gemarkeerd. Overtredingen kunnen leiden tot hoge boetes.