Achtergrond - EU maakt AI-watermerken verplicht, maar niet waterdicht

In dit artikel:

AI-diensten moeten hun gegenereerde tekst sinds augustus in veel gevallen voorzien van een machineleesbaar watermerk. Die verplichting volgt uit artikel 50 van de Europese AI Act en moet duidelijker maken wanneer inhoud door een systeem is gemaakt of aangepast. De regel geldt niet voor toepassingen die alleen beperkte redactionele hulp bieden, input nauwelijks veranderen of worden ingezet voor bepaalde opsporingstaken. Modellen die gebruikers lokaal draaien vallen er eveneens buiten, omdat zij niet als aanbieder van een AI-dienst worden beschouwd.

De techniek werkt niet zoals een zichtbaar merkteken. AI-systemen sturen hun woordkeuze subtiel, met behulp van een geheime sleutel, zodat bepaalde opties iets vaker worden gekozen. Een detector kan vervolgens controleren of het patroon in een voldoende lange tekst voorkomt. Google DeepMind gebruikt hiervoor SynthID, dat inmiddels in Gemini is verwerkt. Anthropic past voor Claude een vergelijkbare methode toe waarbij een eigen generator bepaalt welke synoniemen worden gekozen. OpenAI ontwikkelde voor ChatGPT textGrain. Dat systeem kijkt naar grotere tekstblokken en probeert een tekst van watermerk te voorzien zonder de inhoud ingrijpend te veranderen.

De systemen verschillen onderling en hebben daarom elk hun eigen detectiesoftware. Een controle die voor SynthID werkt, kan niet automatisch teksten van Claude of ChatGPT beoordelen. OpenAI lijkt bovendien terughoudend bij korte of zeer feitelijke antwoorden, omdat daar weinig ruimte is om de woordkeuze ongemerkt te sturen. In zulke gevallen kan het watermerk zwak zijn of ontbreken. Mistral heeft de vereiste techniek volgens de berichtgeving nog niet ingevoerd; het is onduidelijk wanneer dat wel gebeurt.

De betrouwbaarheid kent duidelijke grenzen. Voor een bruikbaar patroon is doorgaans een langere tekst nodig. Bij code, korte antwoorden of formuleringen met weinig geschikte alternatieven kunnen systemen nauwelijks een watermerk toevoegen. Detectors geven bovendien meestal slechts een waarschijnlijkheid en kunnen zowel menselijke teksten als AI-teksten verkeerd beoordelen. Daar komt bij dat watermerken niet wereldwijd en niet bij elke gebruiksvorm worden toegepast. OpenAI gebruikt de techniek bijvoorbeeld binnen de Europese Unie, terwijl toepassing via de API voorlopig optioneel is. Ook modellen als DeepSeek en Kimi hebben geen dergelijk systeem.

Een vertaling kan het patroon in veel gevallen vernietigen, omdat daarbij nieuwe woordkeuzes ontstaan. Daardoor is achteraf niet meer vast te stellen welke keuzes het oorspronkelijke model maakte. Dat maakt tekstwatermerken kwetsbaarder dan watermerken in beeld. Bij afbeeldingen kan een versleuteld ruispatroon over veel pixels worden verdeeld, waardoor het vaak herkenbaar blijft na bewerking, bijsnijden of omzetting naar een ander bestandsformaat.

Hoewel de watermerken voor mensen onzichtbaar horen te zijn, melden gebruikers geregeld dat AI-teksten sinds hun invoering minder natuurlijk klinken of opvallende woorden bevatten. Dat mogelijke kwaliteitsverlies is nog nauwelijks onafhankelijk gemeten. De watermerken vormen daarmee geen sluitend bewijs, maar volgens de Europese Commissie wel een eerste middel om transparantie over AI-gebruik te vergroten. Naarmate de handhaving van de AI Act vordert, zullen meer diensten de techniek moeten invoeren.