ChatGPT krijgt in de EU een verborgen tekstwatermerk, controle blijft beperkt

OpenAI gaat de komende weken een onzichtbaar watermerk toevoegen aan geschikte tekstuitvoer van ChatGPT en Codex in de Europese Unie. Dat meldde het maandag 5 oktober. Nederlandse en Belgische gebruikers vallen binnen die regio. De detector is aanvankelijk alleen voor goedgekeurde onderzoekers en deskundige organisaties, niet voor iedereen die een werkstuk wil controleren.

Het verschil zit in wat een controleprogramma zoekt. In plaats van achteraf alleen naar de schrijfstijl te kijken, kan het zoeken naar een signaal dat tijdens het maken van het antwoord is ingebouwd. Het technische rapport beschrijft daarvoor een geheime sleutel en een patroon in de keuze van woorden en woorddelen, de zogeheten tokens. Een lezer ziet geen stempel boven de tekst; het patroon moet statistisch worden herkend. Het rapport beschrijft de methode en haar aannames, geen sluitende vaststelling van wie een document heeft geschreven.

Herschrijven verzwakt het signaal

De eigen proef van OpenAI laat zien hoeveel invloed herschrijven op herkenning heeft.

De Europese achtergrond is concreet. Volgens de Commissie gelden de transparantieplichten van artikel 50 sinds 2 augustus 2026. Die maken onderscheid tussen het markeren door de aanbieder van een AI-systeem en het zichtbaar vermelden van AI-gebruik bij bepaalde publicaties. De vrijwillige gedragscode helpt bedrijven aan die plichten te voldoen; vrijwillig aansluiten maakt de wettelijke verplichtingen niet vrijwillig. Voor een lezer zijn een verborgen herkomstsignaal en een zichtbaar AI-label dus verschillende dingen. Een document zonder zichtbaar label kan nog steeds een markering voor software bevatten.

Een watermerk is geen publicatielabel

De wet verlangt machineleesbare markeringen die zo effectief en betrouwbaar zijn als technisch haalbaar. Er staan ook uitzonderingen in: de aanbiedersplicht geldt niet voor gewone redactiehulp die de invoer of betekenis niet wezenlijk verandert. Bij teksten die het publiek informeren over onderwerpen van algemeen belang bestaat daarnaast een uitzondering op de openbaarmakingsplicht als menselijke beoordeling of redactionele controle plaatsvindt en iemand redactioneel verantwoordelijk is. Dat is geen algemene vrijstelling voor ieder schoolverslag. Welke verplichting speelt, hangt af van de rol en het gebruik; een detectoruitslag beslist dat niet.

Google gebruikt al een vergelijkbare gedachte achter SynthID. In zijn uitleg uit mei 2024 beschrijft Google hoe het tijdens tekstgeneratie de kansen op bepaalde woorden aanpast. Volgens Google werkt dat beter bij langere, gevarieerde antwoorden dan bij een korte feitelijke vraag met nauwelijks verschillende mogelijke formuleringen. Sterk herschrijven of vertalen verlaagt de herkenning. Dat is een relevante vergelijking: OpenAI begint nu met een EU-uitrol, maar voert geen algemeen keurmerk voor alle AI-teksten in. De beperking bij weinig tekstvariatie bestaat ook bij de andere aanpak.

Voor een werkstuk blijft beoordeling nodig

Voor onderwijs weegt een verkeerde beschuldiging zwaar. Stanford-onderzoekers waarschuwden in 2023 dat zeven toen onderzochte AI-detectoren geregeld menselijke Engelse teksten van niet-moedertaalsprekers verkeerd markeerden. Dat onderzoek beoordeelde schrijfstijl; het was geen test van het nu aangekondigde textGrain. Het laat daarom niet zien hoe vaak dit nieuwe watermerk fout zal zitten. Het verklaart wel waarom een school een controleuitslag niet zomaar als bewijs van fraude moet behandelen. Voor Nederlandstalige leerlingen kun je uit dat oude Engelse onderzoek geen eigen foutpercentage afleiden. Voor een school is een controle daarmee hoogstens aanleiding voor vragen: beoordeel het werk en de werkwijze voordat je een leerling van fraude beschuldigt.