Når vandmærker bliver synlige - OpenAI tvinger os til at designe for tekst-identitet

OpenAI ruller vandmærkning ud i EU fra næste uge. Ikke som noget man kan slå til - det bliver obligatorisk for alt ChatGPT-output. Teknikken er usynlig for læseren, men tilgængelig for dem der scanner efter den. EU's AI Act kræver sporbarhed, og nu får vi den første store implementering der rammer almindelige content-workflows.

For os der designer systemer med brugergenereret indhold bliver det pludselig nødvendigt at tage stilling: skal vi scanne for vandmærker? Skal vi vise dem? Skal vi behandle AI-tekst anderledes end menneskeskrevet indhold? Tidligere kunne man håbe på at GPT-detektorer ville løse problemet. Nu får vi et konkret signal at forholde os til - og det kræver design-beslutninger.

Konkret betyder det at kommentarfelter, anmeldelser, supportbeskeder og formularer skal kunne håndtere metadata om oprindelse. Hvis en bruger indsender en tekst med vandmærke, hvad gør systemet så? Afviser det indholdet? Markerer det synligt? Logger det bare i baggrunden? Det er ikke længere en hypotetisk overvejelse - det er infrastruktur der skal være på plads.

Det interessante er at vandmærket overlever copy-paste, men forsvinder ved omskrivning. Det gør det effektivt mod direkte mashup, men ikke mod bevidst omformulering. Derfor bliver det ikke en absolut sandhedsmaskine, men snarere et sporbarhedslag der giver mulighed for at tracke flow. For moderationssystemer er det guld - man kan nu faktisk se om en tsunami af kommentarer stammer fra samme prompt.

I kvalitetssikring giver det også nye muligheder. Hvis du laver en webshop hvor produktbeskrivelser skal skrives af leverandører, kan du nu automatisk flagge dem der bare har kastet varenumre ind i ChatGPT. Det handler ikke om at forbyde AI-tekst, men om at kunne stille krav til processen. Nogle gange er AI-genereret copy fint - andre gange skal det have et menneskeligt lag oveni.

Det ændrer også dynamikken for SEO og synlighed. Google har sagt at AI-indhold ikke i sig selv er et problem - men hvis vandmærker bliver en standard, kan det blive et signal søgemaskiner vælger at vægte. Ikke som en straf, men som kontekst. Akkurat som vi i dag ved at indhold fra verificerede kilder behandles anderledes end anonyme blogs. Sporbarhed bliver en del af troværdighedsmodellen.

Vandmærkning er ikke en løsning på alt, men det er første skridt mod at gøre AI-tekst til en kategori vi kan håndtere teknisk i stedet for bare at gætte. For os der bygger websites og content-systemer betyder det at vi skal designe interfaces der kan rumme denne nye identitet. Ikke som overvågning, men som arkitektur.