Vandmærker i AI-kode virker ikke – og det burde ikke overraske nogen

Da Anthropic for nylig introducerede usynlige vandmærker i kode genereret af Claude, var det præsenteret som en måde at spore misbrug og sikre ansvarlighed. Tanken var god nok: hvis AI-genereret kode bruges i et angreb eller et brud på ophavsret, skulle vandmærket gøre det muligt at spore oprindelsen. Men inden for 24 timer havde udviklere fundet simple metoder til at fjerne eller omgå mærkerne – og delte dem åbent online.

Problemet er ikke teknisk inkompetence hos Anthropic. Det er et fundamentalt mismatch mellem hvordan sikkerhedsteknologi designes, og hvordan kode faktisk bruges i praksis. Vandmærker fungerer i statiske medier – billeder, video, lyd – fordi outputtet er en fil man distribuerer. Men kode er aldrig statisk. Den refaktoreres, optimeres, kopieres manuelt, oversættes til andre sprog, klippes i stykker og sættes sammen igen. Ethvert vandmærke skal overleve den proces – og det gør det ikke.

For os der bygger websites og digitale produkter betyder det konkret: du kan ikke stole på at AI-genereret kode er sporbar. Hvis du bruger Claude, ChatGPT eller andre modeller til at generere funktioner, kan du ikke efterfølgende bevise at du har gjort det – eller dokumentere at en tredjepart ikke har. Det gælder både indadtil i dit team og udadtil overfor kunder eller revisorer. Vandmærker giver en falsk tryghed.

Det rejser også et spørgsmål om ansvarsplacering. Hvis en AI-model genererer kode med sikkerhedsfejl eller copyright-problemer, hvem hæfter så? I dag er svaret: den der bruger koden. Men når vandmærker ikke virker, og modellerne aktivt markedsføres som produktionsværktøjer, bliver det sværere at placere ansvaret hos brugeren alene. OpenAI, Anthropic og Google sælger os værktøjer der genererer produktionsklar kode – men de leverer ingen reel sporbarhed.

I praksis betyder det at vi skal behandle AI-genereret kode som vi altid har behandlet kode fra ukendte kilder: med dyb skepsis. Code review er ikke valgfrit. Testdækning er ikke valgfrit. At forstå hvad koden gør – ikke kun at den virker – er ikke valgfrit. AI kan skrive koden hurtigere, men den kan ikke overtage ansvaret for at koden er sikker, vedligeholdelig eller lovlig.

Vandmærker kunne have været et skridt i retning af ansvarlighed. Men når de fjernes med et regex-udtryk eller en simpel refaktorering, er de reelt værdiløse. Det efterlader os i samme position som før: hvis du shipper kode, er det dit ansvar at vide hvad den gør. AI gør processen hurtigere – men den gør den ikke tryggere. Det er værd at huske næste gang en leverandør lover sporbarhed eller ansvarlighed som en feature.