Hvem verificerer AI når AI verificerer sig selv

OpenAI offentliggjorde i denne uge hvad de kalder et gennembrud: deres AI har løst Navier-Stokes-ligningerne, et matematisk problem der har stået uløst siden 1930'erne. Der er en million dollar i præmie fra Clay Mathematics Institute til den der knækker det. Problemet er at flere matematikere allerede har set på OpenAI's påstand og kalder den direkte forkert. Ikke bare uklar eller mangelfuld - forkert.

Det er ikke første gang en virksomhed overdriver hvad deres AI kan. Men det illustrerer et grundlæggende problem vi alle står med i dag: Hvem verificerer påstandene når leverandøren selv er den der kommunikerer resultaterne? Der er ingen uafhængig instans der checker om et AI-output faktisk holder vand før det bliver til pressemeddelelse. Og når kunden er dig eller mig, er det vores ansvar at finde ud af om det vi får leveret kan bruges til noget.

Apple forsøger at løse et beslægtet problem på en anden måde. De har lanceret et system der skal bevise at et iPhone-foto ikke er AI-genereret. Det kalder de 'content credentials' - metadata der dokumenterer billedets oprindelse. Tanken er god: en kryptografisk signatur der viser at billedet kom fra et kamera, ikke fra en model. Men systemet bygger på at du stoler på Apple som den neutrale part der garanterer ægtheden.

I mit arbejde med websites og digital produktion ser jeg konsekvensen hver dag. Kunder beder om AI-genereret indhold fordi det er hurtigt og billigt. Men når jeg spørger hvem der skal verificere om teksten faktisk er korrekt, om billedet rent faktisk viser det det skal, eller om den tekniske dokumentation holder, er svaret ofte tavst. Leverandøren lover kvalitet. Kunden antager kvalitet. Ingen checker kvalitet.

Tidligere havde vi redaktører, fagfællebedømmelse, korrekturlæsere og domæneeksperter der stod mellem produktion og publicering. De strukturer er under pres fordi AI lover at gøre det hele hurtigere. Men AI kan ikke verificere sig selv. En model kan generere en tekst der lyder overbevisende, men den kan ikke fortælle dig om indholdet er sandt. Det kan kun et menneske med domæneviden - eller en uafhængig tredjepartskontrol.

Når OpenAI kan påstå at have løst et århundredgammelt problem uden at nogen uafhængig matematiker har verificeret det først, og når Apple skal bygge et helt system for at bevise at deres billeder er ægte, er vi nået til et punkt hvor troværdighed er blevet et designproblem. Det er ikke nok at levere indhold. Du skal også kunne bevise at det holder.

For mig som producent betyder det en ting: Jeg kan ikke længere overlade verifikation til leverandøren. Hver gang jeg bruger AI til tekst, billeder eller kode, er det mit ansvar at checke outputtet mod en uafhængig kilde. Det tager tid. Det koster penge. Men alternativet er at publicere noget der ligner kvalitet uden at være det. Og det opdager kunderne før eller siden.