Når AI planlægger din vandretur skal du vide hvad du har tillid til

To grupper vandrere måtte reddes i løbet af samme weekend efter at have planlagt deres tur med Google Gemini. Den ene gruppe endte på en sti der var lukket på grund af skovbrand. Den anden fik en rute der krævede bjergbestigningsteknik de ikke havde. Begge grupper stolede på at AI'en vidste hvad den anbefalede.

Det er let at grine af. Men præcis den samme mekanisme er i spil når vi bruger AI til at skrive produktbeskrivelser, FAQ'er eller hjælpetekster på websites. Vi leverer indhold der ser troværdigt ud fordi det er grammatisk korrekt og fylder de rigtige felter. Men vi har ofte ikke verificeret om det faktisk passer.

Jeg har set kunder publicere åbningstider der var forkerte, produktspecifikationer der var opfundne og supportartikler der henviste til funktioner der ikke eksisterede. Alt sammen fordi en sprogmodel pænt og professionelt skrev noget der lød rigtigt. Ingen stillede spørgsmålet: hvordan ved den det her?

Forskellen mellem en vandretur og et website er ikke så stor som man skulle tro. I begge tilfælde stoler brugeren på at informationen er tjekket. Når den ikke er det opstår der problemer. På en vandretur bliver du reddet af bjergvagten. På et website mister du kunden og troværdigheden.

Løsningen er ikke at opgive AI-værktøjer. Det er at behandle outputtet som et udkast der skal faktatjekkes. Hvis du ikke har ressourcer til at verificere indholdet skal du heller ikke publicere det. Det gælder uanset om det handler om åbningstider, produktdata eller anbefalinger til brugerne.

Den største risiko ved AI-genereret indhold er ikke at det er dårligt skrevet. Det er at det ser så professionelt ud at vi glemmer at stille de samme kritiske spørgsmål som vi ville stille til en praktikants første udkast. Troværdighed handler ikke om hvor poleret teksten er. Det handler om hvorvidt den er sand.

Næste gang du bruger AI til at skrive noget der skal publiceres så stil dig selv spørgsmålet: ville jeg sende en kunde afsted med den her information uden at tjekke den? Hvis svaret er nej skal du heller ikke publicere den på dit website.