Når din AI-feature lever kortere end en døgnflue

Google Earth fik torsdag en AI-feature der skulle hjælpe brugere med at stille spørgsmål om steder og få svar baseret på kortdata og lokale oplysninger. Fredag var featuren slukket igen. Årsagen var ifølge Google selv at funktionen kunne sprede misinformation — noget kritikere påpegede med det samme. Én dag. Det er rekordtid for en produkttilbagetrækning, selv i tech-verdenen.

Jeg har bygget features der blev skrotet efter tre måneder. Det er frustrerende, men det sker. Men én dag? Det er ikke en teknisk fiasko — det er et procesfiasko. Det betyder at ingen med beslutningskompetence har stillet de rigtige spørgsmål inden launch. Hvad kan gå galt? Hvad hvis modellen hallusinerer stednavne eller historiske fakta? Hvad hvis brugerne stoler på det?

For os der bygger websites og digitale produkter er læren klar: AI-features skal ikke bare virke — de skal også kunne forsvares offentligt. Den regel gælder ikke kun for Google. Den gælder også når vi integrerer en chatbot på kundens site, når vi bruger AI til at generere produktbeskrivelser, eller når vi lader en LLM skrive metadata. Hvis du ikke kan forklare hvad der sker når systemet tager fejl, så er du ikke klar til at shippe.

Jeg ser det samme mønster gentage sig: virksomheder launcher AI-features fordi konkurrenterne gør det, fordi investorerne forventer det, fordi det ser godt ud i en pressemeddelelse. Men de glemmer at teste edge cases. De glemmer at spørge: hvad er worst-case her? Og de glemmer at lytte til folk der faktisk bruger produktet.

Hos os hedder reglen nu: hvis en AI-feature ikke kan overleve 48 timer under realistisk brug, så går den ikke live. Det kræver at vi tester i produktionslignende miljøer. Det kræver at vi involverer brugere tidligt. Og det kræver at vi har en plan for hvad vi gør når det går galt — ikke hvis, men når.

Google har råd til at fejle hurtigt. De kan slukke en feature og køre videre. Men hvis du lancerer en AI-chatbot på en kundes website, og den begynder at opfinde facts om produkter eller priser, så mister kunden tillid — ikke bare til featuren, men til dig. Og den tillid får du ikke tilbage ved at slukke for chatbotten dagen efter.

Så næste gang du overvejer at integrere en AI-feature: spørg ikke bare om den virker. Spørg om den kan overleve kontakt med virkeligheden. Og hvis svaret er nej, så vent. Hastighed er kun en fordel hvis produktet overlever launching.