Forsikringsselskaberne har kastet sig over AI - og skadeskonsulenter hader det

Jeg har aldrig haft behov for at tænke særlig meget over forsikringsskadeskonsulenter. Det gjorde jeg først, da jeg læste om hvordan AI nu erstatter dem i det amerikanske forsikringsmarked. Ikke fordi teknologien er moden. Ikke fordi kunderne ønsker det. Men fordi regnskabet ser bedre ud når menneskelige vurderinger erstattes med algoritmiske genveje.

Skadeskonsulenter - de mennesker der kommer ud og vurderer om din tagskade er dækket, om vandskaden skyldes skjulte rør eller forsømt vedligehold - bliver erstattet af AI-systemer der analyserer fotos og spytter afslag ud på samlebånd. Problemet er ikke at AI kan lave fejl. Problemet er at AI laver systematiske fejl i samme retning: afslag. Konsulenter fortæller om sager hvor skaden er åbenlys, men AI-systemet har klassificeret den som ikke-dækket på baggrund af et enkelt billede taget i forkert vinkel.

For os der laver websites og digitale services er det en påmindelse om at automatisering ikke er neutral. Når en banks låneansøgning automatiseres, når en webshops returnering bliver håndteret af en chatbot, når en kommunes klagesystem får AI-forfiltrering - så er det ikke kun et spørgsmål om effektivitet. Det er et spørgsmål om hvordan magten flyttes. Fra den person der kender konteksten til det system der kender reglen.

Jeg ser det også i vores egen branche. Kunder der spørger om vi kan automatisere deres kundeservice, deres indholdsproduktion, deres kvalitetskontrol. Og ja, det kan vi. Men spørgsmålet er ikke om det kan lade sig gøre. Spørgsmålet er om det skal lade sig gøre, og under hvilke betingelser. Når forsikringsselskabet bruger AI til at behandle din skade hurtigere, lyder det som en forbedring. Men hvis det i virkeligheden betyder at systemet er sat op til at producere flere afslag, så er hastigheden ikke en fordel - det er et våben.

Det interessante er reaktionen fra selve skadeskonsulenterne. De er ikke teknologimodstandere. De bruger allerede digitale værktøjer hver dag. Men de ved også hvad der går tabt når en algoritme overtager: muligheden for at bruge erfaring, for at se nuancer, for at sige 'det her billede viser ikke hele historien, jeg er nødt til at se det med egne øjne'. Den kompetence forsvinder ikke fordi AI er blevet bedre. Den forsvinder fordi nogen har besluttet at den er for dyr.

Når vi designer systemer der automatiserer beslutninger, har vi et ansvar for at spørge: Hvem tjener på denne automatisering? Er det brugeren der får hurtigere svar, eller er det virksomheden der får lavere lønomkostninger og flere afslag? Forskellen er ikke teknisk. Den er politisk. Og den skal træffes før systemet går i luften, ikke bagefter når skaden er sket.

Jeg håber at forsikringsbranchen lærer lektien før resten af os skal lære den på den hårde måde. For lige nu ser det ud som om automatiseringen ikke handler om at hjælpe kunden. Den handler om at gøre afslaget billigere.