← Alle indlæg

· AI

Apples sundhedsundersøgelse viser, hvorfor AI på nettet kræver omtanke

Når AI møder sundhed, er et velformuleret svar ikke nok. Det afgørende er, hvordan man indsamler oplysninger, viser usikkerhed og hjælper mennesker videre.

Apple har lanceret en app, der skal undersøge, hvordan folk bruger AI til sundhed. Det er et aktuelt eksempel på, at AI ikke længere kun handler om at skrive tekst eller finde rundt på nettet. Den bliver også en del af situationer, hvor mennesker søger hjælp til noget personligt og vigtigt.

For dem, der bygger websites og digitale tjenester, begynder opgaven længe før selve AI-svaret. Brugeren skal forstå, hvad tjenesten kan hjælpe med, hvilke oplysninger den bruger, og hvor grænsen går. I sundhedssammenhæng er den forklaring en del af produktet, ikke en tekst, man kan gemme væk i vilkårene.

En undersøgelse af brugen kan give indsigt i, hvad folk faktisk spørger om, og hvordan de reagerer på svarene. Men et mønster i brugen fortæller ikke i sig selv, om et svar er rigtigt, eller om det hjalp. Den forskel skal afspejles i både målingerne og den måde, resultater senere bliver præsenteret på.

I en konkret brugerrejse kan en person begynde med et enkelt spørgsmål og ende med at dele følsomme oplysninger. Derfor bør designet gøre det tydeligt, hvad der bliver gemt, hvem der kan se det, og hvordan man fortsætter uden at afgive mere end nødvendigt. Det skal være let at standse, rette eller fjerne oplysninger igen.

Selve svaret bør også have en tydelig form. Korte afsnit, almindelige ord og en klar vej til relevant hjælp er ofte mere værd end en lang, overbevisende forklaring. Når AI er usikker, skal grænsen være synlig, så brugeren ikke forveksler en rolig tone med sikker viden.

Mit praktiske greb er at tegne hele forløbet, før man vælger model: indgang, spørgsmål, svar, usikkerhed og næste skridt. Derefter kan man afprøve det med rigtige brugssituationer og se, hvor folk misforstår eller deler for meget. AI kan gøre en digital sundhedstjeneste mere tilgængelig, men det kræver, at indhold, grænser og brugerens kontrol bliver designet sammen.

af Kasper Bach · Studio IV