Hvem har ansvar for feil med KI og maskinlæring?

ÉN AV DE store fordelene med kunstig intelligens (KI) og maskinlæring (ML) er at teknologien kan gå igjennom enorme mengder data – og gjenkjenne mønstre som det er vanskelig for mennesker å finne. Dette kan vi bruke blant annet til å stille diagnoser tidlig og å bestemme effektiv behandling av sykdommer.

Ved å gå igjennom data for diagnostikk, behandling og videre pasientforløp for store mengder av pasienter, kan algoritmene lære hvilke diagnoser som har vært riktige – og hvilke behandlinger som har vært effektive. Dette kan utvilsomt gjøre diagnostikk og behandling bedre. Men det er også noen skyggesider, som med all teknologi.

VIDEREFØRER FEIL. Algoritmene blir aldri bedre enn dataene de er trent opp på. Sykdomsklassifikasjoner endres over tid. Det samme gjør behandlinger. Dette kan villede algoritmene. Det samme kan det faktum at vi har en rekke tilfeller av overdiagnostikk og overbehandling. Ved screening og tidlig diagnostikk vet man ikke alltid om en tilstand vil utvikle seg til symptomer og sykdom, men man diagnostiserer og behandler tilstanden som om den ville ha gjort det.

For enkelte er tilstanden ufarlig og vil aldri føre til plager, men den blir klassifisert og behandlet som om den er sykdom – og dette gir inntrykk av at behandlingen har reddet liv. Dette lærer algoritmene og viderefører tidligere tiders feilklassifisering og feilbehandling i en form for kunstig konservativisme.

FORSTERKER FORSKJELLENE? Et annet problem er at der hvor det er lite data å trene opp algoritmene på, får man lite hjelp av dem. For eksempel finnes det få data om personer med sjeldne sykdommer. Det gjør KI til en teknologi som i mindre grad vil bli til nytte for en gruppe som allerede lar lav prioritet fordi det ikke er lønnsomt å utvikle behandlinger for veldig få personer. Kunstig intelligens kan derved forsterke forskjeller – også når det gjelder helse.

Et tredje problem er forståelse. Når algoritmene anbefaler en gitt diagnose eller behandling, gir den ingen forklaring på hvorfor. Algoritmen er som en «svart boks» med ukjent eller uforklarlig innhold, og vi har ikke kjennskap til dataene som den er trent på – og om de er relevante for det enkelte tilfelle. Hvordan skal jeg ta informerte valg når jeg ikke forstår hvordan en konkret anbefaling har fremkommet? Selv om man forsøker å lage forklarbare algoritmer, er transparens og forståelse ett grunnleggende problem med KI. Dette forklaringsproblemet peker på et fjerde problem: ansvar.

ANSVARSPROBLEMET. Hvem har ansvaret for en beslutning tatt på et grunnlag som man ikke helt forstår? Er det pasienten, helsepersonell, algoritmemakerne eller ingen? Når fremtidige teknologier – eller enda mer intelligente algoritmer – kan avsløre at vi har behandlet feil: Hvem har ansvaret for feilene?

Ansvarsproblemet blir viktig å håndtere, for vi kan ikke klage til algoritmene over feil som har blitt begått. Samtidig som kunstig intelligens og maskinlæring gir oss fantastiske nye muligheter, får vi altså også noen grunnleggende utfordringer. KI kan bidra til å videreføre tidligere feil (kunstig konservativisme), forsterke forskjeller, gjøre det vanskelig å forstå og ta valg, og å identifisere ansvar. Dette må vi ta hensyn til når vi utvikler og tar KI i bruk.

Som med all teknologi – og særlig i helsetjenesten – må vi kunne vite og vise at det virker – at det er til det beste for folks helse.

Ingen oppgitte interessekonflikter