Kunstig intelligens og pseudovitenskap er en farlig kombinasjon

I en tid hvor kunstig intelligens (KI) stadig finner nye anvendelsesområder innen medisin, er det viktigere enn noensinne å opprettholde en kritisk holdning til hvordan denne teknologien blir presentert og anvendt. Dette gjelder spesielt når påstander om KIs evner til å diagnostisere sykdommer fremmes uten et solid medisinsk grunnlag. Et nylig eksempel på dette er en NTB-artikkel publisert av Dagens Medisin, hvor de rapporterer om en studie som hevder at KI kan analysere fargen på mennesketunger og identifisere sykdommer med nær 99 prosent nøyaktighet. Ved nærmere ettersyn viser det seg imidlertid at denne "forskningen" hviler på en høyst tvilsom medisinsk praksis kjent som tungediagnostikk, som er forankret i tradisjonell kinesisk medisin (TKM).

Tradisjonell kinesisk medisin: Alternativ, ikke vitenskapelig

Tradisjonell kinesisk medisin har lenge vært en omstridt praksis innen vestlig medisin, hvor mange av dens metoder, som akupunktur og tungediagnostikk, mangler vitenskapelig støtte. Tungediagnostikk, som brukes i den aktuelle studien, er basert på ideen om at tungen reflekterer tilstanden til kroppens indre organer, og at spesifikke farger og teksturer kan indikere ulike helsetilstander. Problemet er at disse diagnostiske metodene ofte er subjektive, lite spesifikke, og mangler konsistente, reproduserbare resultater når de blir testet vitenskapelig.

KI og pseudovitenskap: En farlig kombinasjon

Det som gjør denne studien spesielt problematisk, er at den kombinerer KI med tungediagnostikk, noe som gir en illusjon av vitenskapelig validitet. Studien hevder å bruke KI til å identifisere sykdommer basert på prinsipper fra TKM, inkludert begreper som "yin deficiency," som refererer til en ubalanse i kroppens yin og yang. Slike begreper er ikke anerkjent i moderne medisinsk vitenskap, noe som underminerer hele studiens legitimitet.

Videre viser en detaljert gjennomgang av studien at den lider av alvorlige metodologiske svakheter. For eksempel blir diagnosene som KI-systemet angivelig klarer å identifisere, presentert med en betydelig grad av tvetydighet. Pasienter med gul tunge kan ifølge studien ha alt fra diabetes til "heat syndrome" (en vag betegnelse fra TKM) eller lever- og gallesykdom. Dette er et klassisk eksempel på "cherry picking" – en strategi der forskere selektivt velger data som støtter deres hypoteser, mens de ignorerer data som ikke gjør det.

Forskning: KI-analyse av tungebilder kan si om du er syk

"Hedging" i alternativ medisin

En annen problematisk teknikk som benyttes i denne studien, er det som ofte kalles "hedging." Dette innebærer at diagnosene som foreslås er så brede eller vage at de kan passe til en rekke ulike sykdommer. For eksempel kan en rød tunge ifølge studien indikere alt fra hjerneslag til COVID-19, betent tunge, resistent pylori-infeksjon eller blindtarmsbetennelse. Dette gjør at "diagnosene" blir nesten meningsløse, da de ikke gir noen spesifikk eller pålitelig informasjon som kan benyttes i en klinisk setting.

Konklusjon: KI må brukes med vitenskapelig integritet

Denne studien, og artikkelen i Dagens Medisin som rapporterer om den, illustrerer farene ved å anvende KI i sammenhenger hvor det medisinske grunnlaget er svakt eller ikke-eksisterende. KI er et kraftig verktøy, men det må brukes med integritet og på grunnlag av solid, evidensbasert vitenskap. Når KI brukes til å validere pseudovitenskap som tungediagnostikk, risikerer vi å undergrave tilliten til både teknologien og medisinen.

For redaksjoner som Dagens Medisin er det avgjørende å utøve kritisk sans når man vurderer hvilke studier som bør fremheves. Å gi en plattform til studier som denne kan føre til feilinformasjon og bidra til å svekke allmennhetens forståelse av hva som faktisk utgjør god medisinsk forskning. Det er derfor viktig at slike artikler enten fjernes eller ledsages av en kritisk kommentar som setter studien i riktig kontekst.

I en verden hvor KI spiller en stadig større rolle, må vi sørge for at vi skiller mellom ekte vitenskap og pseudovitenskap – og vi må være klare til å påpeke forskjellen når vi ser den.

Ingen oppgitte interessekonflikter.

Implantat-skandalen: NPE betaler ut erstatning til pårørende