I et nyt klinisk forsøg fra USA blev 50 erfarne læger tilfældigt delt op i to grupper.
I begge grupper fik lægerne hver seks patientjournaler med symptomer og sygdomshistorie fra rigtige patienter.
- Den ene gruppe af læger skulle stille den rigtige diagnose på egen hånd.
- Den anden gruppe skulle bruge sprogmodellen ChatGPT som hjælpemiddel.
ChatGPT blev desuden fodret med de samme patientjournaler og bedt om at finde ud af, hvad der var galt med patienterne.
ChatGPT vandt duellen
Forskerne var rigtig spændte på at se, hvem der hurtigst ville nå frem til den rigtige diagnose.
Det viste sig, at sprogmodellen vandt denne duel med flere længder.
- Sprogmodellen alene formåede at stille diagnoserne korrekt i 92 procent af tilfældene.
- Lægerne alene klarede at stille diagnoserne korrekt i 74 procent af tilfældene.
- De læger, der brugte sprogmodellen, endte med at diagnosticere korrekt i 76 procent af tilfældene.
Professor: Vigtige svagheder ved metoden
Michael Riegler, som er professor ved OsloMet og forsker i kunstig intelligens, har læst studiet.
Han mener, at det er et godt designet studie, men samtidig er der vigtige svagheder ved den metode, forskerne bruger i det nye studie.
Da ChatGPT selv skulle stille diagnoserne, havde sprogmodellen fået perfekt formulerede spørgsmål fra forskerne. Spørgsmålene var blevet udviklet og forbedret gennem gentagne forsøg.
De læger, der skulle bruge AI som hjælpemiddel, skulle derimod selv formulere spørgsmålene til ChatGPT. De modtog ingen særlig træning i, hvordan de bedst kommunikerer med ChatGPT.
AI kræver oplæring
Nøglen ligger altså i, hvordan AI bruges, mener Michael Riegler.
»Det er som at sammenligne en ekspert, der bruger et værktøj, med en person, der lige har fået adgang til det samme værktøj.«
Når AI-systemet præsterede bedre alene, end når lægerne brugte det, afspejler det i højere grad, hvordan spørgsmålene blev stillet, end den faktiske anvendelighed af kunstig intelligens i klinisk praksis, mener Michael Riegler.
Alle, der bruger AI i praksis, skal have en ordentlig oplæring, mener AI-eksperten. Han finder det derfor påfaldende, at studiet ikke inkluderede oplæring af lægerne.
»Det gør det svært at vurdere systemets reelle potentiale i klinisk praksis,« siger Michael Riegler.
Skal ikke erstatte klinisk praksis
Studiet viser, at teknologien har potentiale, men også, at en vellykket introduktion kræver mere end blot adgang til teknologien, påpeger professoren.
Han mener desuden, at vi endnu ikke er nået frem til et punkt, hvor læger uden videre kan tage kunstig intelligens i brug.
»Vi skal udvikle en bedre grænseflade mellem læge og AI og give dem en grundig oplæring i effektiv brug af værktøjerne.«
Kunstig intelligens skal integreres på en måde, der understøtter - ikke erstatter - klinisk vurdering, mener forskeren.
Mange læger bruger allerede ChatGPT - oplæring skal på plads
Jorunn Taulow er læge og forsker ved afdeling for almen medicin ved Universitetet i Oslo. Hun er også daglig leder af Medbric AS; en virksomhed, der udvikler AI-løsninger til læger.
Hun fremhæver ligeledes, at det er vigtigt at sikre, at AI-værktøjer fungerer som beslutningsstøtte og ikke erstatter menneskelig ekspertise.
»For at opnå dette er der behov for bedre oplæring, tilpassede grænseflader og mere forskning i, hvordan AI kan forbedre specifikke dele af den diagnostiske proces.«
Ifølge Jorunn Taulow bruger mange læger allerede ChatGPT og lignende chatbots til at rådføre sig med.
»Det betyder, at det haster med at få endnu flere afklaringer fra myndighederne på plads.«
Potentiale i AI, men lægen står med ansvaret
Jorunn Taulow fortæller, at AI-teknologi blandt andet kan hjælpe læger til at fokusere mere på deres patienter.
Hun mener, at resultaterne af det nye studie bekræfter det potentiale, der ligger i AI-teknologien.
Men hun siger også, at hun er bekymret for, at læger kan tage AI-værktøjerne i brug uden fuldt ud at forstå begrænsningerne. AI kan jo også fejltolke og lave fejl.
»Ansvaret for alle beslutninger og dokumentation forbliver hos lægen, og der kræves derfor en selvstændig vurdering gennem hele forløbet.«
»For at sikre en sikker implementering af AI i sundhedsvæsenet er grundig oplæring af sundhedspersonalet afgørende,« slutter hun.
©Forskning.no. Oversat af Stephanie Lammers-Clark. Læs den oprindelige artikel her.
