Ali lahko umetna inteligenca škoduje zdravnikom?

Raziskava opozarja, da lahko uporaba tehnologije zmanjša sposobnost strokovnjakov, da sami odkrijejo anomalije.

Nekateri zdravniki po vsem svetu uporabljajo tehnologijo za postavitev diagnoz in mnoge druge stvari umetna inteligenca, vendar pri tem lahko izgubijo svoje veščine. V zadnjih letih so različne raziskave opisale številne načine, na katere so orodja umetne inteligence pomagala zdravnikom bolje opravljati svoje delo: omogočala so hitrejše postavljanje diagnoz in v nekaterih primerih pomagala natančneje napovedati, kdo je izpostavljen tveganju za zaplete.

Vendar nove raziskave kažejo, da sodelovanje z umetno inteligenco lahko ima skrito ceno.

Raziskava, objavljena v reviji Lancet Gastroenterology and Hepatology, je pokazala, da so po samo treh mesecih uporabe orodja AI, namenjenega pomoči pri odkrivanju predrakavih tvorb med kolonoskopijo, zdravniki postali bistveno slabši v samostojnem odkrivanju tvorb.

To je prvi dokaz, da uporaba orodij umetna inteligenca lahko zmanjša sposobnost zdravnika za opravljanje osnovnih nalog brez tehnologije, pojav, znan kot »dekvalifikacija« (deskilling v angleščini).

»To je dvosmeren proces,« je dejal Omer Ahmad, gastroenterolog z Univerzitetnega koledža v Londonu, ki je objavil uvodnik skupaj z raziskavo.

»AI-ju posredujemo podatke, ki vplivajo na njegove odgovore, vendar se zdi, da to vpliva tudi na naše vedenje.«Raziskava se je začela tako kot mnoge druge preizkušnje umetne inteligence v medicini. Zdravniki iz štirih endoskopskih centrov v Poljski so dobili dostop do orodja umetne inteligence, ki je med kolonoskopijo označevalo sumljive novotvorbe in jih v realnem času obkrožalo.

Številne druge velike klinične študije so pokazale, da ta tehnologija znatno izboljša stopnjo odkrivanja predrakavih tvorb s strani zdravnikov, kar je splošno priznan pokazatelj učinkovitosti dela endoskopista.

Nato so znanstveniki, v nasprotju s prejšnjimi študijami, izmerili, kaj se je zgodilo, ko orodje ni bilo v uporabi.

Tri mesece pred uvedbo tehnologije so zdravniki odkrili novotvorbe v približno 28 % kolonoskopij. Zdaj se je stopnja odkrivanja zmanjšala na približno 22 %, kar je znatno nižje od osnovne ravni.

To je bila opazovalna študija, kar pomeni, da ne more odgovoriti na vprašanje, ali je tehnologija povzročila zmanjšanje učinkovitosti. Za ta učinek obstajajo tudi druge razlage: na primer, po uvedbi orodja AI so zdravniki opravili približno dvakrat več kolonoskopij kot prej, kar lahko pomeni, da so posvetili manj pozornosti vsakemu pregledu.

Vendar so strokovnjaki izjavili, da pojav učinka diskvalifikacije ni nepričakovan. Ta pojav je dobro dokumentiran v drugih področjih: na primer, piloti opravijo posebno usposabljanje, da izboljšajo svoje spretnosti v dobi avtopilotov.

„Mislim, da bo glavno vprašanje naslednje: in kaj potem? Je to pomembno?“ je dejal Robert Wachter, direktor medicinske fakultete Kalifornijske univerze v San Franciscu in avtor knjige „Gigantski preskok: kako umetna inteligenca spreminja zdravstvo in kaj to pomeni za našo prihodnost“.

Po eni strani, je dejal Wachter, obstaja veliko neškodljivih primerov novih tehnologij, ki stare veščine naredijo zastarele. Brez izuma stetoskopov, na primer, bi bilo mnogim zdravnikom težko pregledovati srce in pljuča pacientov, kot je bilo običajno v 18. stoletju.

Ahmad pa meni, da se umetna inteligenca razlikuje v tem, da zahteva dolgoročni nadzor s strani človeka. Algoritmi se učijo za določen trenutek v času, in ko se svet okoli njih spreminja, delujejo drugače (včasih na slabše) in potrebujejo nadzor in vzdrževanje, da lahko nadaljujejo delovanje v skladu z načrtom. Včasih lahko nepričakovani dejavniki, kot so spremembe v osvetlitvi stropa, povzročijo, da bodo rezultati AI »popolnoma napačni», je dodal.

Predvideva se, da morajo zdravniki sodelovati v tem procesu, da zaščitijo paciente pred takšnimi možnostmi.

»Čeizgubim spretnosti, kako bom odkrival napake?« je vprašal Ahmad.

Tudi če bi bili instrumenti idealni, je Wahter opozoril, da je „diskvalifikacija“ lahko nevarna za paciente v trenutnem prehodnem obdobju, ko instrumenti umetne inteligence niso na voljo v vseh zdravstvenih sistemih, zdravnik, ki je navajen njihove uporabe, pa lahko od novega delodajalca prejme zahtevo, da dela brez njih.

Čeprav je izguba veščin očitna za nekoga, ki analizira podatke tisočih postopkov, je Vahter dejal, da dvomi, da bo vsak posamezni zdravnik opazil spremembo v svojih veščinah.

Majhna študija s pomočjo tehnologije sledenja pogleda je pokazala, da zdravniki pri uporabi AI ponavadi manj pozornosti posvečajo robovom slike, kar kaže, da je bil del mišičnega spomina, potrebnega za preverjanje skeniranja, moten zaradi uporabe tega orodja.

Ahmad je pojasnil, da je prav tako mogoče, da se je po nekaj mesecih odvisnosti od pomočnika pri njih atrofirala kognitivna vzdržljivost, potrebna za natančno oceno vsakega skeniranja.

V vsakem primeru strokovnjaki na področju medicinskega izobraževanja in vodje zdravstvenega varstva že preučujejo, kako se spopasti s tem učinkom. Nekateri zdravstveni sistemi, kot je UC San Diego Health, so nedavno vlagali v simulacijsko usposabljanje, ki se lahko uporabi za pomoč zdravnikom pri vadbi postopkov brez umetne inteligence, da bi ohranili svoje sposobnosti na visoki ravni, je pojasnil Chris Longhurst, klinični direktor in direktor za inovacije zdravstvenega sistema.

Adam Rodman, direktor programov umetne inteligence v medicinskem centru Beth Israel Deaconess v Bostonu, je pojasnil, da so nekatere medicinske fakultete prav tako razmišljale o prepovedi umetne inteligence v prvih letih študija.

Če lahko že trije meseci uporabe orodja AI povzročijo poslabšanje veščin izkušenih zdravnikov, ki so sodelovali v raziskavi (v povprečju so zdravniki delovali približno 27 let), kaj se bo zgodilo s študenti medicine in specializanti, ki šele začenjajo razvijati te veščine? »To vse pogosteje imenujemo »nesposobnost«,« je dejal Rodman.