Generative Artificial Intelligence (AI): WHO gefur út nýjar leiðbeiningar um stjórnun LMMs

WHO hefur gefið út nýjar leiðbeiningar um siðferði og stjórnarhætti stórra fjölmótalíkana (LMMs) fyrir viðeigandi notkun þeirra til að efla og vernda heilsu íbúa. LMMs er tegund ört vaxandi kynslóðar gervigreind (AI) tækni sem hefur fimm breið forrit fyrir heilsu in 

1. Greining og klínísk umönnun, svo sem að svara skriflegum fyrirspurnum sjúklinga; 

2. Sjúklingastýrð notkun, svo sem til að rannsaka einkenni og meðferð; 

3. Skrifstofu- og stjórnunarstörf, svo sem að skrá og taka saman heimsóknir sjúklinga innan rafrænna sjúkraskráa; 

4. Fræðsla í læknisfræði og hjúkrunarfræði, þar með talið að veita nemendum líkt eftir fundum sjúklinga, og; 

5. Vísindarannsóknir og lyfjaþróun, þar á meðal til að greina ný efnasambönd. 

Hins vegar er hætta á að þessi forrit í heilsugæslunni gefi rangar, ónákvæmar, hlutdrægar eða ófullnægjandi fullyrðingar, sem gætu skaðað fólk sem notar slíkar upplýsingar við að taka heilsuákvarðanir. Ennfremur getur LMM verið þjálfað á gögnum sem eru af lélegum gæðum eða hlutdræg, hvort sem það er eftir kynþætti, þjóðerni, uppruna, kyni, kynvitund eða aldri. Það eru líka víðtækari áhættur fyrir heilbrigðiskerfi, svo sem aðgengi og hagkvæmni þeirra LMMs sem standa sig best. LMMs geta einnig ýtt undir „sjálfvirkni hlutdrægni“ hjá heilbrigðisstarfsfólki og sjúklingum, þar sem gleymst er að villur sem annars hefðu verið greindar eða erfiðar ákvarðanir eru óviðeigandi framseldar til LMM. LMMs, eins og aðrar tegundir af AI, eru einnig viðkvæmir fyrir netöryggisáhættum sem gætu stofnað upplýsingum um sjúklinga í hættu eða áreiðanleika þessara reiknirita og veitingu heilbrigðisþjónustu í víðara horf. 

Þess vegna, til að búa til örugga og árangursríka LMMs, hefur WHO lagt fram tillögur fyrir stjórnvöld og þróunaraðila LMMs. 

Stjórnvöld bera meginábyrgð á því að setja staðla fyrir þróun og dreifingu LMMs og samþættingu þeirra og notkun í lýðheilsu- og læknisfræðilegum tilgangi. Ríkisstjórnir ættu að fjárfesta í eða útvega innviði sem ekki eru rekin í hagnaðarskyni eða opinberum innviðum, þ.mt tölvuorku og opinberum gagnasöfnum, sem eru aðgengilegir þróunaraðilum í hinu opinbera, einkageiranum og ekki í hagnaðarskyni, sem krefst þess að notendur fylgi siðferðilegum meginreglum og gildum í skipti fyrir aðgang. 

· Notaðu lög, stefnur og reglur til að tryggja að LMM og forrit sem notuð eru í heilbrigðisþjónustu og læknisfræði, óháð áhættu eða ávinningi sem tengist AI tækni, uppfylla siðferðislegar skyldur og mannréttindastaðla sem hafa til dæmis áhrif á reisn einstaklings, sjálfræði eða friðhelgi einkalífs. 

· Úthluta núverandi eða nýrri eftirlitsstofnun til að meta og samþykkja LMM og umsóknir sem ætlaðar eru til notkunar í heilbrigðisþjónustu eða læknisfræði - eftir því sem auðlindir leyfa. 

· Innleiða lögboðna endurskoðun eftir útgáfu og mat á áhrifum, þar á meðal fyrir gagnavernd og mannréttindi, af óháðum þriðju aðilum þegar LMM er notað í stórum stíl. Endurskoðun og mat á áhrifum ætti að birta 

og ætti að innihalda niðurstöður og áhrif sundurgreindar eftir tegund notenda, þar á meðal til dæmis eftir aldri, kynþætti eða fötlun. 

· LMM eru ekki aðeins hönnuð af vísindamönnum og verkfræðingum. Hugsanlegir notendur og allir beinir og óbenir hagsmunaaðilar, þar á meðal læknar, vísindamenn, heilbrigðisstarfsmenn og sjúklingar, ættu að vera virkir frá fyrstu stigum AI þróun í skipulagðri, innifalinni, gagnsærri hönnun og gefinn tækifæri til að vekja athygli á siðferðilegum álitaefnum, koma á framfæri áhyggjum og leggja fram inntak fyrir AI umsókn til skoðunar. 

LMM eru hönnuð til að framkvæma vel skilgreind verkefni með nauðsynlegri nákvæmni og áreiðanleika til að bæta getu heilbrigðiskerfa og efla hagsmuni sjúklinga. Hönnuðir ættu einnig að geta spáð fyrir um og skilið hugsanlegar afleiddar niðurstöður. 

*** 

Heimild: 

WHO 2024. Siðfræði og stjórnunarhættir gervigreindar fyrir heilsu: leiðbeiningar um stór fjölmótalíkön. Fæst kl https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***