WHO hefur gefið út nýjar leiðbeiningar um siðferði og stjórnarhætti stórra fjölmótalíkana (LMMs) fyrir viðeigandi notkun þeirra til að efla og vernda heilsu íbúa. LMMs er tegund ört vaxandi kynslóðar gervigreind (AI) tækni sem hefur fimm breið forrit fyrir heilsu in
1. Greining og klínísk umönnun, svo sem að svara skriflegum fyrirspurnum sjúklinga;
2. Sjúklingastýrð notkun, svo sem til að rannsaka einkenni og meðferð;
3. Skrifstofu- og stjórnunarstörf, svo sem að skrá og taka saman heimsóknir sjúklinga innan rafrænna sjúkraskráa;
4. Fræðsla í læknisfræði og hjúkrunarfræði, þar með talið að veita nemendum líkt eftir fundum sjúklinga, og;
5. Vísindarannsóknir og lyfjaþróun, þar á meðal til að greina ný efnasambönd.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Þess vegna, til að búa til örugga og árangursríka LMMs, hefur WHO lagt fram tillögur fyrir stjórnvöld og þróunaraðila LMMs.
Stjórnvöld bera meginábyrgð á því að setja staðla fyrir þróun og dreifingu LMMs og samþættingu þeirra og notkun í lýðheilsu- og læknisfræðilegum tilgangi. Ríkisstjórnir ættu að fjárfesta í eða útvega innviði sem ekki eru rekin í hagnaðarskyni eða opinberum innviðum, þ.mt tölvuorku og opinberum gagnasöfnum, sem eru aðgengilegir þróunaraðilum í hinu opinbera, einkageiranum og ekki í hagnaðarskyni, sem krefst þess að notendur fylgi siðferðilegum meginreglum og gildum í skipti fyrir aðgang.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Úthluta núverandi eða nýrri eftirlitsstofnun til að meta og samþykkja LMM og umsóknir sem ætlaðar eru til notkunar í heilbrigðisþjónustu eða læknisfræði - eftir því sem auðlindir leyfa.
· Innleiða lögboðna endurskoðun eftir útgáfu og mat á áhrifum, þar á meðal fyrir gagnavernd og mannréttindi, af óháðum þriðju aðilum þegar LMM er notað í stórum stíl. Endurskoðun og mat á áhrifum ætti að birta
og ætti að innihalda niðurstöður og áhrif sundurgreindar eftir tegund notenda, þar á meðal til dæmis eftir aldri, kynþætti eða fötlun.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM eru hönnuð til að framkvæma vel skilgreind verkefni með nauðsynlegri nákvæmni og áreiðanleika til að bæta getu heilbrigðiskerfa og efla hagsmuni sjúklinga. Hönnuðir ættu einnig að geta spáð fyrir um og skilið hugsanlegar afleiddar niðurstöður.
***
Heimild:
WHO 2024. Siðfræði og stjórnunarhættir gervigreindar fyrir heilsu: leiðbeiningar um stór fjölmótalíkön. Fæst kl https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
