Sú ľudia, ktorí tvrdia, že umelá inteligencia (artificial intelligence) bude vždy lepšia ako prirodzená hlúposť, najmä, čo sa rozhodnutí týkajúcich sa zdravia týka. Je však dôležité uvedomiť si aj riziká, ktoré umelá inteligencia predstavuje práve v oblasti zdravotnej starostlivosti.
Zoči voči pandémii COVID-19 sme svedkami bezprecedentného používania digitálnych technológií. Video konzultácie s lekármi, aby sme predišli zbytočným fyzickým stretnutiam, sa tešia veľkej obľube v celej Európe. Umelá inteligencia sa už používa na skríning populácie a hodnotenie infekčných rizík, online a mobilné aplikácie sledujú pohyb infikovaných osôb. Vírusová pandémia výrazne zrýchľuje digitalizáciu zdravotnej starostlivosti a dá sa očakávať, že už čoskoro budeme žiť vo svete, kde diagnózu dostaneme bez toho, aby sme vytiahli päty z domu. Zubná kefka bude dosť inteligentná na to, aby dokázala analyzovať naše sliny, kontaktné šošovky nám zmerajú krvný tlak a hladinu glukózy. Postačí jednoducho kontaktovať svojho virtuálneho lekára, ten si vypočuje naše zdravotné problémy a poradí nám, na základe dát získaných z inteligentných pomôcok a zariadení, ktoré na dennej báze používame.
Už dnes poznáme kódované inštrukcie (algoritmy), ktoré môžu zmeniť spôsob, akým sa staráme o svoje zdravie a liečime choroby. Umelá inteligencia sa stala najvyššou politickou prioritou a neustále posúva svoje hranice aj vďaka rastúcim verejným a súkromným investíciám. COVID-19 tiež výrazne rozvíja našu potrebu vylepšovať digitálne prostriedky a spotrebitelia z tohto trendu môžu profitovať. No vždy treba mať na pamäti aj riziká, ktoré umelá inteligencia so sebou prináša.
- Zbohom súkromie?
Za čias Hippokrata boli lekári a ďalší zdravotnícky personál viazaní mlčanlivosťou a etikou. Ale čo algoritmy? Čo sa ochrany našich osobných údajov týka, nariadenie o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov nastavuje latku vysoko – zásadu „obmedzenia účelu a minimalizácie údajov“ možno uplatniť v mnohých situáciách. No v oblasti zdravotníctva môže zájsť umelá inteligencia naozaj veľmi ďaleko – používanie vyššie spomínaných nástrojov môže viesť k nepretržitému monitorovaniu a predpovedaniu zdravotného stavu pacienta.
Umelá inteligencia môže napríklad zistiť chvenie rúk a odhaliť tak Parkinsonovu chorobu. Na jednej strane je výborné, ak sa ochorenie vďaka tomu podarí zachytiť včas. No zároveň musíme nájsť spôsoby, ako zaručiť, aby sa tieto informácie v praxi nezneužili – napríklad predajom tretím stranám (ako poisťovacie spoločnosti, ktoré podľa toho zmenia podmienky poistenia) ešte skôr, ako je pacient včas upozornený, že má vyhľadať lekára, ktorý určí podrobnú diagnózu. Je tiež dôležité zabezpečiť, aby diagnózu vždy určovali lekári.
- Neobjektívne údaje = neobjektívna liečba
Umelá inteligencia sa učí z tzv. data setov. Existuje však skutočné riziko, že sa algoritmy „naučia“ a môžu zdôrazniť základnú odchýlku, ktorá sa v nich vyskytuje. IBM Watson for Oncology je jedným z najznámejších príkladov nástrojov umelej inteligencie, ktorý dokazuje, že na kvalite údajov naozaj záleží. Spoločnosť IBM začala predávať Watson-a, ktorý mal lekárom z celého sveta odporučiť najlepší spôsob liečby rakoviny. Praktické skúsenosti však ukázali, že nástroj často vyberal nebezpečné a nesprávne odporúčania pre liečbu. Napríklad tento algoritmus do značnej miery vychádzal z údajov amerických pacientov a tamojších postupov zdravotnej starostlivosti. No v zahraničných nemocniciach nemal dobré výsledky, pretože ich prístupy neboli na začiatku kódovania algoritmu zohľadnené.
- Kto za umelú inteligenciu preberá zodpovednosť, keď sa niečo pokazí?
Sú ľudia, ktorí tvrdia, že umelá inteligencia bude vždy lepšia ako prirodzená hlúposť, najmä čo sa rozhodnutí ohľadom zdravia týka. Ak však chybu pri diagnostikovaní a liečbe vašej choroby spraví lekár, existujú pravidlá, ktoré stanovujú jeho profesionálnu i právnu zodpovednosť. Ak však napríklad robot, ktorý vykonal operáciu, urobí fatálnu chybu, naše právne systémy zatiaľ nepoznajú jasnú definíciu, kto je zaňho zodpovedný.
- Pre-diagnostikovanie
Včasná diagnóza závažných stavov je často kľúčom k uzdraveniu. Existuje stále viac dôkazov, že umelá inteligencia dokáže napríklad onkologické ochorenie nájsť skôr ako lekári. To však nemusí byť vždy dobrá vec. Pri rôznych druhoch rakoviny neexistuje žiadny „zlatý štandard“, pokiaľ ide o to, čo presne považovať za toto ochorenie. A nie všetky podozrenia na túto chorobu predstavujú hrozbu pre náš život. Všetky tieto zložitosti môžu do úvahy vziať len lekári, no nie nevyhnutne pomocou algoritmov, ktoré poskytujú len binárne odpovede „áno“ alebo „nie“. To môže viesť k pre-diagnostikovaniu a zbytočnej liečbe, ktorá poškodí naše zdravie i rozpočet.
- Emocionálna inteligencia
Byť dobrým lekárom neznamená len získať titul a dostatočné množstvo skúseností – vyžaduje si to tiež schopnosť rozumieť pocitom pacienta a dokázať sa do nich vžiť. Súčasné systémy umelej inteligencie sú však ako roboti, ktorých inteligencia môže byť vysoká, no nedokážu nám poskytnúť emocionálnu podporu. Z technického hľadiska by bolo možné nasimulovať ľudské emócie, ale do akej miery je etické zaškatuľkovať to, čo z nás robí človeka, do akéhosi súboru algoritmov?
Vo všeobecnosti môže byť umelá inteligencia v zdravotníctve cenným podporným nástrojom. No skôr, ako povolíme rozsiahle používanie algoritmov v tejto oblasti, je treba vyriešiť niekoľko právnych a etických výziev, aby sme minimalizovali potenciálne riziká. Aj tu treba mať na pamäti zásadný princíp Hippokrata – neubližujte. Ak majú byť algoritmy našimi lekármi, nemali by sme im dovoliť odchýliť sa od tohto zásadného pravidla…
Zdroj: BEUC
