Neurochirurg z Kramárov testuje na sále pomoc AI. Aké má skúsenosti a čoho sa obáva
Neurochirurg Andrej Šteňo z Neurochirurgickej kliniky Lekárskej fakulty Univerzity Komenského a Univerzitnej nemocnice Bratislava na Kramároch sa pri operáciách mozgových nádorov venuje intraoperačnému ultrazvuku. Jeho pracovisko spolupracuje na klinickom testovaní systému umelej inteligencie, ktorý tieto obrazy pomáha čítať.
„Umelá inteligencia pri operácii, samozrejme, nedržala skalpel, pinzetu ani odsávačku,“ hovorí Šteňo. Systém, ktorý vyvinul španielsky lekár Santiago Cepeda a ktorý bol úspešne použitý aj na Slovensku, pomáha interpretovať ultrazvukový obraz počas odstraňovania nádoru. Ten je ťažko čitateľný, pretože ho skresľujú artefakty. Nádor môžu napodobniť alebo ho naopak prekryť.
V niektorých hraničných prípadoch podľa Šteňa systém precízne rozlíšil skutočný zvyšok nádoru od artefaktu. Avšak je ho ešte treba dotrénovať a pri operácii sa spoliehal predovšetkým na vlastné skúsenosti a vlastné oči. Rozumné využitie si predstavuje ako druhý názor: „Pre mňa osobne je to podobné, ako keby vedľa mňa stál ďalší kolega, ktorý by mi povedal: ‚Vieš čo, pozri sa na to ešte raz, tu sa mi to nezdá. Skontroluj si to. Ja ti to ukážem, ale právna zodpovednosť je plne na tebe a musíš si to vedieť interpretovať sám.‘“
Efekt GPS
Práve tu vidí najväčšie riziko. „Ak sa neurobia zásadné opatrenia, skôr či neskôr to naberie rovnaký trend ako pri GPS v autách. Lekári sa začnú na model spoliehať už len preto, že zistia, aká nízka je jeho omylnosť. A úplne prirodzene zlenivejú. Ak vám 90 ráz poradí dobre, poľavíte v ostražitosti.“
Nespochybňuje, že stroj bude raz presnejší. „Otázka teda neznie, či bude AI analyzátor niekedy lepší ako človek. Smerujeme k tomu, že s takmer úplnou istotou lepší bude.“ Pýta sa však, ako bude lekár, ktorý sa nenaučí čítať obraz sám, schopný takúto AI kontrolovať.
Sám používa intraoperačný ultrazvuk rutinne od roku 2010. Model umelej inteligencie dostal na porovnanie až po pätnástich rokoch tvrdého drilu. „Je však veľkou otázkou, či chceme dopustiť, aby sme tu o dve generácie mali lekárov, ktorí vôbec nebudú rozumieť intraoperačnej sonografii. A na to ja sám v sebe odpoveď naozaj nemám.“
Mozog ako sval
Obavy neurochirurga z AI presahujú medicínu. „Mozog – hoci ide o neporovnateľne komplikovanejší orgán – funguje v tomto smere podobne ako sval,“ hovorí. Bez náročnej kognitívnej práce podľa neho ochabuje, a preto by uvítal, keby sa v Európe na túto tému začala široká odborná celospoločenská debata.
Strach z technológie to však nie je. „AI nevnímam ako nejakého temného strašiaka, mám pred ňou len nesmierne hlboký a podľa mňa oprávnený rešpekt.“
Celý rozhovor s Andrejom Šteňom nájdete v knihe AI: Vaša nová superschopnosť. Autori Filip Hanker, Ján Trangel a Maroš Žofčin v nej hovoria so 17 odborníkmi z medicíny, vedy, vzdelávania, kybernetickej bezpečnosti, geopolitiky či psychológie. V knihe sa čitateľ dozvie aj to, ako sa systém AI učil na približne 1 440 snímkach a prečo dáta pri operácii neodchádzajú do cloudu ani na internet, ako sa neurochirurg sám roky po večeroch učil čítať ultrazvuk a porovnával ho s magnetickou rezonanciou, kto nesie zodpovednosť, keď sa AI pri operácii pomýli, čo by sa podľa neho malo zmeniť vo vzdelávaní mladých lekárov a prečo by uvítal v Európe širokú debatu o tom, čo s naším myslením robí umelá inteligencia.
