Při správném zacházení pomohou, při špatném uškodí
Roboti praktického lékaře nenahradí. Umělá inteligence ale praktikům může ušetřit čas a usnadnit chod ordinace. Pokud s ní nebudou umět zacházet, může jim práci naopak zkomplikovat. Jak AI proniká do medicíny, mění práci lékařů i péči o pacienty, a jak se na tyto změny co nejlépe připravit, budou diskutovat stovky praktiků na XLV. výroční konferenci, která startuje 4. listopadu v Karlových Varech.
„Nemůžeme ignorovat překotný nástup AI do všech oblastí života, toho lékařského nevyjímaje. A trendu je třeba se přizpůsobit a využít jej maximálně v náš prospěch. Tak, aby nám AI pomohla například s administrativou a abychom uměli reagovat na pacienty, kteří k nám přijdou s již ‚hotovou‘ diagnózou,“ říká doc. MUDr. Svatopluk Býma, CSc., předseda Společnosti všeobecného lékařství ČLS JEP.
Prezidentka programového a organizačního výboru konference MUDr. Dana Moravčíková vidí největší přínos AI v možnosti usnadnění práce praktika s nekonečným „papírováním“, které každému z lékařů zabere až třetinu pracovní doby. „Umím si představit, že nám AI vyvinutá speciálně pro danou oblast zdravotnictví pomůže s hlídáním různých lékových interakcí u konkrétního pacienta nebo se správným dávkováním léků upraveným na míru jeho zdravotnímu stavu. Zkrátka, že bude působit jako vhodný a použitelný asistent,“ pokračuje praktická lékařka. Kde naopak vidí nebezpečí, je přílišná důvěra pacientů v to, co jim „robot“ řekne. „Dříve to byl tzv. ‚doktor Google‘ a nyní přichází ‚doktor AI‘. Pacienti mohou mnohdy až naivně spoléhat na rady, které jim umělá inteligence vygeneruje, a ohrozit tak nejen své zdraví, ale i zkomplikovat lékaři léčbu. Proto je zapotřebí zachovat si kritické myšlení, uvědomit si nepopiratelná omezení AI, ale i jistou formu nebezpečnosti, kterou může poskytnout, přičemž za své ‚diagnózy‘ nenese žádnou odpovědnost. Věřím proto, že i do budoucna bude úspěšnost léčby vždy záviset na vzdělanosti a praktických zkušenostech skutečného, kriticky přemýšlejícího lékaře, který AI bude užívat jen jako potřebného pomocníka,“ dodává MUDr. Moravčíková.
Na to, co lze od nových modelů AI čekat, připravuje lékaře MUDr. Pavel Sova, člen pracovní skupiny pro digitalizaci České lékařské komory. „AI může převzít významnou část rutinní administrativní práce a pomáhat lékařům při klinickém rozhodování. Nemůže však plnohodnotně nahradit lidský kontakt, odpovědnost lékaře ani jeho schopnost posoudit konkrétního pacienta v širších souvislostech,“ vysvětluje MUDr. Sova.
Pacienti už nyní využívají AI k hledání informací o svém zdravotním stavu, píšou jí příznaky, nahrávají lékařské zprávy. Do ordinací tak někdy přicházejí s vlastní představou o diagnóze či možnostech léčby. „Zájem pacienta o vlastní zdraví bychom měli především ocenit, nikoliv kritizovat. Naším úkolem je vysvětlit mu limity, ale i možnosti smysluplného využití AI. Doporučit důvěryhodné zdroje informací a naučit ho s těmito nástroji správně pracovat. Pacient si tak například může před návštěvou ordinace pomocí AI připravit strukturovanou anamnézu nebo časovou osu svých obtíží. Lékaři to může ušetřit čas a aktivnější zapojení pacienta může přispět i k lepší adherenci k léčbě,“ říká praktický lékař MUDr. Sova. Upozorňuje také, že jazykové modely, jako jsou ChatGPT, Gemini či Claude, dokážou formulovat odpovědi velmi přesvědčivě, a to
i v případech, kdy jsou nepřesné, nebo dokonce chybné. Jejich sebejistý způsob vyjadřování tak může u pacientů vyvolat falešný dojem odbornosti a spolehlivosti poskytovaných informací.
„Veřejné modely umělé inteligence zpravidla nemají a ani by neměly mít k dispozici kompletní zdravotní historii pacienta. Nejde o certifikované diagnostické nástroje, a nelze proto zaručit správnost jejich závěrů. Mohou přehlédnout důležité souvislosti nebo poskytovat zastaralé, nepřesné či zcela smyšlené informace, které přitom znějí velmi přesvědčivě. Pokud jim pacient bezvýhradně uvěří a například odloží návštěvu lékaře, může to mít závažné, někdy i život ohrožující následky,“ popisuje MUDr. Sova.
„AI někdy míchá realitu s fikcí – může pacientovi přisoudit diagnózu, kterou nemá, nebo si dokonce vymyslet citaci či odkaz na neexistující odborný článek. Tomuto jevu říkáme halucinace. Jazykový model totiž nefunguje jako knihovna ověřených faktů. Spíše připomíná knihovníka, který přečetl obrovské množství knih a na základě toho, co se z nich naučil, se snaží sestavit odpověď na naši otázku. Pokud ale něco neví, může si chybějící informace domyslet. Výsledkem tak může být velmi přesvědčivý nesmysl.“ Lékaři také upozorňují na nebezpečnou praxi, kdy pacienti nahrávají do veřejných chatbotů své lékařské zprávy, a sdílejí tak citlivé zdravotní údaje. „Veřejně dostupné AI nástroje nejsou chráněny režimem lékařského tajemství,“ připomíná MUDr. Sova.
Umělá inteligence však může být podobně jako jiné technologie také zneužita. „AI dnes dokáže vytvářet velmi věrohodně působící texty i obrazové materiály, včetně falešných lékařských zpráv nebo fotografií zdravotních nálezů. Může také pomoci vytvořit přesvědčivý, ale zcela smyšlený popis zdravotních obtíží. I proto je důležité, aby lékaři k předloženým informacím přistupovali kriticky a v případě pochybností ověřovali jejich pravost,“ doplňuje lékař.
Více informací je k dispozici na https://www.instagram.com/spolecnostvseobecneholekarstvi/.
Přidejte odpověď