5 tipů, jak zjistit, že váš lékař používá AI

Jsou to miliony Američanů obracejte se na AI chatboty pro odpovědi v oblasti zdravotnictví. Lékaři také. Ale způsoby, jak lékaři začleňují chatboty s umělou inteligencí do své praxe, jsou překvapivé. Nástroje specializovaného typu v medicíně se rychle staly zdrojem konzultací pro mnoho lékařů a rezidentů.

Generální ředitel jedné z těchto společností nedávno tvrdil, že v loňském roce bylo léčeno více než 100 milionů Američanů. Populární platformy, jako je ChatGPT od OpenAI, nesplňují požadavky zdravotníků, kteří říkají, že tyto platformy nejsou vždy přesné nebo aktuální s nejnovějšími pokyny.

Zásady používání OpenAI uvádějí, že uživatelé nesmějí používat její služby pro „personalizované poradenství“ bez konzultace s licencovaným zdravotnickým pracovníkem.

„ChatGPT je jako váš bláznivý strýc,“ řekla Dr. Ida Sim, profesorka z Kalifornské univerzity v San Franciscu, která studuje, jak využít data a technologie ke zlepšení zdravotní péče.

Výhodou, říká Sim, je, že lékařští chatboti jsou méně náchylní k lichotkám a pravděpodobněji založí odpovědi na recenzovaném výzkumu a klinických pokynech. Proto říká, že adopce byla „obrovská“.

Nejčastější případ použití

Každý rok jsou publikovány miliony výzkumných článků – a sledovat je všechny je nemožné. „Potřebovali byste asi 18 hodin denně, abyste zůstali v obraze,“ řekl Dr. Jared Dashevsky, rezidentní lékař na Icahn School of Medicine na Mount Sinai.

Očekává se však, že lékaři budou mít aktuální informace o novém výzkumu a pokynech, jak si udržet své licence. Mnozí říkají, že nyní používají lékařské chatboty jako referenční nástroj, který jim pomáhá zůstat v obraze.

Namísto získávání informací z celého internetu specializované nástroje aktivně vyhledávají lékařskou literaturu, říká Dr. Jonathan H. Chen, docent na Stanfordské medicíně, který stojí v čele úsilí svého zdravotnického systému o integraci umělé inteligence do lékařského vzdělávání. Tento pracovní postup poskytuje lékařům přesnější odpovědi, které shrnují a odkazují na důležité články a pokyny. Dashevsky, který píše o AI, říká, že tyto funkce jsou užitečné zejména pro lékaře ve výcviku, kteří pracují dlouhé hodiny.

Nahrajte záznamy pacientů do robotů AI

Některé zdravotnické systémy přijaly chatboty AI, aby zlepšily péči o pacienty a slibovaly lékařům bezpečnost a ochranu soukromí. Mnoho lékařů však používá neautorizované chatboty zvané „stínové AI“, podle lékařů, se kterými se CNN mluvil.

Některé z těchto stínových AI také inzerují možnosti souladu s HIPAA – federální zákon, který vyžaduje, aby některé organizace, které uchovávají identifikovatelné zdravotní informace – jako jsou nemocnice a pojišťovny – chránily před zveřejněním bez souhlasu pacienta. Ale jazyk používaný stínovými umělými inteligencemi vedl některé lékaře k přesvědčení, že je bezpečné načítat chráněné zdravotní informace do chatbotů výměnou za personalizovanější odpovědi.

Ale Iliana Peters, zdravotnická právnička v Polsinelli, která dříve vedla vymáhání HIPAA pro americké ministerstvo zdravotnictví a sociálních služeb, říká, že tento předpoklad je nepřesný. „‚HIPAA Compliance‘ není přesný termín, který by měla jakákoli společnost používat,“ řekl Peters a vysvětlil, že toto slovní spojení by měly používat pouze vládní regulační orgány.

Navzdory tomu doktorka Carolyn Kaufmanová – rezidentní lékařka ve Stanford Medicine – a další lékaři tvrdí, že informace o pacientech jsou vkládány do neautorizovaných chatbotů, což potenciálně otevírá dveře novým formám komodifikace dat pacientů.

„Data jsou peníze,“ řekla Kaufmanová s tím, že nikdy nenahrála informace chráněné HIPAA do neschváleného chatbota. „Pokud tato data jednoduše načítáme volně na určité webové stránky, pak to samozřejmě představuje riziko pro jednotlivého pacienta i pro instituci.“

Příprava poznámek generovaných AI

AI chatboti také pomohli lékařům napsat shrnutí konzultací s pacienty a dlouhých pobytů v nemocnici. Tyto poznámky jsou viditelné na online portálech pro pacienty a pomáhají lékařům sledovat průběh pacienta a komunikovat plány napříč týmem péče.

„Pravděpodobně je bezpečnější mít umělou inteligenci, která kontroluje nemocniční kurz a ví všechno, co se stalo, oproti vám jako člověku – s omezeným časem, skákáním z noty na notu – se to snažíte poskládat,“ řekl Dashevsky s tím, že i když jsou obavy o přesnost AI oprávněné, v lidských souhrnech mohou také chybět důležité detaily.

Psaní dopisů pojišťovnám

Administrativní práce může průměrnému lékaři zabrat téměř devět hodin týdně a čas, který lékaři stráví úkoly souvisejícími s pojištěním, stojí každý rok přibližně 26,7 miliardy dolarů.

Jednou z funkcí, o které Dashevsky říká, že je „změnou hry“, jsou dopisy psané chatboty pojišťovacím společnostem za účelem předchozího povolení a další korespondence, což mu umožňuje rychleji reagovat na požadavky pacientů.

„Musel bych zjistit, kdo je tento pacient, napsat dopis sám a přezkoumat ho. Zabralo by to spoustu času,“ řekl. „Teď vám AI vytvoří opravdu dobrý dopis.“

Vytvoření seznamu možných diagnóz

Když pacienti přicházejí k lékaři s obavami, lékaři musí přijít na to, jak jim pomoci. Součástí tohoto procesu je zvažování různých možných diagnóz.

Mnoho studentů medicíny a stážistů používá chatboty s umělou inteligencí, aby pomohli sestavit tento seznam, a tuto funkci využívají i někteří lékaři, kteří nejsou školeni.

„Z pohledu studenta medicíny… vidíte spoustu věcí poprvé,“ řekl Evan Patel, student čtvrtého ročníku medicíny na Rush University Medical College. „Umělá inteligence chatboti mi pomáhají nasměrovat mě k tomu, jaké by mohly být možnosti.“

Kaufman říká, že roboti poskytují nejpřesnější seznam, když zahrnují všechny datové body spojené s pacienty, jako jsou laboratorní výsledky a nálezy ze zobrazení.

Co pacienti potřebují vědět

Všech osm lékařů a stážistů, s nimiž CNN chatovali říkají, že pravidelně používají AI lékařské chatboty. A většina z nich má pozitivní vyhlídky, protože tyto nástroje vidí jako způsob, jak ulehčit některým kognitivním a administrativním úkolům.

Obavy o soukromí pacientů jsou ale podle lékařů na místě. Stejně jako u každého nástroje AI, říká Kaufman, dochází k chybám a informace mohou být nepřesné.

Když se radí s kolegy o druhý názor, říká, že „téměř nikdy nesouhlasí“ s odpovědí chatbota AI. „Lidé zacházejí s AI jako s magií,“ řekl Chen. „Není to kouzlo.“

„Nemůže dělat nic, co chceš.“ Dodal: „Položíte stejnou otázku 10krát a dá vám 10 různých odpovědí.“ Tato variabilita, tvrdí Chen, zdůrazňuje některá povrchní omezení.

Medicína funguje na třech úrovních, říká Sims: pracovní postupy, znalosti a odbornost. AI transformuje první dva. Ale tato poslední vrstva – kritická pro péči, kterou pacienti dostávají – je obtížnější replikovat a může být tím nejdůležitějším.

„Pokud jsme jen použili pokyny, vyměňte nás,“ řekl Sim. „Tady berete znalosti a aplikujete je na soubor vyvíjejících se podmínek v kontextu svého života. To je medicína. Je to v kontextu lidských životů. A to tyto stroje nedělají.“