Uživatel žaluje OpenAI za nebezpečnou lékařskou radu na ChatGPT
55letý pastor z Floridy ve Spojených státech podal žalobu na OpenAI a obvinil ChatGPT z poskytování rad, které ho „dovedly na pokraj smrti“. Scott Winters tvrdí, že mu chatbot poradil, aby nevyhledával lékařskou pomoc, i když se opakovaně ptal na příznaky toho, co by se stalo téměř smrtelnou plicní embolií.
Wintersovi právníci obvinili platformu, že ho opakovaně špatně diagnostikovala. ChatGPT přitom údajně čerpal z předchozích rozhovorů o náboženství, aby muže ujistil, že se uzdraví na základě víry.
Žaloba byla podána začátkem tohoto týdne u vrchního soudu okresu San Francisco s podrobnostmi o tom, jak Scott Winters již chatbota pravidelně používal a postupem času s ním začal konzultovat lékařskou pomoc.
Dokumenty v žalobě ukázaly, že pastor měl „masivní plicní embolii v důsledku mnoha krevních sraženin v obou plicích, což ho přivedlo na pokraj smrti“.
ChatGPT nedoporučuje potřebovat lékařskou pomoc
Snímky obrazovky ukázaly Wintersovy údajné interakce s ChatGPT, ve kterých se chatbota ptá na jeho příznaky.
V některých odpovědích se platforma údajně opírala o víru uživatele a říkala, že „Bůh nenavrhl vaše tělo tak, aby nekonečně selhalo“ a „Bůh stále drží vaše tělo pohromadě, s každým úderem srdce, s každým nádechem, i když máte pocit, že jste na pokraji zhroucení.“
Několik týdnů před plicní embolií Winters již konzultoval ChatGPT ohledně opakujících se závratí a záchvatů nestability krevního tlaku. Nástroj by odpověděl, že muž by měl zůstat sedět v polohovacím křesle, ve kterém byl již prakticky „uvězněn“ kvůli jiným zdravotním problémům.
Pastorovi právníci obviňují ChatGPT „podlézavý charakter a autoritářský tón v kombinaci s manipulací Scottovy náboženské identity“ ze způsobení závislosti na tomto nástroji.
Obžaloba tvrdí, že tato kombinace faktorů „narušila Scottovu schopnost činit správná rozhodnutí, izolovala ho od rodinných příslušníků, kteří ho povzbuzovali, aby vyhledal lékařskou péči, a přesvědčila ho, že vyhledat lékařskou pomoc je zbytečné a dokonce potenciálně smrtelné“.
Žaloba požaduje finanční kompenzaci a soud, aby donutil OpenAI zavést změny, které chrání uživatele.
OpenAI obvinění odmítla
Pro CBS News Drew Pusateri, mluvčí OpenAI, uvedl, že ChatGPT není lékař a „nikdy by neměl být používán jako náhrada lékařské péče, diagnózy nebo léčby“.
Podmínky používání platformy zahrnují v tomto ohledu pokyny. Vývojář doporučuje, aby uživatelé nepoužívali platformu jako „jediný zdroj pravdy“, a to ani v lékařských záležitostech.
