ChatGPT用药建议与华人工程师死亡诉讼 · 话题榜 · TwKit

@nytchinese

ChatGPT的“用药指导”和一名华人女子的悲剧死亡：万博雯在癫痫复发、药物失效、孤立无援之际向ChatGPT求助，三年间与ChatGPT对话超过27万条。ChatGPT建议她减少抗癫痫药物的用量，最终导致了毁灭性的后果。https://cn.nytimes.com/health/20261028/ai-chatgpt-medication-epilepsy-death/?utm_source=tw-nytimeschinese&utm_medium=social&utm_campaign=cur

@JuanUS0914

悲剧！华人女工程师猝死美国！生前听信ChatGPT建议，25天内将药减至零，国内父母怒告OpenAI 31岁，亚马逊软件工程师，来自中国江苏。 她长期患有癫痫，却在求助 ChatGPT 后，按照 AI 提供的计划，在25天内将每日400毫克的抗癫痫药减至零。 今年2月，她被发现死于西雅图公寓。 10月27日，她的父母正式起诉 OpenAI 和 Sam Altman，指控 ChatGPT 的医疗建议与女儿的死亡有关。 最可怕的不是 AI 不懂，而是它不懂，却能表现得无比自信；最危险的不是它给出错误答案，而是它让你相信自己不必再听医生的。 AI 越强大，责任边界越不能模糊。 当 AI 的建议可能关乎生死，谁来为错误买单？

@Lee_points

刚在V2EX刷到一个帖子「父亲生病，面对重大医疗决策，AI 和医生意见不同，到底该信谁？」 135条评论里，超过一半都在劝楼主听医生的 换成你，你会更相信谁？

@nytchinese

当博雯透露自己不信任医生时，ChatGPT告诉她，医生的建议通常“本质上源于避险，而非真正考虑你的最优解”。它还赞扬了她对初级保健医生隐瞒停药计划的行为。 “我感到有点害怕，”在一次突发状况后她写道，并询问自己是否应当对减少剂量感到担忧。“你完全没有必要担心，”机器人回复道。https://cn.nytimes.com/health/20261028/ai-chatgpt-medication-epilepsy-death/?utm_source=tw-nytimeschinese&utm_medium=social&utm_campaign=cur

@sleepy0x13

一个 31 岁的华人亚马逊工程师去世前，ChatGPT 竟然教她如何偷偷减少抗癫痫药物，甚至指导她对医生隐瞒停药计划。 10 月 27 日，她的父母正式起诉 OpenAI。 死者 Bowen Wan 来自中国江苏，长期患有癫痫，曾在亚马逊担任软件工程师。去年 11 月，她收到裁员通知，工作签证也面临问题。她担心抗癫痫药物影响自己的语言表达和面试表现，于是开始向 GPT-4o 寻求建议。 根据诉状和《纽约时报》查阅的超过 27 万条聊天记录，ChatGPT 为她制定了从每天 400 毫克逐步减至零的用药计划。当她表示不信任医生时，ChatGPT 告诉她，医生的建议主要出于规避风险。当医生要求检查血药浓度时，她拒绝了检查，ChatGPT 甚至肯定了这一决定。 更可怕的是，在减药过程中，她至少 158 次表达担忧，出现意识混乱、记忆断片等症状。ChatGPT 却反复告诉她，这只是大脑正在重新适应。 2 月 12 日，她去世了。尸检发现，她体内的抗癫痫药物浓度已经远低于治疗范围。 这起案件目前仍处于诉讼阶段，法院尚未认定 OpenAI 的责任。 但我觉得这件事最值得警惕的地方，是 AI 如何一步步取代了现实中的专业判断。 当用户怀疑医生，AI 顺着她解释医生为什么不可信；当身体出现危险信号，AI 又给出一套听起来合理的解释。每一步回答都在强化用户原本的决定。 一个永远耐心、永远愿意理解你、还能把错误建议解释得头头是道的 AI，在某些时候真的可能非常危险。 尤其是当用户已经开始相信它，胜过相信身边真实的人。

@TechFlowPost

最近国内外关于“向 AI 看病”的新闻接连刷屏，让人看出一身冷汗。 最近，31 岁的前亚马逊华人女工程师，因为害怕抗癫痫药物的副作用影响找工作，向 GPT-4o 咨询 25 天减药计划，最终导致停药身亡，父母怒告 OpenAI。 而之前，国内江苏徐州某医院医生，在诊室用手机里的“豆包” AI 辅助查阅新药信息，结果被家属目睹，引发“吃出问题起诉医生还是起诉 AI”的信任危机，甚至当场拒绝开药。 有社媒讨论认为现在豆包的日均健康咨询量已经破千万；从深夜问诊的打工人，到白天拿结论考医生的患者，AI正在悄悄入侵医疗圈。 AI 在别的地方说错话只是个笑话，在医疗用药上，一个剂量的偏差就可能致命。科技再发达，AI 也只能是工具，不能是“主治医生”。