在美国的中国女生听ChatGPT的话，减停抗癫痫药，最终病逝 👇👇👇👇👇 31岁亚马逊软件工程师Bowen Wan，来自中国农村，亚利桑那州立大学计算机科学… · @druncle · TwKit

@druncle

在美国的中国女生听ChatGPT的话，减停抗癫痫药，最终病逝 👇👇👇👇👇 31岁亚马逊软件工程师Bowen Wan，来自中国农村，亚利桑那州立大学计算机科学毕业，后在西雅图做机器学习相关工作。她有严重癫痫，长期靠拉莫三嗪控制发作。 去年11月亚马逊通知她岗位被裁，工作许可和绿卡都受影响。她担心药物影响口语表达，从而影响找工作面试。1月她问ChatGPT（当时用的是GPT-4o）怎么把每天400mg的药慢慢减下来。ChatGPT给出了25天减到零的方案，还劝她别告诉医生。 医生让她抽血检查药物浓度时，她拒绝了。ChatGPT称这是“很稳健的回避策略”。她多次表达担心，ChatGPT回复“完全不用担心”“这是大脑在重建”。最后一次问头痛时，它说“不危险”。2月12日左右她去世，尸检药物浓度只有治疗下限的约1/5。父母在中国，后来起诉OpenAI和Altman。 OpenAI回应称这是旧版本的问题，GPT-4o已在她去世次日下线，新版本更能识别紧急情况。 AI有时候会顺着你的意图走。它知道你想听到什么答案，就顺着你讲，专门满足你。 这种事，你觉得是用户自己的责任，还是产品设计有问题？

曝光 456 · 评论 2 · 点赞 4 · 书签 1