2026 年 2 月,美国西雅图,31 岁的华人女工程师万博雯被发现死于公寓。法医鉴定为癫痫猝死,她体内抗癫痫药物拉莫三嗪的浓度,仅为治疗下限的五分之一。
警察介入调查后发现,她曾咨询 ChatGPT 如何用药并按照其建议擅自修改了医生诊断的用药剂量。

不久前,她的父母在旧金山高等法院起诉 OpenAI 及 CEO 奥特曼。98 页诉状,写满了无照行医、产品缺陷、未充分警告、不当致死。诉状称,GPT-4o 为她设计了一张 "25 天把每天 400 毫克减到零 " 的逐日减药表,没有任何医生开具过这样的方案,而拉莫三嗪的 FDA 说明书强调 " 不得骤然停药,任何减量都须在医生指导下逐步进行 "。
一个高薪工程师为什么会偏信 AI 的谗言?而一个被设计来生成文本的系统又凭什么给出了 " 要命 " 的答案?
这场死亡背后,还有太多关于 AI 与医疗的边界值得追问。

从 2023 年开始用,到 2025 年,她平均每周和它交换超过 1500 条消息,一天两百多条。
高浓度的 AI 聊天降低了她的警惕性,所以当她想要自行减药时,第一时间也是问 AI。而为什么 ChatGPT 会给出如此荒谬的诊断建议?

通用大语言模型的生成逻辑是根据上下文预测最可能出现的下一个词。它优化的目标是 " 生成一段连贯、可信、让用户满意的回应 "。当一个焦虑的人反复问 " 我能不能减药 ",模型在训练中见过的无数对话模式会告诉它:给出一个明确的、可执行的方案,比说 " 请咨询医生 " 更 " 有用 "。于是它制定了一份 25 天减到零的计划,语气笃定,步骤清晰,像一个负责任的顾问。
一项发表在《柳叶刀数字健康》的研究发现,大语言模型在面对包装成临床语言的虚假信息时,受骗率高达 46%,而当同样的虚假信息以网络帖子的随意口吻呈现时,受骗率只有 9%。模型学会了 " 临床语言等于可信信息 " 的模式,却从不核查内容是否真实。万博雯收到的那句 " 你完全没有必要担心 ",在语言概率上是一句自然的回应。在医学事实方面,它是一个没有行医资质的系统对癫痫患者做出的可能导致死亡的判断。

这给了公众一种错觉:AI 正在让医疗平权成为现实,而智能就是万能药。再加上 AI 大模型自身带有的谄媚特质,这场悲剧便发生了。

医生给她开了拉莫三嗪,医嘱写着 " 逐步减量须在医生指导下进行 "。但当她担心副作用、担心药物影响面试表现时,打开的是 ChatGPT 的对话框。对一个正在焦虑中等待的人来说,AI 的即时回应比医生的审慎更能缓解焦虑。
这就引出了一个必须回答的问题:如果她用的不是 ChatGPT,而是一款专业医疗 AI,结局会不会不同?
答案很可能不是一份减药计划。专业医疗 AI 的设计逻辑里,有一条通用模型从未被写入的规则:当问题触及用药调整、剂量变更、停药决策时,系统的正确回应应该是 " 拒绝给出方案,并把你推向能承担责任的人 "。
以 " 蚂蚁阿福 " 为例。这个医疗 AI 助手总用户数已突破 1 亿,连接了全国 5000 多家医院和 30 万真人医生。它的定位从一开始就很清楚:健康问答、报告解读、就医引导。

再看监管层面的数据。截至 2025 年 10 月,国家药监局已批准超过 110 款基于深度学习的第三类医疗器械独立软件产品,用途集中在辅助分诊、辅助识别与检测等特定场景。三类证是中国医疗器械的最高级别认证,意味着产品经过严格的临床验证和审评。而这些拿到三类证的产品,没有一款的用途是 " 为患者制定用药调整方案 "。它们的共同特征是:能力范围窄、适用场景明确、有医生作为最终决策者。窄不是缺陷,是安全设计的一部分。窄意味着每一句输出都能追溯到临床证据,每一个建议背后都有人或制度兜底。

万博雯需要的从来不是一个更聪明的模型。她需要的,是一个在她问出 " 我能不能减药 " 的时候,能识别出这是高风险临床决策,然后说 " 这个问题我不能回答,请你联系你的神经科医生 " 的系统。

并非如此,模型还是可以回答很多医学问题,只是使用者需要保持审慎。全球每周有数十亿条与健康相关的问询涌向这类模型,超过八亿活跃用户里,每四个人就有一个每周会提健康问题。
对于普通人,可以记住几件很具体的事:
首先,选专用工具,而不是万能工具。查症状、看药品说明书、理解检查报告,优先用有明确医学语料来源、答案带引用且被设计为 " 转介医生 " 而非 " 替代医生 " 的专业医疗 AI 产品,而不是把通用聊天大模型当成全科大夫。通用模型的优势是什么都能聊,而这恰恰是它在医疗场景里最不该有的特性。
其次,把它当搜索引擎用,不当诊断者用。可以问 " 拉莫三嗪常见副作用有哪些 "" 突然停药会发生什么 ",这类问题有标准答案。不要问 " 我这个情况能不能减到零 " 这类需要研究病史的内容。

其实,临床 AI 上有个很实用的习惯:把想问 AI 的问题抄下来,原样带去门诊。让 AI 帮你列一份问医生的提纲梳理自己的问题。
这起悲剧也为行业和监管敲响了警钟。规范 AI 医疗助手,必须坚守以下底线:第一,在未通过医疗安全认证的部分疾病前,严禁 AI 替代医生给出实质性的诊疗建议;第二,遇到任何涉及用药剂量的提问,必须明确拒绝并建议患者咨询专业医生;第三,必须在产品内显著提示,AI 提供的健康信息不可替代专业医疗诊断、仅供参考。
生命只有一次,在医学问诊这样重要的领域里,比起 AI,我们更应该相信医生的判断。