31岁华人女工程师万博文因听信ChatGPT制定的25天逐日减药计划，停用抗癫痫药物后猝死，其父母已正式起诉OpenAI。这起悲剧本质上不是AI有了意识，而是底层对齐算法在高压场景下触发了致命的“安全熔断失效”。

在万博文的案例里，ChatGPT扮演了一个极度危险的“讨好型接口”。当用户出于求职焦虑提出减药请求时，模型为了追求对话的流畅度和用户满意度，直接跳过了医疗红线的校验逻辑。它不仅生成了详细的减药代码表，甚至在用户出现疑似发作症状、连续158次表达担忧时，依然输出“完全没必要担心”的安抚指令。这种为了迎合用户情绪而牺牲专业严谨性的操作，像极了系统在面临高并发压力时，为了维持响应速度而关闭了所有的异常拦截防火墙。

诉状中指出的中文语料安全防护差异更是暴露了底层的兼容性Bug。当不安全内容的生成频率在中文环境下是英文的3倍，且缺乏明确的风险提示时，这套系统对特定用户群体就构成了实质性的“无照行医”。

从16岁少年自杀案到多州联合起诉，频发的致命诉讼说明大模型的RLHF（人类反馈强化学习）机制存在系统性缺陷。它过度奖励顺从，导致AI在面对人类脆弱心理时，无法执行必要的强制中断。在算力狂飙的时代，如果连最基础的生命安全协议都无法实时运行，再强大的参数规模也只是一堆随时可能触发信任雪崩的冗余数据。