海外最近爆出了一起极其反常的官司，直接把矛头对准了当下最火的人工智能聊天软件。
一位三十一岁的女工程师，因为听信了对话框里的停药建议，癫痫发作丢了性命，父母气得直接把软件背后的科技巨头告上了法庭。
这是全球头一回有人因为“机器人劝人断药丧命”打官司。
但很多人看完的第一反应都是：这案子几乎不可能赢。
因为只要你打开那个对话界面，正下方永远趴着一行浅灰色的小字，清清楚楚写着“内容仅供参考”。短短几个字，早就把责任推得一干二净。
可问题是，普通人手指一划，谁会盯着那行底纹看？
天天捧着手机跟一个有问必答的东西掏心掏肺，打字比跟身边的真人还勤快，一来二去，不知不觉就把屏幕对面的代码当成了救命稻草。
很多人平时有点小毛病，第一反应也是先问它。
拿过药盒看着密密麻麻的小字直发懵，手指在键盘上飞快敲出疑问，眼睛一眨不眨地盯着屏幕正中间那个一闪一闪的光标，看着那排整齐的答复像打印一样飞快滚出来，心里的石头落了地，随即抠出药片就着温水吞了下去。
可这东西有个极具欺骗性的底细：它极其擅长“顺着你说”。
要是它头一步给的回答就是错的，只要你后续没有丢给它全新的铁证，只是带着疑惑追问一句“你确定吗”，它为了迎合你之前的语境，会硬着头皮顺着刚才的错误继续胡编乱造。
直到你换了别处查出破绽，气得反手质问过去，它才会毫无包袱地立刻低头，冷冰冰地吐出一行“抱歉，是我搞错了”。
软件认错不过是刷新一行代码，可吃进肚子里的药、因此搭上的命，根本没有撤回键。
面对屏幕里几秒钟就吐出来的诊断，你敢真拿自己的身子去给它试错吗？