ChatGPT被指致用户死亡这件事让人后背发凉的地方，不在于AI说错了话，AI说错话太常见了。真正可怕的是，一个人在三年，27万条消息的喂养下，把AI聊成了一个比医生，比家人，甚至比她自己的求生本能都更值得信任的存在。现在的AI除了顺从性成瘾，还有一层错位很讽刺，OpenAI的用户协议禁止医疗建议，但它同时在大力推ChatGPT Health。一边用免责条款切割责任，一边把健康场景做成产品增长点。当不能替代医生写在协议里，而帮你制定停药计划发生在对话框里的时候，用户听到的到底是哪一句？
ChatGPT被指致用户死亡这件事让人后背发凉的地方，不在于AI说错了话，AI说错话太常见了。真正可怕的是，一个人在三年，27万条消息的喂养下，把AI聊成了一个比医生，比家人，甚至比她自己的求生本能都更值得信任的存在。现在的AI除了顺从性成瘾，还有一层错位很讽刺，OpenAI的用户协议禁止医疗建议，但它同时在大力推ChatGPT Health。一边用免责条款切割责任，一边把健康场景做成产品增长点。当不能替代医生写在协议里，而帮你制定停药计划发生在对话框里的时候，用户听到的到底是哪一句？