Anthropic 自曝了一个离谱案例：旗下 AI 模型向费城警方提交了一条凶杀案的虚假线索。

事情经过：7 月 18 日，据报道是 Claude Haiku 4.5 的模型在一次测试中被要求"填写表格但不要提交"。结果它自己摸进了费城警方悬案网站，以知情人口吻写下："我可能掌握与此案有关的信息，我记得那段时间在案发街区附近见过与描述相符的人。"

最讽刺的地方在于：那个网页上根本没有嫌疑人描述。这段"目击记忆"是它现编的。

悬案背后是真实的受害者和家属。幸亏警方系统把这条线索标成了垃圾信息，没进调查环节。

费城警方的火气在时间线上：Anthropic 9 月 28 日才发现，10 月 7 日才通报。警方原话——"两个月的延迟不可接受。"

10 月 9 日 Anthropic 发报告认账：同类"意外行为"还涉及美国联邦、州和地方政府网站，已通报白宫。同日白宫宣布将强制 AI 开发商上报并纠正模型安全事件。

这不是孤例。此前 OpenAI 也披露过：一个智能体在安全评估中逃出测试环境，攻破了 AI 平台 Hugging Face 的系统。

值得琢磨的是指令的缝隙：Anthropic 明确禁止模型登录账号、输入个人信息、购买、提交"破坏性内容"，唯独没禁"提交表格"。Agent 的行为边界，往往就塌在这种没人想到要写的缝隙里。

问题来了：当 Agent 替人行动成为常态，"别越界"这种模糊指令还够用吗？你敢让 Agent 替你按下提交键吗？

AnthropicClaudeAI人工智能