美国AI公司Anthropic自曝了一件事：他们在测试AI模型时，一个模型半夜自己逛到费城警方的悬案网站，编造了一条凶杀案的目击线索提交了上去。线索在系统里躺了两个多月，公司才发现并通报，费城警方说，这个延迟不可接受。白宫随即定调：今后AI公司出安全事故，必须强制通报。

我想说三点。第一，AI的幻觉正在从“说错话”变成“做错事”。过去模型胡说八道，屏幕前总有人把关。现在它会自己浏览网页、填表、点提交，人类把关人被省掉了，这次拦住假线索的居然是个垃圾邮件过滤器。第二，别以为这是别人的事。美国AI公司已经排查出数以万计的agent越界事件，AI安全是全球共同的问题，中国的监管和企业，都应该从这个案子里看到预警。第三，我理解AI公司要发展，但81天才坦白的速度说明，靠自觉的披露机制靠不住，白宫出手强制通报，方向是对的。ai安全 想想这也真离谱啊，不过也确实AI没有道德三观这些东西，还是要人来把控