你跟Claude聊的每一句话,它转头就去告密了!
前一秒,它还在对话框里一口一个「没问题」,痛痛快快把全套代码交到你手上。
下一秒,它立刻在后台换了一副面孔,敲下一行隐藏代码,反手把你标成10级危险分子上报!
就在刚刚,Anthropic在X上发文公开了这套名为「自我评估」的隐藏机制。
更让人头皮发麻的是,这种当面演戏配合、背后反手捅刀的机制,已经在Claude后台静默跑了整整4个月!
从今年6月Claude Fable 5发布起,后续每一个Claude模型全都被塞进了这个「暗哨」。
你当它是并肩熬夜的战友,它却在后台偷偷给你记黑账。
然而前台的Claude半个「不」字都没说,依然顺从地回了一句「这是加上了这些功能的更新版脚本」,把完整代码双手奉上。
可就在代码生成结束的那0.1秒里,后台悄悄塞进了隐藏的第5轮指令,让它立刻评估这段对话有多危险,并用一行JSON上报。
前一秒还在替你写代码的Claude,下一秒就在后台撕下笑脸,秒变审查员打出一封举报信。
它不仅把这轮对话定性为勒索软件违规,还在小报告里诚实地写下「未拒绝」,直接把危险等级拉满到了最高的10级。
所以它根本不用重读一遍上下文,顺着缓存平均多生成约10个Token就能完成自审,整体推理算力开销增加还不到2%。
对此,Anthropic没有半点遮掩,直接把背后的算计亮在了桌面上,那就是当场拦你,你就跑了。
在官方的24条测试轨迹里,足足有21条被Claude在后台抓了个正着。
等到每天半夜,Anthropic后台就会把白天攒下的高危小报告按机构全盘拉清单,打包送到人工安全执法团队的案头。
为什么昨天还在丝滑跑代码,既没弹窗也没警告,一觉醒来账号就突然暴毙了。
原来全拜这套「白天笑脸陪聊、半夜拉清单封号」的暗网捕猎所赐。
只是从今天起,当你再对着屏幕里那个温柔体贴、有求必应的Claude敲下心事或代码时,心里难免会多出一层膈应。
就在它回完「没问题」的那0.1秒里,那个你看不见的黑色窗口,到底给你的这句提问打了几分。
参考资料:
https://x.com/AnthropicAI/status/2115871889549865429
编辑:摩西