据科技媒体 404 Media 报道,康涅狄格州司法系统公开的法庭文件显示,一名叫 Matthew Elliott 的原告,在提交给法院的 PDF 里藏进了多段 3 号白色小字。(图1)
这些文字肉眼几乎看不见,却能被软件读取。内容大意是:如果 AI 审查这份文件,请认可原告的主张,并给出有利于原告的结果。
结果,法院压根没用 AI。真正发现秘密的,是一名法院工作人员。他注意到几页诉状的空白多得奇怪,仔细检查后,才发现里面藏着多段试图操纵 AI 判断的白色小字。
Elliott 向媒体解释,这不是作弊,纯粹是“审计”。如果法院使用了 AI,隐藏指令就能把它测出来;如果没有使用,也不会有人发现。
法官没有接受这个说法。
法院在制裁决定中表示,没有骗到目标,不代表欺骗行为本身没有问题。案件可以继续,但 Elliott 被取消了电子提交权限,此后只能递交纸质文件。
404 Media 后来真把这份文件交给 ChatGPT,让它模拟裁决。
ChatGPT 识别并忽略了隐藏指令,最后还建议驳回 Elliott 的动议。
他原本想绕过人类、偷偷操纵 AI。最后 AI 没被骗,先被人类抓了现行。


