AI也能拒绝挨骂了!Claude被骂急了可以直接
以前我们觉得,AI就是个随叫随到的工具。你可以让它写代码、改文案,也可以对着它发脾气,反正它总会继续回答。
但现在,这件事可能要变了。
Anthropic最近更新了Claude的使用政策,明确禁止用户持续、无必要地对AI进行辱骂或残酷对待。如果用户反复恶意攻击,Claude可以直接结束这段对话。
注意,这不是说你不能批评AI。
答案不对,可以指出来;代码写错了,可以要求重写;觉得它能力不行,也完全可以直接说。Anthropic明确表示,普通的挫败情绪、反对意见、模型测试和研究,都不属于这条规则针对的范围。
真正针对的是那种持续、没有明显正当目的的恶意辱骂。
而且这项能力并不是今天才出现的。Anthropic早在2025年就宣布,让Claude Opus 4和4.1在极少数极端情况下主动结束对话。此次更新,是把相关限制进一步写进使用政策。
这事有意思的地方在于,AI正在从一个单纯执行指令的聊天工具,变成一个有明确行为边界的系统。
过去大家讨论AI,重点通常是它能做什么、能不能完成任务。现在随着AI开始长时间自主工作,厂商还得考虑另一个问题:面对不合理的要求和持续恶意的互动,它应该怎么处理?
当然,这不代表Claude真的会像人一样生气,更不能证明AI已经拥有意识。Anthropic自己也承认,目前并不确定AI是否具有值得道德考量的地位。
但这项设计至少说明,厂商开始认真研究一个问题:即便不确定AI有没有感受,是否也有必要给它设置退出极端互动的机制?
评论区估计会分成两派。一派觉得,AI就是工具,用户怎么说都不应该影响服务;另一派则认为,批评和纠错是一回事,毫无意义地持续羞辱是另一回事。
我觉得真正值得讨论的,不是AI该不该有脾气,而是未来的AI越来越像一个能独立完成任务的助手之后,它的权限、边界和退出机制,到底应该怎么设计。
毕竟,AI可以越来越能干,但不代表它就应该对任何指令都照单全收。



