DC娱乐网

09|怎样设计不耗尽人的AI工作

2021年一项199人的实验故意把AI设计得没那么顺手:让用户先独立判断,再查看AI建议,或者主动请求AI帮助。这些cognitive forcing functions显著减少了对错误AI建议的过度依赖,参与者却最不喜欢效果最好的设计。更可靠的判断,有时需要保留一点不舒服的摩擦。

这也是整套合集最后落到的问题:AI工作不能只追求生成更快、点击更少和Agent更自主。任务边界、监督时机、核验入口、并发数量和组织指标,都在决定AI究竟减负,还是把人变成永远在线的协调器。

NIST的Generative AI Risk Management Framework要求组织明确AI支持的具体任务、能力边界、人机责任、内容来源和监督方式,并让评估强度与风险匹配。2026年一项48人Agent实验也发现,plan-level参与能减少问题行为发生,却不能保证错误出现后更容易纠正;没有一种监督模式在所有任务里都最好。

界面也不能只把完整trace倒给人。三项Agent用户研究中,新界面让参与者更快找到错误,却没有显著提高最终准确率,漏掉错误时反而更有信心。有效透明度需要展示目标、关键假设、证据、不确定性和下一项不可逆决定,而不是更多过程文字。

组织还要计算整条协作链。Microsoft对6,000名知识工作者的实验发现,持续使用AI的人每周少花约3小时处理邮件,会议时间却没有改变。丹麦约25,000名员工的研究发现AI已经创造新任务,两年内的收入和记录工时仍没有可测变化。局部省时,不等于整个工作系统变轻。

所以不会持续耗尽人的AI工作,需要做到:按风险分配自主程度,在关键决定前让人介入,让证据和测试随结果一起交付,控制Agent并发与打断,测量review和返工,并明确节省的时间到底属于产量、质量、学习还是休息。

好的AI系统不会消灭人的思考。它会把有限的思考,留给真正需要人的地方。