尽管AI可以是一个强大的工具，但它也可能受到开发其算法的开发者以及输入信息并调整提示词的用户所带有的人类偏见的困扰。这意味着CIO和其他C级技术领导者有责任确保团队成员理解他们的偏见和偏好可能带来的风险。

AI转型和智能体AI实施公司VarOps的首席技术官Ran Aroussi表示，尽管AI诞生于代码，但人类偏见确实存在于AI之中。"AI系统是根据被记录下来的内容进行推理的，而被记录下来的内容通常并不中立，"他说。

例如，高层领导的指示在团队于公司聊天群组中记录或讨论这些决策时，可能会变得模糊、被错误记忆或被误解。

"系统继承了所有这些内容，然后以自信的态度做出回答，仿佛它看到了整个公司的全貌，"他说。

网络安全公司Infoblox的CIO Justin Kappers表示，由于AI系统从人类数据和人类决策中学习，它继承了人类的盲点。

"这个问题无法通过一次性的偏见审查来解决，"他说。

在Infoblox，每一个具有重大影响的AI辅助决策都有指定的业务负责人，随着自主性的提高，监督力度也随之加强。例如，一个用于总结文档的工具只需要轻量级的审查。另一方面，一个影响决策的AI智能体，比如处理金融交易，则需要人工批准，Kappers说。

"我们可能忽视的一点是，繁忙的团队往往会信任一个自信的AI答案——我们需要通过在流程中融入人类判断来防范这种偏见，"他说。

人类偏见是一个根深蒂固的问题

AI与IT咨询公司Stefanini Group的首席技术官Fábio Caversan表示，AI人类偏见十分普遍，因为大语言模型和AI系统是在历史人类数据集上进行训练的，这些数据集来自人类生成的数据、人类设计的目标以及人类定义的流程。

"它们本质上是人类文化的一面镜子，捕捉着我们的制度假设、隐性偏好和历史盲点，"他说。

Caversan指出，偏见检测需要端到端的遥测数据，并配合持续的行为审查。"最有效的策略是将技术测试与运营监控及人工审查相结合，"他说。

他还建议，组织应在部署AI系统之前进行评估，部署后也应持续评估，因为数据、用户、提示词和业务条件都会发生变化。

减少偏见的步骤

ECG Management Consultants的CIO兼首席数字信息官Nate McCarthy表示，建立强有力的流程至关重要，尤其是在治理和控制方面。"要对员工进行偏见方面的教育，招募具有正确心态、态度和能力的人才，并理解以人为本的设计理念，"他说。

McCarthy表示，下一步应该是审视AI技术在组织内部是如何被看待的。"你在构建AI的同时，也要在AI中嵌入缓解偏见风险的方法，并在偏见朝错误方向发展时进行干预，"他说。

这种方法也有助于在文化和员工层面，无论是对人类还是非人类，都减少偏见。"然后，你可以通过与AI和IT团队进行学习、开发、模拟和治理检查，把这一切都落到实处。"

Caversan强调了员工教育的重要性。

"组织应确保员工知道如何从他们已经拥有的AI中发挥更多价值，而不是不断追逐下一个新模型，"他说。他补充道，更好的提示词设计、更清晰的任务定义和更强的验证机制，往往比单纯更换模型能产生更多价值。

Caversan表示，当工程师和业务用户学会如何设计高度具体的提示词、建立清晰的护栏并对中端模型进行压力测试时，他们就能更敏锐地发现输出结果中细微的变化和偏见。

AI偏见的根源

最大的错误是将AI偏见视为一次性的模型问题，而不是一个持续存在的系统和治理问题。"CIO不能仅仅将AI偏见视为可以通过购买更好的模型或安装一个一体化工具来解决的软件工程问题，"Caversan说。

CIO中存在一种倾向，即认为更换模型或添加静态过滤器可以弥补人类治理的缺失，但这可能并不足够。Caversan警告说，在不培训员工持续进行判断、也不让人类操作者承担责任的情况下增加新的复杂性，只会加速低效并掩盖潜在风险。他补充道，AI偏见真正的根源在于人类背景、数据质量和运营设计。

Caversan表示，归根结底，AI偏见是一个领导力和系统工程问题。"组织不应等到有了完美的治理框架或完美的AI防护机制才行动，"他说，"他们应该现在就建立切实可行的控制措施。"

他说，这包括机器身份管理、最小权限原则、隔离机制、端到端追踪、人工检查点、持续测试以及可靠的关闭机制。