专家：企业需要考虑GPU之外的代理AI！
代理AI工具更多地是关于可以在CPU上运行的嵌入式进程，而不需要云中昂贵的GPU。
分析师表示，从生成人工智能（genAI）到代理人工智能的持续转变为企业转向更灵活、更便宜的计算形式提供了机会。早期的人工智能模型主要建立在Nvidia和AMD提供原始处理能力的昂贵GPU上。但是，基于业务流程和工作流管理的较新的代理人工智能工具可以在更高效、更具成本效益的硬件上运行。因此，仍然认为他们需要GPU来处理任何与人工智能相关的事情的IT决策者需要从成本和能力两个方面重新考虑他们的硬件选择。
对于企业来说，更好的思考方式是人工智能计算的成本，以及现在代理人工智能平台服务或系统的成本。新的硬件选项包括CPU和专用AI芯片，在半导体术语中也称为ASIC。尽管这些芯片已经存在多年，但随着代理人工智能成为主流，它们现在显示出真正的实用性。Nvidia已经意识到，除了耗电量大的GPU之外，它还需要一个低功耗芯片，因此已经在其硬件堆栈中引入了一个用于推理的ASIC。它最近以200亿美元的价格从Groq获得了人工智能芯片技术的许可。
由于代理AI涉及的计算模型与GPU上的genAI训练不同，企业需要考虑通过云提供商提供的硬件选项和定价模型。这更多地是关于模型管理而不是模型构建，CPU在提供工作流管理方面至关重要。AI行业解读 AI创业攻略 AI技术创业 AI开发流程