Gartner警告：AI使用激增侵蚀预期成本节省

根据高德纳咨询公司周一发布的报告，随着企业AI应用从基础的辅助功能发展到复杂、多步骤的流程，技术领导者正面临推理成本急剧上升的问题。该研究公司预测，到2028年，每个代理工作流的推理成本将增长超过五倍。

虽然令牌的单位成本正变得更高效，但不断演变的AI定价模式和日益复杂的工作流正在使技术主管的成本管理复杂化。高德纳指出，创新的速度目前超过了企业从其AI提供商那里实现的节省。

高德纳高级总监分析师威尔·索默在报告中警告称，产品领导者不能仅依赖令牌效率来控制组织成本。他说：“每一代新的AI能力都将需要更多、且通常更昂贵的令牌。目前还没有可靠、经济的一体化模型。”

成本担忧中投资激增

尽管企业对费用感到担忧，云提供商仍在增加对AI基础设施的资本投资。高德纳本月早些时候发现，用于支持模型训练和运营的计算支出预计到2026年底将几乎翻倍，达到420亿美元。

该公司还预测，全球令牌消费量将接近每天300万亿，反映出500%至600%的年化增长率，正如索默在7月告诉CIO Dive的那样。

不可预测的AI成本正促使一些组织重新考虑其实施策略。成本管理软件供应商Mavvrik在7月的一份报告中调查发现，近一半的企业表示已将AI支出超支上报给董事会。

许多公司现在正在寻求IT服务提供商的战略指导，以应对这些挑战。

索默在一封电子邮件中说：“成功实施AI是困难的。有效部署和管理企业级代理系统需要大多数公司目前不具备的技术和技能。对许多企业来说，与渠道合作伙伴协同工作对于将AI能力与业务流程对齐、扩展部署、最大化投资回报率以及制定长期AI战略至关重要。”

推理悖论

高德纳确定了影响令牌经济的三个因素。基础模型成本正在下降——这对企业来说是一个积极的发展——但AI效率的提高使得使用更强大、更昂贵的模型成为可能，这些模型针对更高价值的应用。这些复杂的AI工作流消耗的令牌远多于早期模型的简单聊天机器人交互，从而推高了整体推理成本。

这种动态被高德纳称为“推理悖论”，描述了一种AI成本上升但没有明确路径实现可预测价值的情况。

索默在报告中说：“推理悖论的严峻经济性体现在简单聊天机器人和AI代理之间的差异上。简单聊天机器人必须读取和解释查询，并迅速给出概率上合理的答案，而AI代理必须不断推理、协商和自我质疑。”

实现投资回报率的途径

高德纳发现，从代理AI或推理代理等先进系统中获得投资回报需要比基础模型高得多的回报。索默指出，或者，公司需要高度优化其模型，以经济高效的方式完成复杂任务。

索默在7月表示，这两种方法都可行，但需要对业务流程进行重大改革。

索默说：“每个首席信息官都会有不同的优先事项，他们会有对组织至关重要的不同事务。首席信息官必须与组织的其他部分合作，确定优先事项是什么，以及AI是否是解决这些问题的成本效益高的方式。”

编者注：马特·阿什尔对本报道有所贡献。