先给一个真实的对照。某零售客户的售后工单场景，试点期每月账单约 3 万元，其中模型调用费占七成。项目通过验收进入全量后，第三个月的账单变成 11.8 万元，而调用量只增长了 3.2 倍。多出来的钱，几乎全部落在模型调用费之外。
所以「AI 智能体成本怎么算」这个问题，正确的问法不是「一次对话多少钱」，而是「一个稳定运行的生产系统，一年要花哪几笔钱」。我们把它拆成四笔。
第一笔：一次性投入，决定系统的天花板
这部分包含场景梳理、系统集成、数据治理与评测集建设。它不随调用量变化，但决定了后面三笔账的量级：数据没治理干净，后面就要用人去补；集成没做透，用户就会绕过系统，用量永远起不来。
经验比例上，一次性投入通常占项目第一年总成本的 35% 到 50%。这部分被压得过狠的项目，往往在半年后以「效果不行」的名义重新立项，实际是把一笔钱花了两遍。
第二笔：推理成本，取决于输入长度的结构
大多数团队只盯着输出 token 的单价，但智能体场景里输入远大于输出。一次工单处理可能带入 8000 字符的历史记录、知识片段与工具返回结果，输出只有 300 字。控制推理成本的关键动作是三个：
- 上下文裁剪：只带与当前步骤相关的片段，而不是把全部对话历史塞进去。
- 模型分级：意图识别、字段抽取用小模型，复杂推理与长文生成才走大模型。
- 缓存复用：制度、产品参数这类稳定前缀做成可缓存内容，命中后单价显著下降。
第三笔：人在环，最容易被漏算的一项
试点期通常由业务骨干兼职审核，成本记在人力预算里，看起来是零。进入全量后，审核变成正式岗：每天要处理系统标记的低置信度样本，还要维护知识库的口径更新。
我们的测算方式是：把「每千次任务需要的人工复核分钟数」作为独立指标跟踪。这个指标如果没有随着迭代下降，说明系统并没有真正在学习，只是把工作量转移了位置。
第四笔：运维与折旧
包含评测集维护、提示词与工作流版本管理、模型升级回归、算力闲置。私有化部署时，闲置率是最容易被低估的成本——采购按峰值算力，实际平均利用率常常不足三成。
| 支出项 | 驱动因素 | 可控手段 |
|---|---|---|
| 一次性投入 | 场景数量、系统复杂度 | 分批上线，先做高价值单场景 |
| 推理成本 | 上下文长度、调用频次 | 裁剪、分级、缓存 |
| 人在环 | 低置信度比例、口径变更频率 | 提升置信度、收敛知识来源 |
| 运维折旧 | 算力利用率、版本迭代节奏 | 弹性伸缩、季度级升级 |
规模化拐点：什么时候自建更划算
我们通常用三个条件同时判断是否值得私有化：稳定负载足以让算力长期利用率高于四成；数据合规要求较高、不适合出域；模型版本可以接受季度或半年迭代一次。三条同时满足时，私有化的三年总成本一般低于持续按量调用。
反过来，如果业务量波动大、或者需要持续使用最新一代模型能力，公有云按量付费仍然更经济——你多付的那部分钱，买的是不用为闲置算力和版本落后买单。
常见问题
问：一个 AI 智能体项目大概要花多少钱？
按我们的交付口径，预算分为一次性建设与月度运行两部分。前者取决于系统集成与数据治理的工作量，后者与调用量和并发规模强相关。建议按场景数量与年化调用量分档测算，而不是套用统一的包年报价——同样的「智能体」，一个只做问答，一个要调三个业务系统，成本可以差一个数量级。
问：为什么试点期很便宜，规模化之后成本会跳升？
试点期调用量小、人工兜底多，很多成本被项目组的人力吸收了。规模化后会出现三类额外支出：并发带来的算力冗余、多轮对话带来的上下文膨胀、人工审核从抽查变成全检。三者叠加，常在两到三个月内让月度账单翻倍。
问：预算有限时，应该先砍哪一部分？
不要砍数据治理与评测集，这两项砍掉之后，效果无法判断，后续所有投入都失去校准依据。可以压缩的是并发预留与全量上线范围：先按真实峰值的 60% 配置算力，用弹性扩容兜住尖峰；先把单场景做深，再横向复制。
最后一句经验：把「单次任务综合成本」当成和准确率同等重要的指标，每季度复算一次。只看调用费的项目，通常会在规模化阶段遇到一次说不清原因的预算超支。
本文数据来自天辰平台智能体交付项目，已做脱敏与归一化处理。