「上 AI 客服能省多少钱」是老板最关心的问题,「一次对话成本多少」是回答它的前提。
成本由四段构成
- 输入:系统提示、历史对话、检索到的文档片段,通常是最贵的一块
- 输出:回答长度,长回答的成本远高于短回答
- 检索:向量库查询与重排,量大时是固定开销
- 人工兜底:转人工比例 × 平均处理时长
三个可用的省钱手段
一是裁剪上下文:只保留最近 3 轮对话与最相关的 5 个片段;二是分级模型:意图简单的问题走小模型,复杂问题再升级;三是缓存:高频问题走缓存答案,命中率通常能到 20%—40%。
别忽略人工兜底
把简单问题挡在 AI 层,人工处理复杂问题,整体成本才下降。如果 AI 只是把对话「聊完」但问题没解决,用户会重复进线,成本反而上升。
一个经验比例
在我们交付的项目里,能做到 60%—75% 的会话由 AI 独立闭环,是比较健康的区间。追求 95% 往往意味着过度承诺与体验崩塌。




发表回复