智能客服的成本账：一次对话到底花多少钱

「上 AI 客服能省多少钱」是老板最关心的问题，「一次对话成本多少」是回答它的前提。

成本由四段构成

• 输入：系统提示、历史对话、检索到的文档片段，通常是最贵的一块
• 输出：回答长度，长回答的成本远高于短回答
• 检索：向量库查询与重排，量大时是固定开销
• 人工兜底：转人工比例 × 平均处理时长

三个可用的省钱手段

一是裁剪上下文：只保留最近 3 轮对话与最相关的 5 个片段；二是分级模型：意图简单的问题走小模型，复杂问题再升级；三是缓存：高频问题走缓存答案，命中率通常能到 20%—40%。

别忽略人工兜底

把简单问题挡在 AI 层，人工处理复杂问题，整体成本才下降。如果 AI 只是把对话「聊完」但问题没解决，用户会重复进线，成本反而上升。

一个经验比例

在我们交付的项目里，能做到 60%—75% 的会话由 AI 独立闭环，是比较健康的区间。追求 95% 往往意味着过度承诺与体验崩塌。