企业级 AI 应用工程实战（十三）：AI 应用日志、Token 成本统计与用量计费设计

摘要

上一篇文章我们完成了 Agent Trace、可观测性与调试面板。Trace 解决的是“出了问题怎么排查”；而本文要解决另一个更现实的问题：AI 应用上线后，成本怎么管？用量怎么计？额度怎么控？账单怎么出？

很多团队在做 AI 应用 Demo 时，只关心模型能不能回答、RAG 能不能检索、Agent 能不能调用工具。但一旦进入企业级场景，很快就会遇到这些问题：

这个用户今天用了多少 Token？ 这个部门本月花了多少钱？ 哪个模型最贵？ 哪个功能最消耗 Token？ 为什么本周成本突然升高？ 不同套餐用户如何限制额度？ 如何防止单个用户刷爆模型调用？ 如何把模型成本分摊到部门、租户或客户？

如果没有用量统计和成本控制，AI 应用很容易出现“功能很好用，但账单失控”的问题。

本文会系统讲解企业级 AI 应用中的日志、Token 成本统计与用量计费设计，包括：

1. Token 成本为什么必须系统化管理；
2. 企业级 AI 成本由哪些部分组成；
3. 如何设计模型价格表；
4. 如何记录每次模型调用用量；
5. 如何按用户、租户、部门、功能统计成本；
6. 如何实现用量额度、限流和套餐；
7. 如何设计账单表和成本看板；
8. 如何处理流式输出、RAG、Agent、多模型路由下的成本统计；
9. 如何做成本优化。