City
City 如何追踪用量、管理余额和处理计费
City 计量每次模型调用并追踪所有已连接 Agent 和产品的用量。这是计费、配额和成本管理的基础。
- 每次模型请求都会被计量(输入 token、输出 token)
- 用量按用户、按项目和按模型聚合
- 控制台中提供实时用量仪表板
- 用户在 City 中维护余额账户
- 余额随着用量产生而消耗
- 余额低时触发提醒
- 可以配置自动充值
City 与 Stripe 集成,支持:
- 软配额在达到限制前发出警告
- 硬配额在超出时阻止请求
- 配额可以按用户、按项目或按模型配置
继续阅读: