City
模型池
City 如何管理模型目录,以及 Agent 如何绑定模型
模型池
City 通过 Federation AIService 拥有模型目录。Agent 不直接嵌入提供商密钥或模型定义。相反,它们通过 ID 绑定模型,City 在运行时将 ID 解析为实时模型实例。
工作原理
- City 注册模型提供商(OpenAI、Anthropic、Google、本地模型等)
- 每个提供商暴露能力和模型 ID
- Federation AIService 维护统一目录
- Agent 绑定到类似
"default"或"quality"的模型 ID - 运行时,ID 被解析为实时模型实例
模型绑定
对于 CLI 管理项目,绑定保存在 CLI 全局 DB 的 Agent 配置中:
{
"execution": {
"type": "api",
"modelId": "quality"
}
}对于 SDK 项目,模型直接传入构造函数或 session。
提供商管理
City 处理:
- 提供商注册和认证
- 模型能力发现
- 按提供商的用量计量
- 提供商间故障转移
继续阅读: