City

模型池

City 如何管理模型目录,以及 Agent 如何绑定模型

模型池

City 通过 Federation AIService 拥有模型目录。Agent 不直接嵌入提供商密钥或模型定义。相反,它们通过 ID 绑定模型,City 在运行时将 ID 解析为实时模型实例。

工作原理

  1. City 注册模型提供商(OpenAI、Anthropic、Google、本地模型等)
  2. 每个提供商暴露能力和模型 ID
  3. Federation AIService 维护统一目录
  4. Agent 绑定到类似 "default""quality" 的模型 ID
  5. 运行时,ID 被解析为实时模型实例

模型绑定

对于 CLI 管理项目,绑定保存在 CLI 全局 DB 的 Agent 配置中:

{
  "execution": {
    "type": "api",
    "modelId": "quality"
  }
}

对于 SDK 项目,模型直接传入构造函数或 session。

提供商管理

City 处理:

  • 提供商注册和认证
  • 模型能力发现
  • 按提供商的用量计量
  • 提供商间故障转移

继续阅读: