Federation & Service

模型提供商

Federation 如何注册和管理 AI 模型提供商

模型提供商

Federation AIService 抽象了多个 AI 模型提供商。模型提供商是任何能够服务模型请求的后端 —— OpenAI、Anthropic、Google 或本地推理服务器。

注册

提供商向 City 注册,暴露:

  • 可用模型 ID
  • 能力标志(流式、工具使用、视觉等)
  • 认证要求

统一 API

无论后端是什么,Federation AIService 向 Agent 暴露统一的 API。这意味着:

  • Agent 不需要提供商专属代码
  • 切换提供商是配置变更,不是代码变更
  • 可以添加新提供商而不修改 Agent

能力发现

当 Agent 绑定到模型 ID 时,City 报告:

  • 模型是否支持流式
  • 模型是否支持工具使用
  • 最大上下文长度
  • 每 token 定价

继续阅读: