Federation & Service
模型提供商
Federation 如何注册和管理 AI 模型提供商
模型提供商
Federation AIService 抽象了多个 AI 模型提供商。模型提供商是任何能够服务模型请求的后端 —— OpenAI、Anthropic、Google 或本地推理服务器。
注册
提供商向 City 注册,暴露:
- 可用模型 ID
- 能力标志(流式、工具使用、视觉等)
- 认证要求
统一 API
无论后端是什么,Federation AIService 向 Agent 暴露统一的 API。这意味着:
- Agent 不需要提供商专属代码
- 切换提供商是配置变更,不是代码变更
- 可以添加新提供商而不修改 Agent
能力发现
当 Agent 绑定到模型 ID 时,City 报告:
- 模型是否支持流式
- 模型是否支持工具使用
- 最大上下文长度
- 每 token 定价
继续阅读: