模型与供应商

模型描述“能做什么”,供应商渠道描述“由谁来做”。一个公共模型可以绑定多个渠道,网关根据实时指标选择其中一个。

阅读模型详情

接入前至少确认:输入/输出模态(文本、图像、音频)、上下文窗口、最大输出、工具调用、结构化输出、流式协议、区域限制和 Token 价格。能力标记是硬约束;例如不支持视觉的渠道不会被路由到包含 image_url 的请求。

渠道与映射

管理员为每个渠道配置上游模型 ID、协议类型和转换规则。原生兼容协议可直接透传;字段名称或响应结构不同的渠道使用协议 DSL 转换。转换失败会返回 PROTOCOL_TRANSFORM_FAILED,不会产生一个看似成功但字段丢失的响应。

稳定的调用方式

const result = await client.chat.completions.create({
  // 使用公共 ID,不要写供应商私有模型名
  model: "openai/gpt-4.1-mini",
  messages: [{ role: "user", content: "列出三项检查清单" }],
});

切换渠道、增加备用供应商或调整权重时,不需要发布新版本。若业务必须固定渠道,可在项目路由策略中设置允许的供应商集合,并接受可用性下降的代价。

价格与计量

控制台按请求展示输入 Token、输出 Token、单价和估算成本。网关优先使用供应商返回的 usage;缺失时按该模型的官方算法在本地计算。流式请求结束前的中断会标记为部分用量,具体以项目计费规则为准。