Token 计量

Token 是文本模型计费和容量限制的基本单位。网关在内存中计算输入与输出 Token，并将汇总写入用量记录；启用零数据模式时不保存正文。

影响计量的因素

系统提示词、历史消息、工具定义和多模态占位符都可能计入输入；流式输出按已生成内容累计。不同模型的 tokenizer 不同，不能用字符数直接估算。

估算示例

const estimate = await client.chat.completions.create({
  model: "openai/gpt-4.1-mini",
  messages: [{ role: "user", content: "仅用于估算的短文本" }],
  max_tokens: 32,
});
console.log(estimate.usage); // prompt_tokens / completion_tokens / total_tokens

以响应中的 usage 作为最终结果；预估值只用于预算和限流，不能替代账单。