速度优先路由

速度优先按 TTFT、端到端延迟和近期吞吐量评分,适合客服、实时补全和语音交互。评分使用滑动窗口指标,短时抖动不会立即导致流量全部迁移。

建议同时设置成本上限。速度优先可能把流量分配给单价较高的渠道;预算触顶后请求会返回 429,而不是无限降级。