OmniRoute Auto-Combo 实战指南：把模型设为 auto，让网关为每个请求自动选出最优 AI 提供商

OmniRoute Auto-Combo 实战指南把模型设为 auto让网关为每个请求自动选出最优 AI 提供商【免费下载链接】OmniRouteNever stop coding. Free MIT AI gateway: one endpoint, 352 providers (150 free), 1200 models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline Copilot. Quota-aware auto-fallback, RTKCaveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 550 contributors项目地址: https://gitcode.com/GitHub_Trending/om/OmniRoute本篇指南讲解 OmniRoute 的零配置自动路由将任意客户端的model字段设为auto或auto/variant网关会基于健康度、速度、成本、质量与配额实时为每个请求打分并选出最优提供商失败时自动回退。读完后你将掌握全部auto/*变体的选择方法、15 因子打分权重、三层故障自愈机制以及多账号候选池的工作方式。Auto-Combo 做什么与其在客户端里手工指定某个具体模型如 GPT-4o 或 Claude不如让 OmniRoute为每个请求自动挑选最合适的提供商。它会同时考虑健康Health— 该提供商此刻是否正常工作速度Speed— 响应有多快成本Cost— 价格如何质量Quality— 它擅长这类任务吗容量Capacity— 配额还剩多少OmniRoute 会为所有已连接的提供商打分并选择得分最高者。如果请求失败它会自动尝试下一个候选全程无需人工干预。快速上手第 1 步在你的 IDE 或 CLI 中把模型设为automodel: auto第 2 步完成。其余全部由 OmniRoute 处理。第 3 步可选使用变体针对特定任务优化model: auto/coding # 代码任务最优 model: auto/fast # 响应最快 model: auto/cheap # 成本最低该用哪个 auto你想要……使用最适合工作方式综合最优auto通用问答、聊天平衡速度、成本与质量代码最强auto/coding写代码、调试挑选擅长编码任务的模型响应最快auto/fast快速问答、低延迟一切让位于速度成本最低auto/cheap省钱挑选最便宜的提供商最聪明auto/smart复杂任务质量优先 探索新模型容量最足auto/offline提供商繁忙时挑选剩余容量最大的提供商curl 示例# 通用聊天 — 平衡 curl http://localhost:20128/v1/chat/completions \ -H Content-Type: application/json \ -d {model:auto,messages:[{role:user,content:Hello!}]} # 代码生成 — 质量优先 curl http://localhost:20128/v1/chat/completions \ -H Content-Type: application/json \ -d {model:auto/coding,messages:[{role:user,content:Write a Python function}]} # 快速问答 — 速度优先 curl http://localhost:20128/v1/chat/completions \ -H Content-Type: application/json \ -d {model:auto/fast,messages:[{role:user,content:What is 22?}]}工作原理从请求进入网关到候选打分从源码结构看整个自动路由链路在 autoRouting 处理器 中完成识别前缀—resolveAutoRoutingState()判断model是否以auto或auto/开头若管理员在 Settings Routing 中关闭了自动路由autoRoutingEnabled: false会直接返回 400 提示。解析变体— parseAutoPrefix 把auto/coding之类的 model 名解析为variant: coding裸auto与auto/解析为无变体默认权重。源码中的合法变体集合为coding | fast | cheap | offline | smart | lkgp | chaos共 6 个AutoVariant值加上无变体的裸auto构成 7 个可调用 model ID。虚拟组合Virtual Combo— createVirtualAutoCombo 调用 virtualFactory 在内存中按当前激活连接现场构建一个AutoComboConfig拉取所有isActive连接 → 过滤出凭据有效者API key 或未过期 OAuth token→ 与提供商注册表交叉核对模型与价格 → 对每个(provider, model, connection)元组生成候选 → 用变体对应的权重包打分 → 返回结果。整个过程不写数据库组合仅存活于本次请求。同一套组合引擎执行— 虚拟组合随后走与持久化 combo 相同的handleComboChat()引擎engine.ts 中的选择逻辑还会叠加 Bandit 探索与预算上限。这意味着两个关键特性始终生效— 无需开关、无需预先创建 combo、无需任何配置动态— 候选池自动反映当前已连接的提供商。新加一个提供商auto/*的候选池立刻自动扩大无需手工编辑。打分系统用户视角与源码真相用户文档给出的简化模型是每个候选获得 01 的分分数越高越合适默认权重按健康 20%、配额 15%、成本 15%、速度 12%、任务匹配 8%、稳定性 5%、档位 5%、其他 20%理解即可。而在实际实现里scoring.ts 中的DEFAULT_WEIGHTS声明了一个15 因子的加权函数各因子默认权重精确如下因子默认权重含义quota0.1429剩余配额 / 限流余量 [0..1]health0.1605熔断器健康分CLOSED1.0HALF_OPEN0.5OPEN0.0costInv0.1429反向混合成本60% 输入 40% 输出 token 单价归一化— 越便宜分越高latencyInv0.1143反向 p95 延迟相对候选池归一化 — 越快分越高taskFit0.0762任务类型适配度coding、review、planning、analysis、debugging、docsstability0.0476基于方差延迟 stdDev / 错误率的稳定性tierPriority0.0476账号档位 — Ultra1.0Pro0.67Standard0.33Free0.0tierAffinity0.0476候选档位与 manifest 推荐档位的亲和度specificityMatch0.0476请求特异度与模型档位的匹配contextAffinity0.0476请求上下文窗口需求与模型上下文窗口的亲和度sessionAvailability0.0476该连接对本 OAuth 会话的可用性非 OAuth 连接恒为 1.0connectionDensity0.0476同一提供商多连接间分散负载防集中cacheAffinity0.00提示词缓存亲和默认不参与投票另在评分外门控缓存去重resetWindowAffinity0.00配额重置窗口偏好默认权重为 0quality0.03基于路由事件质量追踪器的反馈信号无观测记录的候选取中性 0.5总和恰好为 1.0。calculateScore() 计算加权求和后用clamp01约束到 [0, 1]并把 NaN 映射为 0保证单个坏输入不会破坏排序用户自定义权重则先经normalizeScoringWeights()重归一化为一个分布。此外builtinCatalog.ts 中的AUTO_TEMPLATE_VARIANTS还暴露了一批更易读的别名 ID如auto/best-coding→ coding 权重、auto/best-reasoning→ smart、auto/best-free→ cheap 且候选池限定免费档以及auto/coding:fast这类类别:档位组合写法见 技术参考。过滤是 fail-open 的若约束匹配不到任何已连接模型会退回全量候选池保证路由永不因过滤而断掉。变体如何改变权重每个变体映射到 modePacks.ts 中预定义的权重包运行时再与会话/上下文因子一起重归一化到 1.0变体优化目标关键权重源码实际值auto平衡默认权重health 0.1605 / quota 0.1429 / costInv 0.1429auto/coding质量quality-firsttaskFit 0.3524 stability 0.1429auto/fast速度ship-fastlatencyInv 0.3048 health 0.2667auto/cheap成本cost-savercostInv 0.3524auto/smart质量 探索与 coding 同权探索率提升至 10%auto/offline容量offline-friendlyquota 0.3524 health 0.2667auto/chaos故障注入chaos-modehealth 0.4用于韧性测试用户指南中fast 权重 latency32%/health28%cheap 权重 cost37%等近似值与源码中的 0.3048/0.2667、0.3524 等重归一化前的种子权重一一对应。故障处理三层防护1. 自动回退Auto-Fallback最优提供商失败时OmniRoute 自动尝试下一个候选。你什么都不用做。2. 自愈Self-HealingselfHealing.ts 实现了SelfHealingManager源码常量与行为如下临时排除得分 0.2 的候选被排除默认冷却 5 分钟DEFAULT_COOLDOWN_MS随连续失败渐进退避至最多 30 分钟MAX_COOLDOWN_MS熔断器感知状态 OPEN → 自动排除HALF_OPEN → 允许探测请求probe恢复事故模式Incident mode超过 50% 候选处于 OPENINCIDENT_MODE_THRESHOLD 0.5时进入事故模式 — 关闭探索、最大化稳定性冷却恢复排除期结束后首个请求是带缩短超时的探测请求。3. 紧急兜底Emergency Fallback若所有提供商都失败OmniRoute 会把流量转给稳定的免费提供商如 Kiro、Qoder作为最后手段。多账号支持如果你为同一提供商配置了多个账号例如两把 OpenAI keyOmniRoute 会把每个连接当作独立的候选。也就是说账号 A 还有配额 → 用它账号 B 被限流 → 跳过它账号 C 更便宜 → 优先它每个账号基于自身的健康、配额与速度独立打分connectionDensity因子还会避免把负载过度集中在同一个提供商的少数连接上。Bandit 探索engine.ts 中的选择逻辑带一个探索率explorationRate默认0.05默认5% 的请求被随机分派给非最优候选auto/smart探索率提升至 10%事故模式下effectiveExplorationRate被强制为 0超过 50% 提供商不健康时完全停止探索。这让 OmniRoute 能持续学习哪些提供商最契合你的使用模式而不是永远锁死在历史最优上。常见问题它会一直选最贵的模型吗不会。成本默认只占约 15% 的权重0.1429。一个便宜、快速且健康的提供商完全可以赢过昂贵模型。想更极致地压成本用auto/cheap。某个提供商挂了怎么办OmniRoute 自动跳过它并尝试下一个。若持续失败会临时排除530 分钟渐进退避。你不需要做任何事。我能看到实际用了哪个提供商吗检查响应头 — OmniRoute 在每次响应中带上实际使用的提供商与模型。它会从我的使用中学习吗会。打分系统使用历史遥测数据延迟、错误率、成功率以及路由事件质量追踪器的quality信号随时间做出更优决策。auto和auto/smart的区别auto— 平衡权重5% 探索auto/smart— 质量优先与auto/coding相同权重10% 探索。想要最高质量、并能接受偶尔探索时用auto/smart。我能强制指定某个提供商吗可以。用priority策略的持久化 combo把 combo 的精确名称作为model字段发送如model: my-combo而不是auto。注意auto不会使用你的持久化 combo — 它自建零配置候选池。细节见技术参考中的Calling a Custom Combo From a Client一节。这和 round-robin 有什么区别Round-robin 按顺序轮流使用提供商Auto-Combo对每个候选打分再选最优 — 它综合了健康、速度、成本与质量。同样的 19 种组合策略round-robin、weighted、cost-optimized、lkgp等都可用于持久化 combo见 路由策略清单。深入阅读与下一步Auto-Combo 技术参考 — 15 因子算法、模式包权重表、6 种可插拔 RouterStrategyrules/cost/latency/sla-aware/lkgp/自定义、请求头级控制X-OmniRoute-Mode/X-OmniRoute-Budget、自修复算法细节接入提供商指南 — 添加你的第一个 AI 提供商免费档位指南 — 无信用卡获取免费 AI故障排查 — 修复常见问题核心实现与测试scoring.ts、engine.ts、selfHealing.ts、autoPrefix.ts、virtualFactory.ts、builtinCatalog.ts、autoRouting.ts【免费下载链接】OmniRouteNever stop coding. Free MIT AI gateway: one endpoint, 352 providers (150 free), 1200 models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline Copilot. Quota-aware auto-fallback, RTKCaveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 550 contributors项目地址: https://gitcode.com/GitHub_Trending/om/OmniRoute创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考