OmniRoute / 产品能力

可以检视并自托管的控制。

查看网关控制、平台服务和本地控制台,而不是把功能列表当成托管承诺。

核心控制

自托管网关随附的内容。

核心控制

让请求不中断

当某个目标不可用或配额耗尽时,OmniRoute 会选择下一个健康的目标。

核心控制

压缩符合条件的上下文

12 引擎流水线可将符合条件的上下文减少 15–95%。文档中的工具密集型示例减少了 ~89%。

核心控制

$0 起步

90+ 个免费额度,以及 56 家周期性或免密钥的永久免费提供商。免密钥快速上手无需信用卡。

核心控制

支持 35 种集成

通过一个端点配置 Claude Code、Codex、Cursor、Cline、Copilot、Antigravity 及其他受支持的客户端。

核心控制

一个端点

在 /v1 接收 OpenAI、Claude、Gemini 和 Responses API 请求。

核心控制

运维控制

熔断器、加密凭据、MCP、A2A、记忆、护栏和评估随自托管网关一并提供。

能力

在一个控制台配置请求路径。

在本地控制台配置故障转移、配额、压缩、记忆、MCP 和 A2A。

网关控制

智能组合

把模型设为 auto,或用 19 种策略和分层故障转移构建自己的组合。

使用现成模式,或围绕你关心的目标组合 19 种策略。

网关控制

记忆

持久化对话记忆,支持 FTS5 关键词和 Qdrant 向量召回。

网关控制

3 层弹性防护

提供商熔断、连接冷却和模型锁定,在最小有效范围内隔离故障。

网关控制

免费配额

跨 90+ 个免费额度的池去重计量。

公开的免费额度容量,去重后统计。

网关控制

压缩

12 个可组合引擎,处理工具输出、上下文和响应风格。

将符合条件的 token 减少 15–95%。

网关控制

MCP 服务器

内置服务器,在 33 个作用域中暴露 110 个网关工具。

110 个工具 · 33 个作用域 · stdio / HTTP

网关控制

A2A 协议

具备 6 项技能的 JSON-RPC 代理服务器。

6 项技能 · JSON-RPC 2.0 · Agent Card

网关控制

语义缓存

重复请求可直接从缓存返回,响应头会报告由此节省的开销。

X-OmniRoute-Cache: HIT

平台服务

扩展本地网关。

嵌入式服务

以托管 sidecar 方式运行 Bifrost、9Router 或 CLIProxy,或运行完整的集群配置。

你的知识,进入上下文

把 Notion 和 Obsidian 接入为基于 MCP 的上下文来源。

内置护栏

提示注入检查、可选的 PII 脱敏和标准化安全过滤,不绑定任何提供商。

用量目标

在运维分析之外,跟踪连续记录、成就和实时节省。

控制台

检视配置和示例运行视图。

下方数值为示例数据。你的本地控制台反映的是你自己的提供商、请求和成本。

localhost:20128/dashboard示例数据
352家提供商已连接
90+个免费额度可用
198本示例中健康
  • Claude Code · OAuth · 在线
  • Cerebras · 免费 · 在线
  • Groq · 冷却示例
  • NVIDIA NIM · 免费 · 在线

OmniRoute by Cheaper Inference

选择运行 OmniRoute 的方式。

自托管 OmniRoute,或使用 Cheaper Inference 按成本排序的托管网关。