OmniRouteby Cheaper Inference
OmniRoute è entrato a far parte di Cheaper InferenceScopri Cheaper Inference

#1 Router AI Open Source

Instrada le richieste su 352 provider tramite un unico endpoint compatibile con OpenAI, con fallback automatico.

Prova Cheaper InferenceSelf-hosting di OmniRoute (si apre in una nuova scheda)
Compatibile con OpenAI Gratuito e open source77.5k stelle (si apre in una nuova scheda)

OmniRoute × Cheaper Inference

Combina il fallback automatico e gli strumenti per sviluppatori di OmniRoute con il marketplace ordinato per costo di Cheaper Inference. Ogni richiesta idonea parte dalla route provider più economica disponibile.

97 modelliPrezzo di listino diretto confrontato con il prezzo Cheaper Inference
Prezzi di listino diretti confrontati con i prezzi Cheaper Inference per modello
ModelloPrezzo inputPrezzo outputRisparmioContestoDettagli
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokens60% di sconto1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens60% di sconto1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokens59.52% di sconto128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens50% di sconto1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens50% di sconto1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% di sconto128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% di sconto198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% di sconto128K
8 di 97 modelli mostrati
Prezzo di listino diretto → prezzo Cheaper Inference · Sfoglia tutti i modelli · Vedi il catalogo live (si apre in una nuova scheda)Prezzi verificati il 14 ott 2026, 14:00 UTC. Le tariffe possono cambiare quando variano i prezzi upstream o le route disponibili.

Controlli principali

Un solo endpoint per i provider che hai configurato.

Core control

Richieste sempre in movimento

Quando un target non è disponibile o ha esaurito la quota, OmniRoute seleziona il target sano successivo.

Core control

Comprimi il contesto idoneo

Una pipeline a 12 motori riduce il contesto idoneo del 15–95%. Nell'esempio documentato con uso intensivo di tool la riduzione è stata del ~89%.

Core control

Si parte da $0

90+ tier gratuiti e 56 provider gratuiti per sempre, ricorrenti o senza chiave. Nessuna carta di credito per il quick start senza chiave.

Core control

35 integrazioni supportate

Configura Claude Code, Codex, Cursor, Cline, Copilot, Antigravity e altri client supportati tramite un unico endpoint.

Core control

Un solo endpoint

Accetta richieste OpenAI, Claude, Gemini e Responses API su /v1.

Core control

Controlli operativi

Circuit breaker, credenziali cifrate, MCP, A2A, memoria, guardrail ed eval sono inclusi nel gateway self-hosted.

Il catalogo

Tutti dietro un unico endpoint.

Un catalogo che copre chat, media, ricerca, runtime locali, agenti cloud e integrazioni di sistema.

352 provider

Tutti quanti, dietro un unico endpoint locale.

L'unico endpoint a cui punta ogni clienthttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233Chiave APIOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Cookie webChatGPT Web, Claude Web, Gemini Web, Grok Web…
14LocaleOllama, LM Studio, vLLM, llama.cpp…
13Senza autenticazioneOpenCode Free, Felo, Pollinations e altre route senza chiave…
Esplora la guida ai provider (opens in a new tab)

Quick start

Installa, avvia, connetti.

Installa il pacchetto, avvia il gateway, poi punta qualsiasi client compatibile con OpenAI alla porta 20128.

Catalogo provider
352
Strategie di routing
19
Endpoint locale
:20128/v1

Step 1: Installa

Installa il pacchetto npm omniroute a livello globale.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Avvia

Avvia API e dashboard insieme sulla porta 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Connetti il tuo tool

Usa http://localhost:20128/v1; la route auto senza chiave funziona su un'installazione nuova.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Controlli del gateway

I controlli principali del gateway in un solo processo.

Configura fallback, quota, compressione, memoria, MCP e A2A dalla dashboard locale.

Gateway control

Smart Combos

Imposta un modello su auto o crea la tua combo con 19 strategie e fallback a livelli.

Usa una modalità pronta o combina 19 strategie attorno all'obiettivo che conta.

Gateway control

Memoria

Memoria conversazionale persistente con ricerca per parole chiave FTS5 e recupero vettoriale Qdrant.

Gateway control

Resilienza a 3 livelli

Breaker del provider, cooldown della connessione e blocco del modello isolano i guasti nell'ambito più piccolo utile.

Gateway control

Quota gratuita

Conteggio deduplicato per pool su 90+ tier gratuiti.

Capacità pubblicata dei tier gratuiti, deduplicata.

Gateway control

Compressione

12 motori componibili per output dei tool, contesto e stile delle risposte.

Riduci i token idonei del 15–95%.

Gateway control

Server MCP

Un server integrato che espone 110 tool del gateway in 33 scope.

110 tool · 33 scope · stdio / HTTP

Gateway control

Protocollo A2A

Un server agente JSON-RPC con 6 skill.

6 skill · JSON-RPC 2.0 · Agent Card

Gateway control

Cache semantica

Una richiesta ripetuta può essere servita dalla cache e l'header di risposta indica quanto è stato risparmiato.

X-OmniRoute-Cache: HIT

Compatibilità client

Tieni i tuoi strumenti di coding attuali.

Punta una CLI o un editor compatibile con OpenAI a un unico base URL locale; OmniRoute gestisce i provider che ci stanno dietro.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Usa i modelli OmniRoute in Copilot Chat.

OmniCopilot aggiunge i modelli OmniRoute al selettore di modelli esistente.

Marketplace ufficiale

Funziona in VS Code stable e Insiders. Installalo dal Marketplace o dalla vista Estensioni.

Open VSX Registry

Per Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod e altri editor compatibili.

Nessun piano Copilot richiesto

I modelli dei provider possono girare tramite OmniRoute in Copilot Chat senza instradare l'inferenza attraverso un piano Copilot.

VS Code Marketplace (si apre in una nuova scheda)Open VSX Registry (si apre in una nuova scheda)OmniCopilot source (si apre in una nuova scheda)

Problemi ricorrenti

Perché OmniRoute

Scopri quale controllo risolve ciascun problema ricorrente.

Without routing
With OmniRoute
La quota scade inutilizzata
Monitora e consuma la quota che già hai
I rate limit ti fermano a metà lavoro
Auto-fallback a 4 livelli in millisecondi
L'output dei tool brucia token
Compressione a 12 motori, 15–95% sui contenuti idonei
Le API costose si accumulano
Il routing ottimizzato per costo può scegliere il target idoneo più economico
Ogni tool richiede la sua configurazione
Un solo endpoint e una sola dashboard
Un provider non è raggiungibile dalla tua rete
Scope proxy e controlli del fingerprint client
Una chiave morta blocca un provider
Breaker, cooldown e blocco isolano il guasto
Un team condivide un solo abbonamento
Pool di chiavi e quote eque
Ti serve il controllo locale dei dati di routing
Storage local-first con credenziali cifrate
Nessuna visibilità su spesa e stato
Analisi di utilizzo, quota, risparmi e latenza

Snapshot della documentazione

Confronto tra i gateway

Funzionalità verificate rispetto alla documentazione dei progetti collegati il 2026-08-30.

FunzionalitàOmniRoute (si apre in una nuova scheda)9Router (si apre in una nuova scheda)LiteLLM (si apre in una nuova scheda)CLIProxyAPI (si apre in una nuova scheda)
Provider35240+100+8+ upstreams
Strategie di routing193-tierretry / priorityround-robin / fill-first
Fallback a livelli con UIYesYesManual policyMulti-account
Compressione dei token12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Snapshot del README pubblico e della documentazione ufficiale; verifica le fonti collegate prima di decisioni di acquisto o deployment.

Deployment

9 modi supportati per eseguire OmniRoute.

Installalo su laptop, server o telefono, oppure collegati tramite un editor e un plugin supportati.

npm

Un solo comando su qualsiasi OS desktop supportato

npm install -g omnirouteApri la guida (si apre in una nuova scheda)

Docker

Immagine multi-arch AMD64 e ARM64

docker run … diegosouzapw/omnirouteApri la guida (si apre in una nuova scheda)

Desktop

Finestra nativa e system tray su Windows, macOS e Linux

npm run electron:buildApri la guida (si apre in una nuova scheda)

ARM

Raspberry Pi, server ARM e Apple Silicon

native arm64

Android · Termux

Gira su Android senza root

pkg install nodejs && npx -y omnirouteApri la guida (si apre in una nuova scheda)

PWA

A schermo intero, pronta per l'offline e installabile dal browser

Add to Home ScreenApri la guida (si apre in una nuova scheda)

OpenCode plugin

Plugin provider nativo per OpenCode

@omniroute/opencode-providerApri la guida (si apre in una nuova scheda)

VS Code

Modelli OmniRoute nel selettore di Copilot Chat

Install OmniCopilotApri la guida (si apre in una nuova scheda)

From source

Modificalo e contribuisci

npm install && npm run devApri la guida (si apre in una nuova scheda)

Routing

Scegli una route auto.

Usa una modalità pronta o combina 19 strategie attorno all'obiettivo che conta.

Modello · fallback attivoautoBalanced default
Richiesta compatibile con OpenAI
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Consuma la quota dell'abbonamento

Usa la quota che già hai prima di toccare le API a pagamento.

priority · fill-first

Distribuisci il carico

Bilancia il traffico tra chiavi e account per ridurre la pressione dei rate limit.

weighted · round-robin · p2c · least-used · headroom

Prima il più economico

Instrada verso il target idoneo a costo più basso.

cost-optimized

In base al contesto

Tieni i contesti lunghi su modelli adeguati, poi trasferisci quando serve.

context-relay · context-optimized · cache-optimized

Casuale

Distribuisci il traffico idoneo tra i target.

random · strict-random

Punteggio adattivo

Usa un punteggio a 15 fattori, l'ultimo target funzionante e finestre che tengono conto dei reset.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Conteggio dei tier gratuiti

Capacità pubblicata dei tier gratuiti, deduplicata.

455 voci di catalogo vengono deduplicate in 40 pool ricorrenti; solo i budget pubblicati positivi alimentano il totale in evidenza.

1.51B

Il conteggio deduplicato per pool evita che le quote condivise vengano contate più di una volta. I provider senza limite restano visibili senza gonfiare il totale dei token. Checked 2026-08-30.

Vedi il calcolo (si apre in una nuova scheda)
Provider gratuiti per sempre, ricorrenti o senza chiave56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Compressione del contesto

Riduci i token idonei del 15–95%.

Output dei tool, contesto ripetuto e dati strutturati gonfiati possono essere compressi prima di arrivare al modello.

Contesto ridotto del 15–95% sui token idonei

Prima: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Dopo: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Stessa istruzione. Meno contesto da pagare.

Prima69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Dopo19 tokens
sum all list items where value > 0

Pipeline componibile

  1. Session-Dedup
    Elimina i contenuti già inviati in precedenza nella sessione.
  2. CCR
    Archivia i blocchi grandi e ripristinali su richiesta.
  3. Lite
    Applica una pulizia lossless conservativa.
  4. RTK
    Filtra e deduplica l'output di comandi e tool.
  5. Responses Tool Output
    Compatta i payload dei tool della Responses API.
  6. Headroom
    Applica una compattazione reversibile di dati tabulari e strutturati.
  7. Relevance
    Conserva le frasi più pertinenti all'ultima query.
  8. Caveman
    Usa una condensazione della prosa basata su regole.
  9. Aggressive
    Applica un pruning configurato più aggressivo.
  10. LLMLingua-2
    Usa un pruning semantico sicuro per il codice in un worker isolato.
  11. Ultra
    Combina fasi ad alto risparmio con protezioni di conservazione.
  12. OmniGlyph
    Codifica in modo compatto le strutture ripetute idonee.

Profili

Intervallo pubblicato del profilo~30%x-omniroute-compression: standard

Compressione Standard selezionata. Intervallo pubblicato ~30%.

Controlli e stili di output

  • Profili con nome e selettore attivo
  • Visual Compression Studio
  • Anthropic Context Editing
  • Regolatore adattivo del budget di contesto
  • Header \
  • per singola richiesta
  • Harness di eval offline
  • Attivazione automatica a soglia di token
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Precedenza dei controlli: header di richiesta → combo → profilo → policy adattiva → default.

Isolamento dei guasti

Isola i guasti di provider, connessione e modello.

Una chiave guasta non deve bloccare un provider. Un modello limitato non deve bloccare una connessione.

modello ⊂ connessione ⊂ provider
Circuit breaker del providerQuando un provider non è sano, il routing delle combo lo salta finché una sonda half-open non ha successo.
Cooldown della connessioneMetti in pausa una chiave o un account mentre le connessioni sorelle continuano a servire.
Blocco del modelloBlocca un modello soggetto a rate limit o non disponibile mentre gli altri modelli della connessione restano disponibili.

Controlli di rete

Routing di rete e controllo dei dati locali.

Gli scope proxy controllano il routing di rete, mentre lo storage local-first tiene i dati operativi sulla tua macchina.

Tre scope proxy

Instrada a livello globale, per provider o per singola connessione.

  • Globale · per provider · per connessione
  • Proxy SOCKS5 e HTTP(S)
  • Integrazione con marketplace di proxy

Controlli del fingerprint TLS e client

Replica i client dei provider supportati fino a caratteristiche di trasporto selezionate.

  • Trasporto con supporto JA3/JA4 tramite wreq-js
  • Profili client specifici per provider
  • Controlli di uscita IPv4 e IPv6

Privato e local-first

Chiavi, utilizzo e cronologia restano sull'host che controlli.

  • SQLite su disco con credenziali cifrate AES-256-GCM
  • Nessun account OmniRoute richiesto
  • Self-hosting sull'infrastruttura che scegli
RussiaCinaIranCubaTürkiye

Dashboard locale

Configura OmniRoute senza toccare lo YAML.

Gestisci provider, combo, analisi, stato e costi su localhost:20128/dashboard.

localhost:20128/dashboardDati di esempio
352provider connessi
90+tier gratuiti disponibili
198sani in questo esempio
  • Claude Code · OAuth · attivo
  • Cerebras · gratuito · attivo
  • Groq · esempio di cooldown
  • NVIDIA NIM · gratuito · attivo

Protocolli agente

Esponi OmniRoute via MCP e A2A.

OmniRoute può esporre il suo gateway a client MCP, reti A2A e agenti di coding cloud supportati.

Server MCP

110 tool in 33 scope su trasporti stdio e HTTP.

110 tool · 33 scope · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

Server A2A

6 skill per routing intelligente, quota, discovery, analisi dei costi e report sullo stato via JSON-RPC 2.0.

6 skill · JSON-RPC 2.0 · Agent Card

Agenti cloud

Collega i workflow supportati di Codex, Cursor, Devin e Jules tramite un'unica superficie di orchestrazione.

Codex · Cursor · Devin · Jules

Servizi aggiuntivi

Estendi il gateway.

Servizi integrati

Esegui Bifrost, 9Router o CLIProxy come sidecar gestiti, oppure opera con un profilo cluster completo.

La tua conoscenza, nel contesto

Collega Notion e Obsidian come sorgenti di contesto basate su MCP.

Guardrail integrati

Controlli anti prompt injection, redazione PII opt-in e filtri di sicurezza normalizzati senza vincolo a un provider.

Obiettivi di utilizzo

Monitora streak, traguardi e risparmi in tempo reale accanto alle analisi operative.

Dalla community

Come si usa e si discute OmniRoute.

Scopri cosa gli sviluppatori costruiscono, chiedono e condividono su X, Reddit e YouTube.

32 video da 32 canaliVedi tutti i 32 video della community

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsVedi tutti i post

Sviluppato in pubblico

Attività del repository

Stelle, fork, contributori e release dallo snapshot GitHub salvato nel repository.

  • 11,226fork
  • 841contributori
  • 281release pubblicate
  • 9,060PR unite
  • 5,084issue chiuse
  • 30,000test automatici

Snapshot del 2026-10-17

Discord

Chat, supporto e roadmap

(si apre in una nuova scheda)

Telegram

Novità e annunci

(si apre in una nuova scheda)

WhatsApp 🌍

Community globale

(si apre in una nuova scheda)

WhatsApp 🇧🇷

Comunidade Brasil

(si apre in una nuova scheda)
Conosci i contributori (si apre in una nuova scheda)

OmniRoute di Cheaper Inference

Scegli come eseguire OmniRoute.

Fai self-hosting di OmniRoute oppure inizia con Cheaper Inference per un gateway hosted ordinato per costo.

Prova Cheaper Inference Self-hosting di OmniRoute (si apre in una nuova scheda)