OmniRouteby Cheaper Inference
OmniRoute is onderdeel geworden van Cheaper InferenceOntdek Cheaper Inference

#1 Open Source AI-router

Routeer over 352 providers via één OpenAI-compatibel endpoint, met automatische fallback.

Probeer Cheaper InferenceOmniRoute zelf hosten (opent in een nieuw tabblad)
OpenAI-compatibel Gratis en open source77.5k stars (opent in een nieuw tabblad)

OmniRoute × Cheaper Inference

Combineer de automatische fallback en developertools van OmniRoute met de op kosten gerangschikte marktplaats van Cheaper Inference. Elk geschikt verzoek begint bij de goedkoopste beschikbare providerroute.

97 modellenDirecte lijstprijs vergeleken met de Cheaper Inference-prijs
Directe lijstprijzen vergeleken met Cheaper Inference-prijzen per model
ModelInvoerprijsUitvoerprijsBesparingContextDetails
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokens60% korting1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens60% korting1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokens59.52% korting128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens50% korting1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens50% korting1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% korting128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% korting198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% korting128K
8 van 97 modellen getoond
Directe lijstprijs → Cheaper Inference-prijs · Blader door alle modellen · Live catalogus bekijken (opent in een nieuw tabblad)Prijzen gecontroleerd op 14 okt 2026, 14:00 UTC. Tarieven kunnen veranderen als upstream-prijzen of beschikbare routes veranderen.

Kernfuncties

Eén endpoint voor je geconfigureerde providers.

Core control

Houd verzoeken in beweging

Als een target niet beschikbaar is of geen quota meer heeft, kiest OmniRoute het volgende gezonde target.

Core control

Comprimeer geschikte context

Een pipeline met 12 engines verkleint geschikte context met 15–95%. Het gedocumenteerde tool-intensieve voorbeeld verkleinde die met ~89%.

Core control

$0 om te beginnen

90+ gratis tiers en 56 terugkerende of sleutelloze free-forever providers. Geen creditcard nodig voor de sleutelloze quick start.

Core control

35 ondersteunde integraties

Configureer Claude Code, Codex, Cursor, Cline, Copilot, Antigravity en andere ondersteunde clients via één endpoint.

Core control

Eén endpoint

Accepteer OpenAI-, Claude-, Gemini- en Responses API-verzoeken op /v1.

Core control

Operationele controles

Circuit breakers, versleutelde credentials, MCP, A2A, geheugen, guardrails en evals zitten in de zelf gehoste gateway.

De catalogus

Allemaal achter één endpoint.

Een catalogus met chat, media, zoeken, lokale runtimes, cloud-agents en systeemintegraties.

352 providers

Allemaal, achter één lokaal endpoint.

Het ene endpoint waar elke client naar wijsthttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233API-sleutelOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35WebcookieChatGPT Web, Claude Web, Gemini Web, Grok Web…
14LokaalOllama, LM Studio, vLLM, llama.cpp…
13Geen authenticatieOpenCode Free, Felo, Pollinations en andere sleutelloze routes…
Bekijk de providerreferentie (opens in a new tab)

Quick start

Installeren, starten, verbinden.

Installeer het package, start de gateway en wijs elke OpenAI-compatibele client naar poort 20128.

Providercatalogus
352
Routeringsstrategieën
19
Lokaal endpoint
:20128/v1

Step 1: Installeren

Installeer het omniroute npm-package globaal.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Starten

Start de API en het dashboard samen op poort 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Verbind je tool

Gebruik http://localhost:20128/v1; de sleutelloze auto-route werkt op een verse installatie.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Gateway-controles

Alle gateway-controles in één proces.

Configureer fallback, quota, compressie, geheugen, MCP en A2A vanuit het lokale dashboard.

Gateway control

Smart Combos

Zet een model op auto of bouw je eigen combo met 19 strategieën en getrapte fallback.

Gebruik een kant-en-klare modus of combineer 19 strategieën rond het doel dat telt.

Gateway control

Geheugen

Persistent gespreksgeheugen met FTS5-trefwoorden en Qdrant-vectorrecall.

Gateway control

Veerkracht in 3 lagen

Provider-breaker, connection cooldown en model-lockout isoleren storingen op de kleinst zinvolle schaal.

Gateway control

Gratis quota

Pool-gededupliceerde boekhouding over 90+ gratis tiers.

Gepubliceerde free-tier capaciteit, gededupliceerd.

Gateway control

Compressie

12 combineerbare engines voor tool-output, context en antwoordstijl.

Verminder geschikte tokens met 15–95%.

Gateway control

MCP-server

Een ingebouwde server die 110 gateway-tools over 33 scopes aanbiedt.

110 tools · 33 scopes · stdio / HTTP

Gateway control

A2A-protocol

Een JSON-RPC agent-server met 6 skills.

6 skills · JSON-RPC 2.0 · Agent Card

Gateway control

Semantische cache

Een herhaald verzoek kan uit de cache komen, en de response-header meldt wat dat heeft bespaard.

X-OmniRoute-Cache: HIT

Clientcompatibiliteit

Houd je huidige codeertools.

Wijs een OpenAI-compatibele CLI of editor naar één lokale base-URL; OmniRoute regelt de providers erachter.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Gebruik OmniRoute-modellen in Copilot Chat.

OmniCopilot voegt OmniRoute-modellen toe aan de bestaande modelkiezer.

Officiële Marketplace

Werkt in VS Code stable en Insiders. Installeer via de Marketplace of de Extensions-weergave.

Open VSX Registry

Voor Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod en andere compatibele editors.

Geen Copilot-abonnement nodig

Providermodellen kunnen via OmniRoute in Copilot Chat draaien zonder inferentie via een Copilot-abonnement te routeren.

VS Code Marketplace (opent in een nieuw tabblad)Open VSX Registry (opent in een nieuw tabblad)OmniCopilot source (opent in een nieuw tabblad)

Veelvoorkomende storingen

Waarom OmniRoute

Zie welke controle elke veelvoorkomende storing aanpakt.

Without routing
With OmniRoute
Quota verloopt ongebruikt
Volg en benut het tegoed dat je al hebt
Rate limits stoppen je halverwege
Auto-fallback in 4 tiers binnen milliseconden
Tool-output verbrandt tokens
Compressie met 12 engines, 15–95% op geschikte inhoud
Dure API's lopen op
Kostengeoptimaliseerde routering kan het goedkoopste geschikte target kiezen
Elke tool heeft zijn eigen setup nodig
Eén endpoint en één dashboard
Een provider is niet bereikbaar vanuit jouw netwerk
Proxy-scopes en client-fingerprintcontroles
Eén dode sleutel breekt een provider
Breaker, cooldown en lockout isoleren de storing
Een team deelt één abonnement
Sleutelpools en fair-share quota
Je wilt lokale controle over routeringsdata
Local-first opslag met versleutelde credentials
Geen zicht op kosten of gezondheid
Analyses van gebruik, quota, besparingen en latentie

Documentatiesnapshot

Hoe de gateways zich verhouden

Mogelijkheden gecontroleerd aan de hand van de gelinkte projectdocumentatie op 2026-08-30.

MogelijkheidOmniRoute (opent in een nieuw tabblad)9Router (opent in een nieuw tabblad)LiteLLM (opent in een nieuw tabblad)CLIProxyAPI (opent in een nieuw tabblad)
Providers35240+100+8+ upstreams
Routeringsstrategieën193-tierretry / priorityround-robin / fill-first
Getrapte fallback met UIYesYesManual policyMulti-account
Tokencompressie12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Snapshot van openbare README en officiële documentatie; verifieer gelinkte bronnen vóór aankoop- of deploymentbeslissingen.

Deployment

9 ondersteunde manieren om OmniRoute te draaien.

Installeer het op een laptop, server of telefoon, of verbind via een ondersteunde editor en plugin.

npm

Eén commando op elk ondersteund desktop-OS

npm install -g omnirouteHandleiding openen (opent in een nieuw tabblad)

Docker

Multi-arch image voor AMD64 en ARM64

docker run … diegosouzapw/omnirouteHandleiding openen (opent in een nieuw tabblad)

Desktop

Eigen venster en systeemvak op Windows, macOS en Linux

npm run electron:buildHandleiding openen (opent in een nieuw tabblad)

ARM

Raspberry Pi, ARM-servers en Apple Silicon

native arm64

Android · Termux

Draait op Android zonder root

pkg install nodejs && npx -y omnirouteHandleiding openen (opent in een nieuw tabblad)

PWA

Fullscreen, offline-ready en installeerbaar vanuit een browser

Add to Home ScreenHandleiding openen (opent in een nieuw tabblad)

OpenCode plugin

Native OpenCode-providerplugin

@omniroute/opencode-providerHandleiding openen (opent in een nieuw tabblad)

VS Code

OmniRoute-modellen in de Copilot Chat-kiezer

Install OmniCopilotHandleiding openen (opent in een nieuw tabblad)

From source

Sleutel eraan en draag bij

npm install && npm run devHandleiding openen (opent in een nieuw tabblad)

Routering

Kies een auto-route.

Gebruik een kant-en-klare modus of combineer 19 strategieën rond het doel dat telt.

Model · fallback ingeschakeldautoBalanced default
OpenAI-compatibel verzoek
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Abonnementsquota opmaken

Gebruik quota die je al hebt voordat je betaalde API's aanraakt.

priority · fill-first

Belasting spreiden

Verdeel verkeer over sleutels en accounts om druk van rate limits te verminderen.

weighted · round-robin · p2c · least-used · headroom

Goedkoopste eerst

Routeer naar het goedkoopste geschikte target.

cost-optimized

Contextbewust

Houd lange contexten op modellen die ze aankunnen en schakel door als het nodig is.

context-relay · context-optimized · cache-optimized

Willekeurig

Verdeel geschikt verkeer over targets.

random · strict-random

Adaptieve scoring

Gebruik scoring op 15 factoren, last-known-good en reset-bewuste vensters.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Free-tier boekhouding

Gepubliceerde free-tier capaciteit, gededupliceerd.

455 catalogusvermeldingen worden gededupliceerd tot 40 terugkerende pools; alleen gepubliceerde positieve budgetten tellen mee in het hoofdcijfer.

1.51B

Pool-gededupliceerde boekhouding voorkomt dat gedeelde quota meer dan één keer worden geteld. Providers zonder limiet blijven zichtbaar zonder het tokentotaal op te blazen. Checked 2026-08-30.

Bekijk de berekening (opent in een nieuw tabblad)
Terugkerende of sleutelloze free-forever providers56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Contextcompressie

Verminder geschikte tokens met 15–95%.

Tool-output, herhaalde context en opgeblazen gestructureerde data kunnen worden gecomprimeerd voordat ze het model bereiken.

Context verminderd met 15–95% op geschikte tokens

Voor: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Na: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Dezelfde instructie. Minder context om voor te betalen.

Voor69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Na19 tokens
sum all list items where value > 0

Combineerbare pipeline

  1. Session-Dedup
    Laat inhoud weg die eerder in de sessie al is verzonden.
  2. CCR
    Archiveer grote blokken en herstel ze op aanvraag.
  3. Lite
    Pas conservatieve, verliesvrije opschoning toe.
  4. RTK
    Filter en dedupliceer commando- en tool-output.
  5. Responses Tool Output
    Verdicht Responses API-tool-payloads.
  6. Headroom
    Pas omkeerbare verdichting van tabellen en gestructureerde data toe.
  7. Relevance
    Behoud de zinnen die het meest relevant zijn voor de laatste query.
  8. Caveman
    Gebruik regelgebaseerde tekstverdichting.
  9. Aggressive
    Pas sterkere geconfigureerde pruning toe.
  10. LLMLingua-2
    Gebruik code-veilige semantische pruning in een geïsoleerde worker.
  11. Ultra
    Combineer stappen met hoge besparing met behoudsgaranties.
  12. OmniGlyph
    Codeer geschikte herhaalde structuren compact.

Profielen

Gepubliceerd profielbereik~30%x-omniroute-compression: standard

Compressie Standard geselecteerd. Gepubliceerd bereik ~30%.

Controles en uitvoerstijlen

  • Benoemde profielen en actieve selector
  • Visuele Compression Studio
  • Anthropic Context Editing
  • Adaptieve contextbudget-regelaar
  • Per verzoek \
  • -header
  • Offline eval-harnas
  • Auto-trigger op tokendrempel
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Voorrang van instellingen: request-header → combo → profiel → adaptief beleid → standaard.

Storingsisolatie

Isoleer storingen van provider, verbinding en model.

Een slechte sleutel mag geen provider platleggen. Een gelimiteerd model mag geen verbinding platleggen.

model ⊂ verbinding ⊂ provider
Provider circuit breakerAls een provider ongezond is, slaat combo-routering hem over tot een half-open probe slaagt.
Connection cooldownLaat één sleutel of account afkoelen terwijl de andere verbindingen blijven bedienen.
Model-lockoutVergrendel één rate-limited of onbeschikbaar model terwijl andere modellen op de verbinding beschikbaar blijven.

Netwerkcontroles

Netwerkroutering en lokale datacontroles.

Proxy-scopes sturen de netwerkroutering, terwijl local-first opslag operationele data op je eigen machine houdt.

Drie proxy-scopes

Routeer globaal, per provider of per afzonderlijke verbinding.

  • Globaal · per provider · per verbinding
  • SOCKS5- en HTTP(S)-proxy's
  • Integratie met proxy-marktplaats

TLS- en client-fingerprintcontroles

Kom overeen met ondersteunde providerclients tot op geselecteerde transportkenmerken.

  • JA3/JA4-geschikt transport via wreq-js
  • Providerspecifieke clientprofielen
  • IPv4- en IPv6-egresscontroles

Privé en local-first

Sleutels, gebruik en geschiedenis blijven op de host die jij beheert.

  • SQLite op schijf met AES-256-GCM-versleutelde credentials
  • Geen OmniRoute-account vereist
  • Zelf hosten op infrastructuur die jij kiest
RuslandChinaIranCubaTurkije

Lokaal dashboard

Configureer OmniRoute zonder YAML te bewerken.

Beheer providers, combo's, analyses, gezondheid en kosten op localhost:20128/dashboard.

localhost:20128/dashboardVoorbeelddata
352providers verbonden
90+gratis tiers beschikbaar
198gezond in dit voorbeeld
  • Claude Code · OAuth · live
  • Cerebras · gratis · live
  • Groq · cooldown-voorbeeld
  • NVIDIA NIM · gratis · live

Agent-protocollen

Stel OmniRoute beschikbaar via MCP en A2A.

OmniRoute kan zijn gateway beschikbaar stellen aan MCP-clients, A2A-netwerken en ondersteunde cloud-codeeragents.

MCP-server

110 tools over 33 scopes via stdio- en HTTP-transport.

110 tools · 33 scopes · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A-server

6 skills voor slimme routering, quota, discovery, kostenanalyse en gezondheidsrapportage via JSON-RPC 2.0.

6 skills · JSON-RPC 2.0 · Agent Card

Cloud-agents

Verbind ondersteunde Codex-, Cursor-, Devin- en Jules-workflows via één orkestratielaag.

Codex · Cursor · Devin · Jules

Aanvullende diensten

Breid de gateway uit.

Ingebedde diensten

Draai Bifrost, 9Router of CLIProxy als beheerde sidecars, of gebruik een volledig clusterprofiel.

Jouw kennis, in context

Koppel Notion en Obsidian als MCP-gestuurde contextbronnen.

Ingebouwde guardrails

Prompt-injectiecontroles, optionele PII-redactie en genormaliseerde veiligheidsfilters zonder provider-lock-in.

Gebruiksdoelen

Volg streaks, prestaties en live besparingen naast operationele analyses.

Uit de community

Hoe OmniRoute wordt gebruikt en besproken.

Zie wat developers bouwen, vragen en delen op X, Reddit en YouTube.

32 video's van 32 kanalenBekijk alle 32 community-video's

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsBekijk alle posts

Open ontwikkeld

Repository-activiteit

Bekijk stars, forks, bijdragers en releases uit de ingecheckte GitHub-snapshot.

  • 11,226forks
  • 841bijdragers
  • 281releases uitgebracht
  • 9,060PR's gemerged
  • 5,084issues gesloten
  • 30,000geautomatiseerde tests

Snapshot van 2026-10-17

Discord

Chat, support en roadmap

(opent in een nieuw tabblad)

Telegram

Nieuws en aankondigingen

(opent in een nieuw tabblad)

WhatsApp 🌍

Wereldwijde community

(opent in een nieuw tabblad)

WhatsApp 🇧🇷

Comunidade Brasil

(opent in een nieuw tabblad)
Ontmoet de bijdragers (opent in een nieuw tabblad)

OmniRoute by Cheaper Inference

Kies hoe je OmniRoute draait.

Host OmniRoute zelf, of begin met Cheaper Inference voor een gehoste, op kosten gerangschikte gateway.

Probeer Cheaper Inference OmniRoute zelf hosten (opent in een nieuw tabblad)