OmniRoute / Kemampuan produk

Kontrol yang bisa Anda periksa dan host sendiri.

Tinjau kontrol gateway, layanan platform dan dasbor lokal tanpa menganggap daftar fitur sebagai janji hosting.

Kontrol inti

Apa yang disertakan di gateway self-hosted.

Kontrol inti

Jaga request tetap mengalir

Saat sebuah target tidak tersedia atau kuotanya habis, OmniRoute memilih target sehat berikutnya.

Kontrol inti

Kompres konteks yang memenuhi syarat

Pipeline 12 engine mengurangi konteks yang memenuhi syarat sebesar 15–95%. Contoh terdokumentasi yang padat tool menguranginya sebesar ~89%.

Kontrol inti

Mulai dari $0

90+ tier gratis dan 56 provider gratis selamanya, berulang atau tanpa key. Tidak perlu kartu kredit untuk mulai cepat tanpa key.

Kontrol inti

35 integrasi yang didukung

Konfigurasikan Claude Code, Codex, Cursor, Cline, Copilot, Antigravity dan klien lain yang didukung lewat satu endpoint.

Kontrol inti

Satu endpoint

Menerima request OpenAI, Claude, Gemini dan Responses API di /v1.

Kontrol inti

Kontrol operasional

Circuit breaker, kredensial terenkripsi, MCP, A2A, memori, guardrail dan eval disertakan di gateway self-hosted.

Kemampuan

Konfigurasikan jalur request dari satu dasbor.

Konfigurasikan fallback, kuota, kompresi, memori, MCP dan A2A dari dasbor lokal.

Kontrol gateway

Smart Combos

Atur model ke auto atau buat combo sendiri dengan 19 strategi dan fallback bertingkat.

Pakai mode siap pakai atau kombinasikan 19 strategi sesuai tujuan yang penting bagi Anda.

Kontrol gateway

Memori

Memori percakapan persisten dengan pencarian kata kunci FTS5 dan recall vektor Qdrant.

Kontrol gateway

Resiliensi 3 lapis

Breaker provider, cooldown koneksi dan penguncian model mengisolasi kegagalan pada cakupan terkecil yang berguna.

Kontrol gateway

Kuota gratis

Akuntansi terdeduplikasi per pool di 90+ tier gratis.

Kapasitas tier gratis yang dipublikasikan, terdeduplikasi.

Kontrol gateway

Kompresi

12 engine yang bisa dikombinasikan untuk output tool, konteks dan gaya respons.

Kurangi token yang memenuhi syarat sebesar 15–95%.

Kontrol gateway

Server MCP

Server bawaan yang mengekspos 110 tool gateway di 33 scope.

110 tool · 33 scope · stdio / HTTP

Kontrol gateway

Protokol A2A

Server agen JSON-RPC dengan 6 skill.

6 skill · JSON-RPC 2.0 · Agent Card

Kontrol gateway

Cache semantik

Request yang berulang bisa dilayani dari cache, dan header respons melaporkan berapa yang dihemat.

X-OmniRoute-Cache: HIT

Layanan platform

Perluas gateway lokal.

Layanan tertanam

Jalankan Bifrost, 9Router atau CLIProxy sebagai sidecar terkelola, atau operasikan profil cluster penuh.

Pengetahuan Anda, dalam konteks

Hubungkan Notion dan Obsidian sebagai sumber konteks berbasis MCP.

Guardrail bawaan

Pemeriksaan prompt injection, redaksi PII opsional dan filter keamanan ternormalisasi tanpa terikat pada satu provider.

Target penggunaan

Pantau streak, pencapaian dan penghematan langsung berdampingan dengan analitik operasional.

Dasbor

Periksa konfigurasi dan contoh tampilan operasional.

Nilai di bawah ini adalah data contoh. Dasbor lokal Anda mencerminkan provider, request dan biaya Anda sendiri.

localhost:20128/dashboardData contoh
352provider terhubung
90+tier gratis tersedia
198sehat dalam contoh ini
  • Claude Code · OAuth · aktif
  • Cerebras · gratis · aktif
  • Groq · contoh cooldown
  • NVIDIA NIM · gratis · aktif

OmniRoute dari Cheaper Inference

Pilih cara Anda menjalankan OmniRoute.

Host OmniRoute sendiri, atau gunakan Cheaper Inference untuk gateway hosted yang diurutkan berdasarkan biaya.