OmniRoute / Yönlendirme ve kontrol

Her isteğin nasıl ilerleyeceğini seçin.

Yönlendirme stratejilerini, ücretsiz katman muhasebesini, sıkıştırmayı, hata yalıtımını ve ağ kontrollerini inceleyin.

Yönlendirmeyi incele Cheaper Inference'ı dene Genel bakışa dön

Yönlendirme stratejileri

Bir `auto` rota seçin veya kendinizinkini oluşturun.

Hazır bir mod kullanın veya 19 stratejiyi önemsediğiniz hedef etrafında birleştirin.

Model · yedek geçiş etkinautoBalanced default

OpenAI uyumlu istek

curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Abonelik kotasını tüket

Ücretli API'lere dokunmadan önce zaten sahip olduğunuz kotayı kullanın.

priority · fill-first

Yükü dağıt

Hız sınırı baskısını azaltmak için trafiği anahtarlar ve hesaplar arasında dengeleyin.

weighted · round-robin · p2c · least-used · headroom

Önce en ucuz

En düşük maliyetli uygun hedefe yönlendirin.

cost-optimized

Bağlama duyarlı

Uzun bağlamları sığdıkları modellerde tutun, gerektiğinde aktarın.

context-relay · context-optimized · cache-optimized

Rastgele

Uygun trafiği hedefler arasında dağıtın.

random · strict-random

Uyarlanabilir puanlama

15 faktörlü puanlama, son bilinen iyi durum ve sıfırlamaya duyarlı pencereler kullanın.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Ücretsiz katman muhasebesi

Her ay yaklaşık 1.51B yayınlanmış token.

455 katalog girdisi 40 yinelenen havuza tekilleştirilir; başlığı yalnızca yayınlanmış pozitif bütçeler besler.

1.51B

Havuz bazında tekilleştirilmiş muhasebe, paylaşılan kotaların birden fazla kez sayılmasını engeller. Sınırsız sağlayıcılar token toplamını şişirmeden görünür kalır. Checked 2026-08-30.

View the calculation

Yinelenen veya anahtarsız kalıcı ücretsiz sağlayıcılar56

Mistral1B/month
LLM7150M/month
Nara150M/month
Gemini CLI · forever60M/month
Kiro50 credits/month
Qoder · foreverFree catalog
LongCat · forever50M/day
Cerebras1M/day
NVIDIA NIM~40 RPM
Pollinations · foreverNo key
Cloudflare Workers AI · foreverDaily neurons
OpenCode Free · foreverNo-auth catalog

Bağlam sıkıştırma

Uygun tokenları 15–95% azaltın.

Araç çıktısı, tekrarlanan bağlam ve şişmiş yapılandırılmış veriler modele ulaşmadan önce sıkıştırılabilir.

Illustrative Ultra profile example from the audited documentation.

Before69 tokens

The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.

After19 tokens

sum all list items where value > 0

Composable pipeline

Session-Dedup
Oturumda daha önce gönderilen içeriği atar.
CCR
Büyük blokları arşivler, istendiğinde geri yükler.
Lite
Temkinli, kayıpsız temizlik uygular.
RTK
Komut ve araç çıktısını filtreler ve tekilleştirir.
Responses Tool Output
Responses API araç yüklerini sıkıştırır.
Headroom
Geri alınabilir tablo ve yapılandırılmış veri sıkıştırması uygular.
Relevance
Son sorguyla en ilgili cümleleri korur.
Caveman
Kural tabanlı metin yoğunlaştırması kullanır.
Aggressive
Daha güçlü, yapılandırılmış budama uygular.
LLMLingua-2
Yalıtılmış bir işçide kod güvenli anlamsal budama kullanır.
Ultra
Yüksek tasarruflu aşamaları koruma denetimleriyle birleştirir.
OmniGlyph
Uygun tekrarlanan yapıları kompakt biçimde kodlar.

Profiles

Yayınlanan profil aralığı~30%x-omniroute-compression: standard

Controls and output styles

Adlandırılmış profiller ve etkin seçici
Visual Compression Studio
Anthropic Context Editing
Uyarlanabilir bağlam bütçesi kadranı
İstek başına \
üstbilgisi
Çevrimdışı değerlendirme düzeneği
Token eşiğiyle otomatik tetikleme
Terse prose
Less code (YAGNI)
Terse CJK 文言

Kontrol önceliği: istek üstbilgisi → kombo → profil → uyarlanabilir politika → varsayılan.

Hata yalıtımı

Sağlayıcı, bağlantı ve model hatalarını yalıtın.

Kötü bir anahtar bir sağlayıcıyı çökertmemeli. Sınırlanan bir model bir bağlantıyı çökertmemeli.

model ⊂ bağlantı ⊂ sağlayıcı

Sağlayıcı devre kesiciBir sağlayıcı sağlıksızsa kombo yönlendirmesi, yarı açık bir sonda başarılı olana kadar onu atlar.

Bağlantı soğumasıKardeş bağlantılar hizmet vermeye devam ederken tek bir anahtarı veya hesabı soğutun.

Model kilitlemeHız sınırına takılan veya kullanılamayan tek bir modeli kilitleyin; bağlantıdaki diğer modeller kullanılabilir kalır.

Ağ ve yerel veri kontrolleri

Ağ yönlendirme ve yerel veri kontrolleri.

Proxy kapsamları ağ yönlendirmesini kontrol eder; yerel öncelikli depolama operasyonel verileri makinenizde tutar.

Üç proxy kapsamı

Global, sağlayıcı başına veya tekil bağlantı başına yönlendirin.

Global · sağlayıcı başına · bağlantı başına
SOCKS5 ve HTTP(S) proxy'ler
Proxy pazar yeri entegrasyonu

TLS ve istemci parmak izi kontrolleri

Desteklenen sağlayıcı istemcilerini seçili aktarım özelliklerine kadar eşleştirin.

wreq-js ile JA3/JA4 destekli aktarım
Sağlayıcıya özel istemci profilleri
IPv4 ve IPv6 çıkış kontrolleri

Özel ve yerel öncelikli

Anahtarlar, kullanım ve geçmiş kontrol ettiğiniz ana makinede kalır.

Diskte SQLite, AES-256-GCM ile şifreli kimlik bilgileri
OmniRoute hesabı gerekmez
Seçtiğiniz altyapıda kendiniz barındırın

RusyaÇinİranKübaTürkiye