OmniRoute / مسیریابی و کنترل

انتخاب کنید هر درخواست چطور حرکت کند.

استراتژی‌های مسیریابی، حسابداری سطح رایگان، فشرده‌سازی، ایزوله‌سازی خطا و کنترل‌های شبکه را بررسی کنید.

بررسی مسیریابی Cheaper Inference را امتحان کنید بازگشت به نمای کلی

استراتژی‌های مسیریابی

یک مسیر `auto` انتخاب کنید یا مسیر خودتان را بسازید.

از یک حالت آماده استفاده کنید یا 19 استراتژی را حول هدفی که مهم است ترکیب کنید.

مدل · جایگزینی فعالautoBalanced default

درخواست سازگار با OpenAI

curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

مصرف سهمیه اشتراک

پیش از رفتن به APIهای پولی، سهمیه‌ای که دارید را مصرف کنید.

priority · fill-first

توزیع بار

ترافیک را بین کلیدها و حساب‌ها متعادل کنید تا فشار محدودیت نرخ کم شود.

weighted · round-robin · p2c · least-used · headroom

ارزان‌ترین اول

به کم‌هزینه‌ترین مقصد واجد شرایط مسیریابی کنید.

cost-optimized

آگاه از کانتکست

کانتکست‌های طولانی را روی مدل‌های مناسب نگه دارید و در صورت نیاز منتقل کنید.

context-relay · context-optimized · cache-optimized

تصادفی

ترافیک واجد شرایط را بین مقصدها توزیع کنید.

random · strict-random

امتیازدهی تطبیقی

از امتیازدهی 15 عاملی، آخرین حالت سالم و پنجره‌های آگاه از ریست استفاده کنید.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

حسابداری سطح رایگان

تقریباً 1.51B توکن اعلام‌شده در هر ماه.

455 ورودی کاتالوگ در 40 استخر تکرارشونده یکپارچه می‌شوند؛ فقط بودجه‌های مثبت اعلام‌شده در عدد اصلی حساب می‌شوند.

1.51B

حسابداری بدون تکرار در سطح استخر مانع می‌شود سهمیه‌های مشترک بیش از یک بار شمرده شوند. ارائه‌دهندگان بدون سقف بدون بالا بردن مجموع توکن، دیده می‌مانند. Checked 2026-08-30.

View the calculation

ارائه‌دهندگان همیشه‌رایگان تکرارشونده یا بدون کلید56

Mistral1B/month
LLM7150M/month
Nara150M/month
Gemini CLI · forever60M/month
Kiro50 credits/month
Qoder · foreverFree catalog
LongCat · forever50M/day
Cerebras1M/day
NVIDIA NIM~40 RPM
Pollinations · foreverNo key
Cloudflare Workers AI · foreverDaily neurons
OpenCode Free · foreverNo-auth catalog

فشرده‌سازی کانتکست

توکن‌های واجد شرایط را 15–95% کاهش دهید.

خروجی ابزار، کانتکست تکراری و داده‌های ساخت‌یافته حجیم می‌توانند پیش از رسیدن به مدل فشرده شوند.

Illustrative Ultra profile example from the audited documentation.

Before69 tokens

The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.

After19 tokens

sum all list items where value > 0

Composable pipeline

Session-Dedup
محتوایی که قبلاً در نشست ارسال شده حذف می‌شود.
CCR
بلوک‌های بزرگ آرشیو و در صورت نیاز بازیابی می‌شوند.
Lite
پاک‌سازی محافظه‌کارانه بدون اتلاف اعمال می‌شود.
RTK
خروجی دستورها و ابزارها فیلتر و از تکرار پاک می‌شود.
Responses Tool Output
بارهای ابزار Responses API فشرده می‌شوند.
Headroom
فشرده‌سازی برگشت‌پذیر داده‌های جدولی و ساخت‌یافته اعمال می‌شود.
Relevance
جملات مرتبط‌تر با آخرین پرسش نگه داشته می‌شوند.
Caveman
خلاصه‌سازی متن مبتنی بر قاعده به کار می‌رود.
Aggressive
هرس قوی‌تر پیکربندی‌شده اعمال می‌شود.
LLMLingua-2
هرس معنایی ایمن برای کد در یک ورکر ایزوله اجرا می‌شود.
Ultra
مراحل پرصرفه با محافظ‌های نگهدارنده ترکیب می‌شوند.
OmniGlyph
ساختارهای تکراری واجد شرایط به‌صورت فشرده کدگذاری می‌شوند.

Profiles

بازه اعلام‌شده پروفایل~30%x-omniroute-compression: standard

Controls and output styles

پروفایل‌های نام‌دار و انتخاب‌گر فعال
استودیوی بصری فشرده‌سازی
Anthropic Context Editing
دیال تطبیقی بودجه کانتکست
هدر \
برای هر درخواست
هارنس ارزیابی آفلاین
فعال‌سازی خودکار با آستانه توکن
Terse prose
Less code (YAGNI)
Terse CJK 文言

ترتیب اولویت کنترل: هدر درخواست → کمبو → پروفایل → سیاست تطبیقی → پیش‌فرض.

ایزوله‌سازی خطا

خطاهای ارائه‌دهنده، اتصال و مدل را ایزوله کنید.

یک کلید خراب نباید یک ارائه‌دهنده را از کار بیندازد. یک مدل محدودشده نباید یک اتصال را از کار بیندازد.

مدل ⊂ اتصال ⊂ ارائه‌دهنده

قطع‌کننده مدار ارائه‌دهندهوقتی ارائه‌دهنده‌ای ناسالم است، مسیریابی کمبو تا موفقیت یک پروب نیمه‌باز از آن می‌گذرد.

خنک‌سازی اتصالیک کلید یا حساب را خنک کنید، در حالی که اتصال‌های هم‌رده به سرویس‌دهی ادامه می‌دهند.

قفل مدلیک مدل محدودشده یا خارج از دسترس را قفل کنید، در حالی که دیگر مدل‌های آن اتصال در دسترس می‌مانند.

کنترل شبکه و داده‌های محلی

کنترل مسیریابی شبکه و داده‌های محلی.

محدوده‌های پراکسی مسیریابی شبکه را کنترل می‌کنند و ذخیره‌سازی محلی‌محور داده‌های عملیاتی را روی دستگاه شما نگه می‌دارد.

سه محدوده پراکسی

مسیریابی سراسری، به ازای هر ارائه‌دهنده یا هر اتصال.

سراسری · هر ارائه‌دهنده · هر اتصال
پراکسی‌های SOCKS5 و HTTP(S)
یکپارچه‌سازی با مارکت‌پلیس پراکسی

کنترل اثر انگشت TLS و کلاینت

با کلاینت‌های پشتیبانی‌شده ارائه‌دهندگان تا سطح ویژگی‌های انتخابی ترنسپورت منطبق شوید.

ترنسپورت با قابلیت JA3/JA4 از طریق wreq-js
پروفایل‌های کلاینت مخصوص هر ارائه‌دهنده
کنترل خروجی IPv4 و IPv6

خصوصی و محلی‌محور

کلیدها، مصرف و تاریخچه روی میزبانی که کنترل می‌کنید می‌مانند.

SQLite روی دیسک با اعتبارنامه‌های رمزگذاری‌شده AES-256-GCM
بدون نیاز به حساب OmniRoute
خودمیزبانی روی زیرساخت انتخابی شما

روسیهچینایرانکوباترکیه