OmniRoute / রাউটিং ও নিয়ন্ত্রণ

প্রতিটি রিকোয়েস্ট কীভাবে যাবে বেছে নিন।

রাউটিং স্ট্র্যাটেজি, ফ্রি-টিয়ার হিসাব, কম্প্রেশন, ব্যর্থতা বিচ্ছিন্নকরণ ও নেটওয়ার্ক নিয়ন্ত্রণ পরীক্ষা করুন।

রাউটিং স্ট্র্যাটেজি

একটি `auto` রুট বেছে নিন বা নিজের বানান।

রেডিমেড মোড ব্যবহার করুন বা গুরুত্বপূর্ণ লক্ষ্য ঘিরে 19 স্ট্র্যাটেজি একত্র করুন।

মডেল · ফলব্যাক চালুautoBalanced default
OpenAI-সামঞ্জস্যপূর্ণ রিকোয়েস্ট
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

সাবস্ক্রিপশন কোটা শেষ করুন

পেইড API ছোঁয়ার আগে আপনার বিদ্যমান কোটা ব্যবহার করুন।

priority · fill-first

লোড ছড়িয়ে দিন

রেট-লিমিটের চাপ কমাতে কী ও অ্যাকাউন্ট জুড়ে ট্রাফিক ব্যালান্স করুন।

weighted · round-robin · p2c · least-used · headroom

সবচেয়ে সস্তা প্রথমে

সর্বনিম্ন খরচের যোগ্য টার্গেটে রাউট করুন।

cost-optimized

কনটেক্সট-সচেতন

লম্বা কনটেক্সট উপযুক্ত মডেলে রাখুন, প্রয়োজনে রিলে করুন।

context-relay · context-optimized · cache-optimized

র্যান্ডমাইজড

যোগ্য ট্রাফিক টার্গেটগুলোর মধ্যে বণ্টন করুন।

random · strict-random

অ্যাডাপ্টিভ স্কোরিং

15-ফ্যাক্টর স্কোরিং, লাস্ট-নোন-গুড এবং রিসেট-সচেতন উইন্ডো ব্যবহার করুন।

reset-window · reset-aware · lkgp · auto · fusion · pipeline

ফ্রি-টিয়ার হিসাব

প্রতি মাসে প্রায় 1.51B প্রকাশিত টোকেন।

455 ক্যাটালগ এন্ট্রি 40 রিকারিং পুলে ডিডুপ্লিকেট করা হয়; শুধু প্রকাশিত ধনাত্মক বাজেটই হেডলাইনে যায়।

1.51B

পুল-ডিডুপড হিসাব শেয়ার্ড কোটাকে একবারের বেশি গোনা থেকে আটকায়। ক্যাপ-ছাড়া প্রোভাইডার টোকেন মোট না বাড়িয়েই দৃশ্যমান থাকে। Checked 2026-08-30.

View the calculation (নতুন ট্যাবে খোলে)
রিকারিং বা কী-ছাড়া চিরকাল-ফ্রি প্রোভাইডার56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

কনটেক্সট কম্প্রেশন

যোগ্য টোকেন 15–95% কমান।

টুল আউটপুট, পুনরাবৃত্ত কনটেক্সট এবং ফোলা স্ট্রাকচার্ড ডেটা মডেলে পৌঁছানোর আগে কম্প্রেস করা যায়।

Illustrative Ultra profile example from the audited documentation.

Before69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
After19 tokens
sum all list items where value > 0

Composable pipeline

  1. Session-Dedup
    সেশনে আগেই পাঠানো কনটেন্ট বাদ দিন।
  2. CCR
    বড় ব্লক আর্কাইভ করুন এবং চাহিদামতো ফিরিয়ে আনুন।
  3. Lite
    রক্ষণশীল লসলেস ক্লিনআপ প্রয়োগ করুন।
  4. RTK
    কমান্ড ও টুল আউটপুট ফিল্টার ও ডিডুপ্লিকেট করুন।
  5. Responses Tool Output
    Responses API টুল পেলোড কমপ্যাক্ট করুন।
  6. Headroom
    রিভার্সিবল ট্যাবুলার ও স্ট্রাকচার্ড-ডেটা কমপ্যাকশন প্রয়োগ করুন।
  7. Relevance
    সর্বশেষ কোয়েরির সঙ্গে সবচেয়ে প্রাসঙ্গিক বাক্য রাখুন।
  8. Caveman
    রুল-ভিত্তিক গদ্য সংক্ষেপণ ব্যবহার করুন।
  9. Aggressive
    আরও শক্তিশালী কনফিগার করা প্রুনিং প্রয়োগ করুন।
  10. LLMLingua-2
    আইসোলেটেড ওয়ার্কারে কোড-সেফ সেমান্টিক প্রুনিং ব্যবহার করুন।
  11. Ultra
    উচ্চ-সঞ্চয়ের স্টেজগুলো সংরক্ষণ গার্ড সহ একত্র করুন।
  12. OmniGlyph
    যোগ্য পুনরাবৃত্ত স্ট্রাকচার কমপ্যাক্টভাবে এনকোড করুন।

Profiles

প্রকাশিত প্রোফাইল রেঞ্জ~30%x-omniroute-compression: standard

Standard কম্প্রেশন নির্বাচিত। প্রকাশিত রেঞ্জ ~30%।

Controls and output styles

  • নামযুক্ত প্রোফাইল ও সক্রিয় সিলেক্টর
  • ভিজ্যুয়াল Compression Studio
  • Anthropic Context Editing
  • অ্যাডাপ্টিভ কনটেক্সট-বাজেট ডায়াল
  • প্রতি-রিকোয়েস্ট \
  • হেডার
  • অফলাইন ইভ্যাল হারনেস
  • টোকেন-থ্রেশহোল্ড অটো-ট্রিগার
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

নিয়ন্ত্রণের অগ্রাধিকার: রিকোয়েস্ট হেডার → কম্বো → প্রোফাইল → অ্যাডাপ্টিভ পলিসি → ডিফল্ট।

ব্যর্থতা বিচ্ছিন্নকরণ

প্রোভাইডার, কানেকশন ও মডেলের ব্যর্থতা আলাদা রাখুন।

একটি খারাপ কী পুরো প্রোভাইডার বন্ধ করবে না। একটি সীমিত মডেল পুরো কানেকশন বন্ধ করবে না।

মডেল ⊂ কানেকশন ⊂ প্রোভাইডার
প্রোভাইডার সার্কিট ব্রেকারপ্রোভাইডার অসুস্থ হলে, হাফ-ওপেন প্রোব সফল না হওয়া পর্যন্ত কম্বো রাউটিং তাকে এড়িয়ে যায়।
কানেকশন কুলডাউনএকটি কী বা অ্যাকাউন্ট কুল ডাউন করুন, বাকি কানেকশনগুলো সার্ভ করতে থাকে।
মডেল লকআউটরেট-লিমিটেড বা অনুপলব্ধ একটি মডেল লক করুন, কানেকশনের অন্য মডেলগুলো উপলব্ধ থাকে।

নেটওয়ার্ক ও লোকাল ডেটা নিয়ন্ত্রণ

নেটওয়ার্ক রাউটিং ও লোকাল ডেটা নিয়ন্ত্রণ।

প্রক্সি স্কোপ নেটওয়ার্ক রাউটিং নিয়ন্ত্রণ করে, আর লোকাল-ফার্স্ট স্টোরেজ অপারেশনাল ডেটা আপনার মেশিনে রাখে।

তিনটি প্রক্সি স্কোপ

গ্লোবালি, প্রতি প্রোভাইডার বা প্রতি কানেকশনে রাউট করুন।

  • গ্লোবাল · প্রতি-প্রোভাইডার · প্রতি-কানেকশন
  • SOCKS5 এবং HTTP(S) প্রক্সি
  • প্রক্সি মার্কেটপ্লেস ইন্টিগ্রেশন

TLS ও ক্লায়েন্ট ফিঙ্গারপ্রিন্ট নিয়ন্ত্রণ

নির্বাচিত ট্রান্সপোর্ট বৈশিষ্ট্য পর্যন্ত সমর্থিত প্রোভাইডার ক্লায়েন্টের সঙ্গে মিল রাখুন।

  • wreq-js দিয়ে JA3/JA4-সক্ষম ট্রান্সপোর্ট
  • প্রোভাইডার-নির্দিষ্ট ক্লায়েন্ট প্রোফাইল
  • IPv4 এবং IPv6 ইগ্রেস নিয়ন্ত্রণ

প্রাইভেট ও লোকাল-ফার্স্ট

কী, ব্যবহার ও ইতিহাস আপনার নিয়ন্ত্রিত হোস্টেই থাকে।

  • ডিস্কে SQLite, AES-256-GCM এনক্রিপ্টেড ক্রেডেনশিয়াল সহ
  • OmniRoute অ্যাকাউন্ট লাগে না
  • আপনার পছন্দের ইনফ্রাস্ট্রাকচারে সেলফ-হোস্ট করুন
রাশিয়াচীনইরানকিউবাতুরস্ক

OmniRoute by Cheaper Inference

OmniRoute কীভাবে চালাবেন বেছে নিন।

OmniRoute সেলফ-হোস্ট করুন, বা হোস্টেড কস্ট-র্যাঙ্কড গেটওয়ের জন্য Cheaper Inference ব্যবহার করুন।