OmniRoute / প্রোডাক্টের ক্ষমতা

যে নিয়ন্ত্রণ আপনি পরীক্ষা ও সেলফ-হোস্ট করতে পারেন।

ফিচার লিস্টকে হোস্টিং প্রতিশ্রুতি না ধরে গেটওয়ে নিয়ন্ত্রণ, প্ল্যাটফর্ম সার্ভিস ও লোকাল ড্যাশবোর্ড পর্যালোচনা করুন।

ক্ষমতা পর্যালোচনা করুন Cheaper Inference ট্রাই করুন ওভারভিউতে ফিরুন

মূল নিয়ন্ত্রণ

সেলফ-হোস্টেড গেটওয়ের সঙ্গে যা আসে।

মূল নিয়ন্ত্রণ

রিকোয়েস্ট চালু রাখুন

কোনো টার্গেট অনুপলব্ধ হলে বা কোটা শেষ হলে, OmniRoute পরবর্তী সুস্থ টার্গেট বেছে নেয়।

মূল নিয়ন্ত্রণ

যোগ্য কনটেক্সট কম্প্রেস করুন

12-ইঞ্জিনের পাইপলাইন যোগ্য কনটেক্সট 15–95% কমায়। ডকুমেন্টেড টুল-ভারী উদাহরণে এটি ~89% কমেছে।

মূল নিয়ন্ত্রণ

$0 দিয়ে শুরু

90+ ফ্রি টিয়ার এবং 56 রিকারিং বা কী-ছাড়া চিরকাল-ফ্রি প্রোভাইডার। কী-ছাড়া কুইক স্টার্টে ক্রেডিট কার্ড লাগে না।

মূল নিয়ন্ত্রণ

35 সমর্থিত ইন্টিগ্রেশন

Claude Code, Codex, Cursor, Cline, Copilot, Antigravity এবং অন্যান্য সমর্থিত ক্লায়েন্ট একটি এন্ডপয়েন্ট দিয়ে কনফিগার করুন।

মূল নিয়ন্ত্রণ

একটি এন্ডপয়েন্ট

/v1-এ OpenAI, Claude, Gemini এবং Responses API রিকোয়েস্ট গ্রহণ করুন।

মূল নিয়ন্ত্রণ

অপারেশনাল নিয়ন্ত্রণ

সার্কিট ব্রেকার, এনক্রিপ্টেড ক্রেডেনশিয়াল, MCP, A2A, মেমোরি, গার্ডরেল এবং ইভ্যাল সেলফ-হোস্টেড গেটওয়ের সঙ্গেই আসে।

ক্ষমতা

একটি ড্যাশবোর্ড থেকে রিকোয়েস্ট পথ কনফিগার করুন।

লোকাল ড্যাশবোর্ড থেকে ফলব্যাক, কোটা, কম্প্রেশন, মেমোরি, MCP এবং A2A কনফিগার করুন।

গেটওয়ে নিয়ন্ত্রণ

স্মার্ট কম্বো

মডেল auto-তে সেট করুন বা 19 স্ট্র্যাটেজি ও টিয়ার্ড ফলব্যাক দিয়ে নিজের কম্বো বানান।

রেডিমেড মোড ব্যবহার করুন বা গুরুত্বপূর্ণ লক্ষ্য ঘিরে 19 স্ট্র্যাটেজি একত্র করুন।

গেটওয়ে নিয়ন্ত্রণ

মেমোরি

FTS5 কীওয়ার্ড এবং Qdrant ভেক্টর রিকল সহ স্থায়ী কনভারসেশনাল মেমোরি।

গেটওয়ে নিয়ন্ত্রণ

3-স্তরের রেজিলিয়েন্স

প্রোভাইডার ব্রেকার, কানেকশন কুলডাউন এবং মডেল লকআউট ব্যর্থতাকে ক্ষুদ্রতম কার্যকর পরিসরে আলাদা রাখে।

গেটওয়ে নিয়ন্ত্রণ

ফ্রি কোটা

90+ ফ্রি টিয়ার জুড়ে পুল-ডিডুপড হিসাব।

প্রকাশিত ফ্রি-টিয়ার ক্ষমতা, ডিডুপ্লিকেটেড।

গেটওয়ে নিয়ন্ত্রণ

কম্প্রেশন

টুল আউটপুট, কনটেক্সট এবং রেসপন্স স্টাইলের জন্য 12 কম্পোজেবল ইঞ্জিন।

যোগ্য টোকেন 15–95% কমান।

গেটওয়ে নিয়ন্ত্রণ

MCP সার্ভার

33 স্কোপ জুড়ে 110 গেটওয়ে টুল প্রকাশ করা একটি বিল্ট-ইন সার্ভার।

110 টুল · 33 স্কোপ · stdio / HTTP

গেটওয়ে নিয়ন্ত্রণ

A2A প্রোটোকল

6 স্কিল সহ একটি JSON-RPC এজেন্ট সার্ভার।

6 স্কিল · JSON-RPC 2.0 · Agent Card

গেটওয়ে নিয়ন্ত্রণ

সেমান্টিক ক্যাশ

পুনরাবৃত্ত রিকোয়েস্ট ক্যাশ থেকে ফিরতে পারে, এবং রেসপন্স হেডার জানায় তাতে কী সঞ্চয় হলো।

X-OmniRoute-Cache: HIT

প্ল্যাটফর্ম সার্ভিস

লোকাল গেটওয়ে প্রসারিত করুন।

এমবেডেড সার্ভিস

Bifrost, 9Router বা CLIProxy ম্যানেজড সাইডকার হিসেবে চালান, বা পূর্ণ ক্লাস্টার প্রোফাইল পরিচালনা করুন।

আপনার জ্ঞান, কনটেক্সটে

Notion ও Obsidian-কে MCP-ভিত্তিক কনটেক্সট সোর্স হিসেবে কানেক্ট করুন।

বিল্ট-ইন গার্ডরেল

প্রম্পট-ইনজেকশন চেক, অপ্ট-ইন PII রিড্যাকশন এবং প্রোভাইডার লক-ইন ছাড়া নরমালাইজড সেফটি ফিল্টার।

ব্যবহারের লক্ষ্য

অপারেশনাল অ্যানালিটিক্সের পাশাপাশি স্ট্রিক, অ্যাচিভমেন্ট ও লাইভ সঞ্চয় ট্র্যাক করুন।

ড্যাশবোর্ড

কনফিগারেশন ও উদাহরণ অপারেটিং ভিউ পরীক্ষা করুন।

নিচের মানগুলো উদাহরণ ডেটা। আপনার লোকাল ড্যাশবোর্ড আপনার নিজের প্রোভাইডার, রিকোয়েস্ট ও খরচ দেখায়।

localhost:20128/dashboardউদাহরণ ডেটা

352প্রোভাইডার সংযুক্ত

90+ফ্রি টিয়ার উপলব্ধ

198এই উদাহরণে সুস্থ

Claude Code · OAuth · লাইভ
Cerebras · ফ্রি · লাইভ
Groq · কুলডাউন উদাহরণ
NVIDIA NIM · ফ্রি · লাইভ

OmniRoute by Cheaper Inference

OmniRoute কীভাবে চালাবেন বেছে নিন।

OmniRoute সেলফ-হোস্ট করুন, বা হোস্টেড কস্ট-র্যাঙ্কড গেটওয়ের জন্য Cheaper Inference ব্যবহার করুন।

Cheaper Inference ট্রাই করুন OmniRoute সেলফ-হোস্ট করুন GitHub-এ দেখুন