OmniRoute / API সারফেস

একটি এন্ডপয়েন্ট, চ্যাটের চেয়ে বেশি।

চ্যাট, এম্বেডিং, রিরাঙ্কিং, ইমেজ, ভিডিও, মিউজিক, স্পিচ, OCR, ফাইল ও ব্যাচ, আপনার ক্লায়েন্টের পরিচিত রিকোয়েস্ট ফরম্যাটেই।

ওয়্যার ফরম্যাট

আপনার ক্লায়েন্ট যে রিকোয়েস্ট আকৃতি পাঠায় তাই রাখুন।

একটি প্রসেস কয়েকটি ফরম্যাট গ্রহণ করে, তাই এক ভেন্ডরের SDK-এ বানানো টুলের শুধু বেস URL বদলালেই চলে।

OpenAI

Chat Completions, এম্বেডিং, ইমেজ, অডিও ও ফাইল, অপরিবর্তিত।

/v1/chat/completions

Anthropic

Messages ওয়্যার ফরম্যাট, টোকেন কাউন্টিং সহ।

/v1/messages

OpenAI Responses

Responses API আকৃতি, টুল-আউটপুট কমপ্যাকশন সহ।

/v1/responses

Gemini

generateContent এবং Gemini মডেল তালিকা।

/v1beta/models

Ollama

লোকাল Ollama API বলা টুলগুলোর জন্য ড্রপ-ইন।

/v1/api/chat

Rerank and Jina

Cohere/Voyage রিরাঙ্কিং এবং Jina classify ও segment।

/v1/rerank

এন্ডপয়েন্ট

চ্যাট কমপ্লিশনের চেয়ে বেশি।

কোন প্রোভাইডার সার্ভ করে তার বদলে আপনি কী করতে চান সেই অনুসারে গোষ্ঠীবদ্ধ।

চ্যাট ও মেসেজ

তিনটি রিকোয়েস্ট আকৃতি একই রাউটারে পৌঁছে, তাই ক্লায়েন্ট তার পরিচিত ফরম্যাটই রাখে।

  • POST/v1/chat/completionsOpenAI Chat Completions, স্ট্রিমিং বা বাফার্ড
  • POST/v1/messagesAnthropic Messages
  • POST/v1/responsesOpenAI Responses
  • POST/v1/messages/count_tokensখরচের আগে টোকেন গুনুন

এম্বেডিং, সার্চ ও র্যাঙ্কিং

RAG স্ট্যাকের রিট্রিভাল অংশ, একই এন্ডপয়েন্ট ও একই কী-এর পেছনে।

  • POST/v1/embeddingsটেক্সট ও মাল্টিমোডাল এম্বেডিং
  • POST/v1/rerankCohere ও Voyage সামঞ্জস্যপূর্ণ রিরাঙ্কিং
  • POST/v1/searchপ্রোভাইডার জুড়ে ওয়েব সার্চ অ্যাবস্ট্র্যাকশন
  • POST/v1/classifyJina টেক্সট ক্লাসিফিকেশন
  • POST/v1/segmentJina কনটেন্ট সেগমেন্টেশন
  • POST/v1/web/fetchপাঠযোগ্য পেজ এক্সট্র্যাকশন

ইমেজ, ভিডিও ও মিউজিক

জেনারেশন টেক্সটের মতোই একই ফলব্যাক ও খরচ হিসাবের মধ্য দিয়ে রাউট হয়।

  • POST/v1/images/generationsইমেজ সিন্থেসিস
  • POST/v1/images/editsএডিটিং ও ইনপেইন্টিং
  • POST/v1/videos/generationsভিডিও জেনারেশন
  • POST/v1/music/generationsমিউজিক সিন্থেসিস

অডিও ও ডকুমেন্ট

দুই দিকেই স্পিচ, সঙ্গে স্ক্যান করা সোর্স ম্যাটেরিয়ালের OCR।

  • POST/v1/audio/transcriptionsস্পিচ টু টেক্সট
  • POST/v1/audio/translationsঅনুবাদসহ ট্রান্সক্রিপশন
  • POST/v1/audio/speechটেক্সট টু স্পিচ
  • POST/v1/ocrডকুমেন্ট OCR

ফাইল ও ব্যাচ

একবার আপলোড করুন, তারপর কানেকশন খোলা না রেখে অ্যাসিনক্রোনাসভাবে কাজ চালান।

  • POST/v1/filesফাইল আপলোড করুন
  • GET/v1/files/{id}/contentফাইলের কনটেন্ট স্ট্রিম করে ফেরত
  • POST/v1/batchesব্যাচ জব তৈরি করুন
  • GET/v1/batches/{id}ব্যাচ স্ট্যাটাস পোল করুন
  • POST/v1/batches/{id}/cancelচলমান ব্যাচ বাতিল করুন

ডিসকভারি ও নিয়ন্ত্রণ

মডেল বেছে নিতে ও বাজেটের মধ্যে থাকতে ক্লায়েন্টের যা যা লাগে।

  • GET/v1/modelsপ্রোভাইডার-অনুসারে মডেল ক্যাটালগ
  • GET/v1/quotas/checkঅবশিষ্ট কোটা আগেই যাচাই করুন
  • POST/v1/moderationsকনটেন্ট মডারেশন
  • GET/v1/wsস্ট্রিমিং ক্লায়েন্টের জন্য WebSocket আপগ্রেড

এজেন্ট প্রোটোকল

110 টুল সহ একটি MCP সার্ভার এবং একটি A2A এজেন্ট কার্ড, একই প্রসেস থেকে সার্ভ করা।

  • GET/api/mcp/streamHTTP-এ MCP, 33 স্কোপ
  • GET/api/mcp/sseServer-Sent Events-এ MCP
  • POST/a2aJSON-RPC 2.0, 6 এজেন্ট স্কিল
  • GET/.well-known/agent.jsonপাবলিক এজেন্ট কার্ড

হেডার

প্রতিটি রেসপন্স জানায় কীভাবে সার্ভ হলো।

রাউটিং কোনো ব্ল্যাক বক্স নয়: সিদ্ধান্ত, খরচ এবং রেসপন্স তৈরি করা কম্প্রেশন সবই তার সঙ্গে ফিরে আসে।

রেসপন্স হেডার

  • X-OmniRoute-Decisionযে স্ট্র্যাটেজি, প্রোভাইডার অ্যালিয়াস ও লেটেন্সি রিকোয়েস্ট সার্ভ করেছে
  • X-OmniRoute-Providerআসলে যে প্রোভাইডার অ্যালিয়াসে রাউট হয়েছে
  • X-OmniRoute-Modelরিজলভ হওয়া মডেল আইডেন্টিফায়ার
  • X-OmniRoute-Latency-Msমিলিসেকেন্ডে আপস্ট্রিম লেটেন্সি
  • X-OmniRoute-Tokens-Inইনপুট টোকেন সংখ্যা
  • X-OmniRoute-Tokens-Outআউটপুট টোকেন সংখ্যা
  • X-OmniRoute-Response-Costএই রেসপন্সের USD খরচ
  • X-OmniRoute-Cost-Savedক্যাশ হিটে বাঁচানো USD
  • X-OmniRoute-Cacheনন-স্ট্রিমিং রিকোয়েস্টে HIT বা MISS
  • X-OmniRoute-Compressionপ্রয়োগ করা কম্প্রেশন মোড এবং তা কোথা থেকে এলো
  • X-OmniRoute-Fallback-Attemptsনেওয়া ফলব্যাক হপ, যদি থাকে
  • X-OmniRoute-Request-Idরিকোয়েস্ট লগের কোরিলেশন id

রিকোয়েস্ট হেডার

  • x-omniroute-compressionএকটি রিকোয়েস্টের জন্য কম্প্রেশন প্রোফাইল ওভাররাইড করুন
  • X-OmniRoute-No-Cacheসেমান্টিক ক্যাশ বাইপাস করুন
  • x-omniroute-no-memoryমেমোরি ও স্কিল ইনজেকশন এড়িয়ে যান
  • X-Session-Idসেশন অ্যাফিনিটি ও খরচ অ্যাট্রিবিউশন কী
  • Idempotency-Keyরিট্রাই করা রিকোয়েস্ট ডিডুপ্লিকেট করুন
API রেফারেন্স পড়ুন (নতুন ট্যাবে খোলে)

OmniRoute by Cheaper Inference

OmniRoute কীভাবে চালাবেন বেছে নিন।

OmniRoute সেলফ-হোস্ট করুন, বা হোস্টেড কস্ট-র্যাঙ্কড গেটওয়ের জন্য Cheaper Inference ব্যবহার করুন।