OmniRoute / API rozhraní

Jeden endpoint, víc než chat.

Chat, embeddingy, reranking, obrázky, video, hudba, řeč, OCR, soubory a dávky ve formátu požadavku, kterým váš klient už mluví.

Zobrazit formáty Vyzkoušet Cheaper Inference Zpět na přehled

Wire formáty

Zachovejte tvar požadavku, který váš klient už posílá.

Jeden proces přijímá několik formátů, takže nástroj postavený na SDK jednoho vendora potřebuje jen změnit base URL a nic víc.

OpenAI

Chat Completions, embeddingy, obrázky, audio a soubory, beze změny.

/v1/chat/completions

Anthropic

Wire formát Messages včetně počítání tokenů.

/v1/messages

OpenAI Responses

Tvar Responses API se zhušťováním výstupu nástrojů.

/v1/responses

Gemini

generateContent a výpis modelů Gemini.

/v1beta/models

Ollama

Drop-in náhrada pro nástroje mluvící lokálním Ollama API.

/v1/api/chat

Rerank and Jina

Reranking Cohere/Voyage plus Jina classify a segment.

/v1/rerank

Endpointy

Víc než chat completions.

Seskupeno podle toho, co chcete udělat, ne podle toho, který poskytovatel to zrovna obsluhuje.

Chat a zprávy

Tři tvary požadavku vedou ke stejnému routeru, takže klient zůstane u formátu, kterým už mluví.

POST/v1/chat/completionsOpenAI Chat Completions, streamované nebo bufferované
POST/v1/messagesAnthropic Messages
POST/v1/responsesOpenAI Responses
POST/v1/messages/count_tokensSpočítejte tokeny, než je utratíte

Embeddingy, vyhledávání a řazení

Retrieval část RAG stacku za stejným endpointem a stejným klíčem.

POST/v1/embeddingsTextové a multimodální embeddingy
POST/v1/rerankReranking kompatibilní s Cohere a Voyage
POST/v1/searchAbstrakce webového vyhledávání napříč poskytovateli
POST/v1/classifyKlasifikace textu Jina
POST/v1/segmentSegmentace obsahu Jina
POST/v1/web/fetchExtrakce čitelného obsahu stránky

Obrázky, video a hudba

Generování prochází stejným fallbackem a účtováním nákladů jako text.

POST/v1/images/generationsSyntéza obrázků
POST/v1/images/editsÚpravy a inpainting
POST/v1/videos/generationsGenerování videa
POST/v1/music/generationsSyntéza hudby

Audio a dokumenty

Řeč oběma směry plus OCR pro skenované podklady.

POST/v1/audio/transcriptionsŘeč na text
POST/v1/audio/translationsPřekládající transkripce
POST/v1/audio/speechText na řeč
POST/v1/ocrOCR dokumentů

Soubory a dávky

Nahrajte jednou a pak zpracovávejte asynchronně, místo abyste drželi otevřené spojení.

POST/v1/filesNahrání souboru
GET/v1/files/{id}/contentStreamování obsahu souboru zpět
POST/v1/batchesVytvoření dávkové úlohy
GET/v1/batches/{id}Dotaz na stav dávky
POST/v1/batches/{id}/cancelZrušení běžící dávky

Discovery a řízení

Vše, co klient potřebuje k výběru modelu a dodržení rozpočtu.

GET/v1/modelsKatalog modelů seskupený podle poskytovatelů
GET/v1/quotas/checkPředběžné ověření zbývající kvóty
POST/v1/moderationsModerace obsahu
GET/v1/wsWebSocket upgrade pro streamující klienty

Agentní protokoly

MCP server s 110 nástroji a A2A agent card, obsluhované stejným procesem.

GET/api/mcp/streamMCP přes HTTP, 33 rozsahů
GET/api/mcp/sseMCP přes Server-Sent Events
POST/a2aJSON-RPC 2.0, 6 agentních dovedností
GET/.well-known/agent.jsonVeřejná agent card

Hlavičky

Každá odpověď říká, jak byla obsloužena.

Směrování není černá skříňka: rozhodnutí, cena i komprese, které odpověď vytvořily, se vrací spolu s ní.

Hlavičky odpovědi

X-OmniRoute-DecisionStrategie, alias poskytovatele a latence, které požadavek obsloužily
X-OmniRoute-ProviderAlias poskytovatele, kam byl požadavek skutečně směrován
X-OmniRoute-ModelVýsledný identifikátor modelu
X-OmniRoute-Latency-MsLatence upstreamu v milisekundách
X-OmniRoute-Tokens-InPočet vstupních tokenů
X-OmniRoute-Tokens-OutPočet výstupních tokenů
X-OmniRoute-Response-CostCena této odpovědi v USD
X-OmniRoute-Cost-SavedUSD ušetřené při cache hitu
X-OmniRoute-CacheHIT nebo MISS u nestreamovaných požadavků
X-OmniRoute-CompressionPoužitý režim komprese a odkud pochází
X-OmniRoute-Fallback-AttemptsProvedené fallback skoky, pokud nějaké byly
X-OmniRoute-Request-IdKorelační id pro log požadavků

Hlavičky požadavku

x-omniroute-compressionPřepište profil komprese pro jeden požadavek
X-OmniRoute-No-CacheObejděte sémantickou cache
x-omniroute-no-memoryPřeskočte injektování paměti a dovedností
X-Session-IdKlíč afinity relace a přiřazení nákladů
Idempotency-KeyDeduplikujte opakovaný požadavek

Přečíst referenci API