OmniRoute / API-yta

En endpoint, mer än chatt.

Chatt, embeddings, omrankning, bilder, video, musik, tal, OCR, filer och batchar, i det anropsformat din klient redan talar.

Se formaten Prova Cheaper Inference Tillbaka till översikten

Wire-format

Behåll anropsformatet din klient redan skickar.

En process tar emot flera format, så ett verktyg byggt mot en leverantörs SDK behöver bara en ny bas-URL och inget mer.

OpenAI

Chat Completions, embeddings, bilder, ljud och filer, oförändrade.

/v1/chat/completions

Anthropic

Messages-formatet, inklusive tokenräkning.

/v1/messages

OpenAI Responses

Responses API-formatet, med kompaktering av verktygsutdata.

/v1/responses

Gemini

generateContent och Gemini-modellistan.

/v1beta/models

Ollama

Drop-in för verktyg som talar det lokala Ollama-API:et.

/v1/api/chat

Rerank and Jina

Cohere/Voyage-omrankning plus Jina classify och segment.

/v1/rerank

Endpoints

Mer än chat completions.

Grupperade efter vad du försöker göra snarare än vilken leverantör som råkar betjäna det.

Chatt och meddelanden

Tre anropsformat når samma router, så en klient behåller det format den redan talar.

POST/v1/chat/completionsOpenAI Chat Completions, strömmande eller buffrat
POST/v1/messagesAnthropic Messages
POST/v1/responsesOpenAI Responses
POST/v1/messages/count_tokensRäkna tokens innan du spenderar dem

Embeddings, sök och rankning

Retrieval-halvan av en RAG-stack bakom samma endpoint och samma nyckel.

POST/v1/embeddingsText- och multimodala embeddings
POST/v1/rerankCohere- och Voyage-kompatibel omrankning
POST/v1/searchWebbsöksabstraktion över leverantörer
POST/v1/classifyJina-textklassificering
POST/v1/segmentJina-innehållssegmentering
POST/v1/web/fetchLäsbar sidextraktion

Bild, video och musik

Generering routas genom samma fallback och kostnadsredovisning som text.

POST/v1/images/generationsBildsyntes
POST/v1/images/editsRedigering och inpainting
POST/v1/videos/generationsVideogenerering
POST/v1/music/generationsMusiksyntes

Ljud och dokument

Tal i båda riktningarna, plus OCR för skannat källmaterial.

POST/v1/audio/transcriptionsTal till text
POST/v1/audio/translationsÖversättande transkribering
POST/v1/audio/speechText till tal
POST/v1/ocrDokument-OCR

Filer och batchar

Ladda upp en gång och kör sedan arbetet asynkront istället för att hålla en anslutning öppen.

POST/v1/filesLadda upp en fil
GET/v1/files/{id}/contentStrömma tillbaka filinnehåll
POST/v1/batchesSkapa ett batchjobb
GET/v1/batches/{id}Polla batchstatus
POST/v1/batches/{id}/cancelAvbryt en pågående batch

Upptäckt och kontroll

Allt en klient behöver för att välja modell och hålla sig inom budget.

GET/v1/modelsModellkatalog grupperad per leverantör
GET/v1/quotas/checkFörvalidera återstående kvot
POST/v1/moderationsInnehållsmoderering
GET/v1/wsWebSocket-uppgradering för strömmande klienter

Agentprotokoll

En MCP-server med 110 verktyg och ett A2A-agentkort, serverade av samma process.

GET/api/mcp/streamMCP över HTTP, 33 scope
GET/api/mcp/sseMCP över Server-Sent Events
POST/a2aJSON-RPC 2.0, 6 agent-skills
GET/.well-known/agent.jsonPublikt agentkort

Headers

Varje svar berättar hur det betjänades.

Routingen är ingen svart låda: beslutet, kostnaden och komprimeringen som gav ett svar följer alla med tillbaka.

Svarsheaders

X-OmniRoute-DecisionStrategi, leverantörsalias och latens som betjänade anropet
X-OmniRoute-ProviderLeverantörsaliaset anropet faktiskt routades till
X-OmniRoute-ModelDen upplösta modellidentifieraren
X-OmniRoute-Latency-MsUppströmslatens i millisekunder
X-OmniRoute-Tokens-InAntal input-tokens
X-OmniRoute-Tokens-OutAntal output-tokens
X-OmniRoute-Response-CostKostnad i USD för det här svaret
X-OmniRoute-Cost-SavedUSD som undveks vid en cacheträff
X-OmniRoute-CacheHIT eller MISS på icke-strömmande anrop
X-OmniRoute-CompressionTillämpat komprimeringsläge och var det kom ifrån
X-OmniRoute-Fallback-AttemptsAntal fallback-hopp, när det förekom några
X-OmniRoute-Request-IdKorrelations-id för anropsloggen

Anropsheaders

x-omniroute-compressionÅsidosätt komprimeringsprofilen för ett anrop
X-OmniRoute-No-CacheGå förbi den semantiska cachen
x-omniroute-no-memoryHoppa över injektion av minne och skills
X-Session-IdNyckel för sessionsaffinitet och kostnadsattribuering
Idempotency-KeyDeduplicera ett omförsökt anrop

Läs API-referensen