OmniRoute / API-felület

Egy végpont, több mint chat.

Chat, embeddingek, újrarangsorolás, kép, videó, zene, beszéd, OCR, fájlok és batchek, abban a kérésformátumban, amit a kliensed már beszél.

Formátumok megtekintése Próbáld ki a Cheaper Inference-t Vissza az áttekintéshez

Átviteli formátumok

Tartsd meg a kérésformátumot, amit a kliensed már küld.

Egy folyamat több formátumot fogad, így egy adott gyártó SDK-jára épült eszköznek csak az alap URL-t kell módosítania, semmi mást.

OpenAI

Chat Completions, embeddingek, képek, hang és fájlok, változatlanul.

/v1/chat/completions

Anthropic

A Messages formátum, tokenszámlálással együtt.

/v1/messages

OpenAI Responses

A Responses API formátuma, eszközkimenet-tömörítéssel.

/v1/responses

Gemini

generateContent és a Gemini modell-lista.

/v1beta/models

Ollama

Drop-in azoknak az eszközöknek, amelyek a helyi Ollama API-t beszélik.

/v1/api/chat

Rerank and Jina

Cohere/Voyage újrarangsorolás, plusz Jina classify és segment.

/v1/rerank

Végpontok

Több mint chat completions.

Aszerint csoportosítva, mit szeretnél elérni, nem aszerint, melyik szolgáltató szolgálja ki éppen.

Chat és üzenetek

Három kérésformátum éri el ugyanazt a routert, így a kliens megtarthatja a már ismert formátumát.

POST/v1/chat/completionsOpenAI Chat Completions, streamelve vagy pufferelve
POST/v1/messagesAnthropic Messages
POST/v1/responsesOpenAI Responses
POST/v1/messages/count_tokensSzámold meg a tokeneket, mielőtt elköltöd

Embeddingek, keresés és rangsorolás

A RAG stack visszakereső fele ugyanazon végpont és ugyanazon kulcs mögött.

POST/v1/embeddingsSzöveges és multimodális embeddingek
POST/v1/rerankCohere- és Voyage-kompatibilis újrarangsorolás
POST/v1/searchWebkeresési absztrakció szolgáltatók felett
POST/v1/classifyJina szövegosztályozás
POST/v1/segmentJina tartalomszegmentálás
POST/v1/web/fetchOlvasható oldalkivonatolás

Kép, videó és zene

A generálás ugyanazon a fallbacken és költségelszámoláson megy át, mint a szöveg.

POST/v1/images/generationsKépszintézis
POST/v1/images/editsSzerkesztés és inpainting
POST/v1/videos/generationsVideógenerálás
POST/v1/music/generationsZeneszintézis

Hang és dokumentumok

Beszéd mindkét irányban, plusz OCR szkennelt forrásanyaghoz.

POST/v1/audio/transcriptionsBeszédből szöveg
POST/v1/audio/translationsFordító átírás
POST/v1/audio/speechSzövegből beszéd
POST/v1/ocrDokumentum OCR

Fájlok és batchek

Töltsd fel egyszer, majd futtasd a munkát aszinkron, nyitott kapcsolat fenntartása helyett.

POST/v1/filesFájl feltöltése
GET/v1/files/{id}/contentFájltartalom visszastreamelése
POST/v1/batchesBatch feladat létrehozása
GET/v1/batches/{id}Batch állapot lekérdezése
POST/v1/batches/{id}/cancelFutó batch megszakítása

Felderítés és vezérlés

Minden, ami egy kliensnek a modellválasztáshoz és a keretben maradáshoz kell.

GET/v1/modelsSzolgáltató szerint csoportosított modellkatalógus
GET/v1/quotas/checkMaradék kvóta előzetes ellenőrzése
POST/v1/moderationsTartalommoderálás
GET/v1/wsWebSocket upgrade streamelő klienseknek

Ágensprotokollok

MCP-szerver 110 eszközzel és A2A agent card, ugyanabból a folyamatból kiszolgálva.

GET/api/mcp/streamMCP HTTP-n, 33 hatókör
GET/api/mcp/sseMCP Server-Sent Eventsen
POST/a2aJSON-RPC 2.0, 6 ágenskészség
GET/.well-known/agent.jsonNyilvános agent card

Fejlécek

Minden válasz elmondja, hogyan szolgálták ki.

Az útválasztás nem fekete doboz: a döntés, a költség és a válaszhoz vezető tömörítés mind visszautazik vele.

Válaszfejlécek

X-OmniRoute-DecisionA kérést kiszolgáló stratégia, szolgáltatói alias és késleltetés
X-OmniRoute-ProviderA szolgáltatói alias, amelyre ténylegesen irányítottunk
X-OmniRoute-ModelA feloldott modellazonosító
X-OmniRoute-Latency-MsUpstream késleltetés milliszekundumban
X-OmniRoute-Tokens-InBemeneti tokenek száma
X-OmniRoute-Tokens-OutKimeneti tokenek száma
X-OmniRoute-Response-CostA válasz költsége USD-ben
X-OmniRoute-Cost-SavedCache-találattal megtakarított USD
X-OmniRoute-CacheHIT vagy MISS nem streamelt kéréseknél
X-OmniRoute-CompressionAlkalmazott tömörítési mód és annak forrása
X-OmniRoute-Fallback-AttemptsMegtett fallback-ugrások, ha voltak
X-OmniRoute-Request-IdKorrelációs azonosító a kérésnaplóhoz

Kérésfejlécek

x-omniroute-compressionTömörítési profil felülbírálása egy kérésre
X-OmniRoute-No-CacheSzemantikus cache megkerülése
x-omniroute-no-memoryMemória- és készséginjektálás kihagyása
X-Session-IdMunkamenet-affinitás és költséghozzárendelési kulcs
Idempotency-KeyÚjrapróbált kérés deduplikálása

API-referencia olvasása