OmniRoute / API-pinta

Yksi päätepiste, enemmän kuin chat.

Chat, upotukset, uudelleenjärjestys, kuvat, video, musiikki, puhe, OCR, tiedostot ja eräajot pyyntömuodossa, jota asiakasohjelmasi jo puhuu.

Katso muodot Kokeile Cheaper Inferencea Takaisin yleiskatsaukseen

Siirtomuodot

Pidä pyyntömuoto, jota asiakasohjelmasi jo lähettää.

Yksi prosessi hyväksyy useita muotoja, joten yhden toimittajan SDK:ta vasten rakennettu työkalu tarvitsee vain perus-URL:n vaihdon, ei muuta.

OpenAI

Chat Completions, upotukset, kuvat, ääni ja tiedostot, muuttumattomina.

/v1/chat/completions

Anthropic

Messages-siirtomuoto, mukaan lukien tokenien laskenta.

/v1/messages

OpenAI Responses

Responses API:n muoto työkalutulosteen tiivistyksellä.

/v1/responses

Gemini

generateContent ja Gemini-mallilistaus.

/v1beta/models

Ollama

Suora korvaaja työkaluille, jotka puhuvat paikallista Ollama API:a.

/v1/api/chat

Rerank and Jina

Cohere/Voyage-uudelleenjärjestys sekä Jina classify ja segment.

/v1/rerank

Päätepisteet

Enemmän kuin chat completions.

Ryhmitelty sen mukaan, mitä yrität tehdä, ei sen mukaan, mikä palveluntarjoaja sen sattuu palvelemaan.

Chat ja viestit

Kolme pyyntömuotoa päätyy samaan reitittimeen, joten asiakasohjelma pitää muodon, jota se jo puhuu.

POST/v1/chat/completionsOpenAI Chat Completions, suoratoistona tai puskuroituna
POST/v1/messagesAnthropic Messages
POST/v1/responsesOpenAI Responses
POST/v1/messages/count_tokensLaske tokenit ennen niiden käyttämistä

Upotukset, haku ja järjestys

RAG-pinon hakupuoli saman päätepisteen ja saman avaimen takana.

POST/v1/embeddingsTeksti- ja multimodaaliset upotukset
POST/v1/rerankCohere- ja Voyage-yhteensopiva uudelleenjärjestys
POST/v1/searchVerkkohaun abstraktio palveluntarjoajien yli
POST/v1/classifyJina-tekstiluokittelu
POST/v1/segmentJina-sisällön segmentointi
POST/v1/web/fetchLuettavan sivun poiminta

Kuva, video ja musiikki

Generointi kulkee saman varareitityksen ja kustannuslaskennan kautta kuin teksti.

POST/v1/images/generationsKuvasynteesi
POST/v1/images/editsMuokkaus ja inpainting
POST/v1/videos/generationsVideon generointi
POST/v1/music/generationsMusiikkisynteesi

Ääni ja dokumentit

Puhe molempiin suuntiin sekä OCR skannatulle lähdemateriaalille.

POST/v1/audio/transcriptionsPuheesta tekstiksi
POST/v1/audio/translationsKääntävä transkriptio
POST/v1/audio/speechTekstistä puheeksi
POST/v1/ocrDokumenttien OCR

Tiedostot ja eräajot

Lataa kerran ja aja työ asynkronisesti sen sijaan, että pidät yhteyttä auki.

POST/v1/filesLataa tiedosto
GET/v1/files/{id}/contentSuoratoista tiedoston sisältö takaisin
POST/v1/batchesLuo eräajo
GET/v1/batches/{id}Kysele eräajon tilaa
POST/v1/batches/{id}/cancelPeruuta käynnissä oleva eräajo

Löytäminen ja hallinta

Kaikki, mitä asiakasohjelma tarvitsee mallin valintaan ja budjetissa pysymiseen.

GET/v1/modelsPalveluntarjoajittain ryhmitelty mallikatalogi
GET/v1/quotas/checkTarkista jäljellä oleva kiintiö etukäteen
POST/v1/moderationsSisällön moderointi
GET/v1/wsWebSocket-päivitys suoratoistoasiakkaille

Agenttiprotokollat

MCP-palvelin 110 työkalulla ja A2A-agenttikortti, samasta prosessista.

GET/api/mcp/streamMCP HTTP:n yli, 33 laajuutta
GET/api/mcp/sseMCP Server-Sent Eventsin yli
POST/a2aJSON-RPC 2.0, 6 agenttitaitoa
GET/.well-known/agent.jsonJulkinen agenttikortti

Otsakkeet

Jokainen vastaus kertoo, miten se palveltiin.

Reititys ei ole musta laatikko: päätös, kustannus ja vastauksen tuottanut pakkaus kulkevat kaikki takaisin sen mukana.

Vastausotsakkeet

X-OmniRoute-DecisionPyynnön palvellut strategia, palveluntarjoajan alias ja latenssi
X-OmniRoute-ProviderPalveluntarjoajan alias, johon pyyntö todella reititettiin
X-OmniRoute-ModelSelvitetty mallitunniste
X-OmniRoute-Latency-MsYlävirran latenssi millisekunteina
X-OmniRoute-Tokens-InSyötetokenien määrä
X-OmniRoute-Tokens-OutTulostetokenien määrä
X-OmniRoute-Response-CostTämän vastauksen kustannus USD:nä
X-OmniRoute-Cost-SavedVälimuistiosumalla vältetty USD-summa
X-OmniRoute-CacheHIT tai MISS ei-suoratoistetuissa pyynnöissä
X-OmniRoute-CompressionKäytetty pakkaustila ja mistä se tuli
X-OmniRoute-Fallback-AttemptsTehdyt varareitityshypyt, jos niitä oli
X-OmniRoute-Request-IdPyyntölokin korrelaatiotunnus

Pyyntöotsakkeet

x-omniroute-compressionOhita pakkausprofiili yhden pyynnön ajaksi
X-OmniRoute-No-CacheOhita semanttinen välimuisti
x-omniroute-no-memoryOhita muistin ja taitojen injektointi
X-Session-IdIstuntosidonnaisuuden ja kustannuskohdistuksen avain
Idempotency-KeyDeduplikoi uudelleen yritetty pyyntö

Lue API-referenssi