OmniRoute / Uso wa API

Endpoint moja, zaidi ya gumzo.

Gumzo, embeddings, reranking, picha, video, muziki, hotuba, OCR, faili na batches, katika umbizo la ombi ambalo mteja wako anatumia tayari.

Ona maumbizo Jaribu Cheaper Inference Rudi kwenye muhtasari

Maumbizo ya wire

Endelea na umbo la ombi ambalo mteja wako anatuma tayari.

Mchakato mmoja hupokea maumbizo kadhaa, kwa hivyo zana iliyojengwa dhidi ya SDK ya muuzaji mmoja inahitaji kubadilisha base URL na si kingine.

OpenAI

Chat Completions, embeddings, picha, sauti na faili, bila kubadilika.

/v1/chat/completions

Anthropic

Umbizo la Messages, ikiwa ni pamoja na kuhesabu tokeni.

/v1/messages

OpenAI Responses

Umbo la Responses API, na ubanaji wa matokeo ya zana.

/v1/responses

Gemini

generateContent na orodha ya modeli za Gemini.

/v1beta/models

Ollama

Mbadala wa moja kwa moja kwa zana zinazotumia API ya ndani ya Ollama.

/v1/api/chat

Rerank and Jina

Reranking ya Cohere/Voyage pamoja na classify na segment za Jina.

/v1/rerank

Endpoints

Zaidi ya chat completions.

Zimepangwa kwa unachojaribu kufanya badala ya mtoa huduma anayekihudumia.

Gumzo na ujumbe

Maumbo matatu ya maombi hufika kwenye router moja, kwa hivyo mteja hubaki na umbizo anaotumia tayari.

POST/v1/chat/completionsOpenAI Chat Completions, streaming au buffered
POST/v1/messagesAnthropic Messages
POST/v1/responsesOpenAI Responses
POST/v1/messages/count_tokensHesabu tokeni kabla ya kuzitumia

Embeddings, utafutaji na upangaji

Nusu ya urejeshaji ya stack ya RAG nyuma ya endpoint ile ile na key ile ile.

POST/v1/embeddingsEmbeddings za maandishi na multimodal
POST/v1/rerankReranking inayooana na Cohere na Voyage
POST/v1/searchUtafutaji wa wavuti kwa watoa huduma wote
POST/v1/classifyUainishaji wa maandishi wa Jina
POST/v1/segmentUgawaji wa maudhui wa Jina
POST/v1/web/fetchUchimbaji wa ukurasa unaosomeka

Picha, video na muziki

Uzalishaji hupitia fallback na uhesabuji wa gharama ule ule kama maandishi.

POST/v1/images/generationsUzalishaji wa picha
POST/v1/images/editsUhariri na inpainting
POST/v1/videos/generationsUzalishaji wa video
POST/v1/music/generationsUzalishaji wa muziki

Sauti na hati

Hotuba kwa pande zote mbili, pamoja na OCR kwa nyenzo zilizoskaniwa.

POST/v1/audio/transcriptionsHotuba hadi maandishi
POST/v1/audio/translationsUnukuzi unaotafsiri
POST/v1/audio/speechMaandishi hadi hotuba
POST/v1/ocrOCR ya hati

Faili na batches

Pakia mara moja, kisha endesha kazi bila kusubiri badala ya kuweka muunganisho wazi.

POST/v1/filesPakia faili
GET/v1/files/{id}/contentRudisha maudhui ya faili kwa stream
POST/v1/batchesUnda kazi ya batch
GET/v1/batches/{id}Angalia hali ya batch
POST/v1/batches/{id}/cancelGhairi batch inayoendesha

Ugunduzi na udhibiti

Kila kitu mteja anahitaji kuchagua modeli na kubaki ndani ya bajeti.

GET/v1/modelsKatalogi ya modeli iliyopangwa kwa mtoa huduma
GET/v1/quotas/checkThibitisha kiwango kilichobaki mapema
POST/v1/moderationsUdhibiti wa maudhui
GET/v1/wsUboreshaji wa WebSocket kwa wateja wa streaming

Itifaki za ajenti

Seva ya MCP yenye zana 110 na agent card ya A2A, zinazohudumiwa na mchakato ule ule.

GET/api/mcp/streamMCP kupitia HTTP, upeo 33
GET/api/mcp/sseMCP kupitia Server-Sent Events
POST/a2aJSON-RPC 2.0, ujuzi 6 wa ajenti
GET/.well-known/agent.jsonAgent card ya umma

Headers

Kila jibu husema jinsi lilivyohudumiwa.

Routing si sanduku jeusi: uamuzi, gharama na ubanaji uliozalisha jibu vyote hurudi pamoja nalo.

Headers za jibu

X-OmniRoute-DecisionMkakati, alias ya mtoa huduma na latency iliyohudumia ombi
X-OmniRoute-ProviderAlias ya mtoa huduma iliyoelekezwa kwake
X-OmniRoute-ModelKitambulisho cha modeli kilichotatuliwa
X-OmniRoute-Latency-MsLatency ya upstream kwa milisekunde
X-OmniRoute-Tokens-InIdadi ya tokeni za ingizo
X-OmniRoute-Tokens-OutIdadi ya tokeni za matokeo
X-OmniRoute-Response-CostGharama ya USD ya jibu hili
X-OmniRoute-Cost-SavedUSD zilizoepukwa kwa cache hit
X-OmniRoute-CacheHIT au MISS kwenye maombi yasiyo ya streaming
X-OmniRoute-CompressionHali ya ubanaji iliyotumika na ilikotoka
X-OmniRoute-Fallback-AttemptsHatua za fallback zilizochukuliwa, zilipokuwepo
X-OmniRoute-Request-IdKitambulisho cha uhusiano kwa logi ya maombi

Headers za ombi

x-omniroute-compressionBadilisha profaili ya ubanaji kwa ombi moja
X-OmniRoute-No-CacheRuka cache ya kisemantiki
x-omniroute-no-memoryRuka uingizaji wa kumbukumbu na ujuzi
X-Session-IdKey ya uhusiano wa kipindi na ugawaji wa gharama
Idempotency-KeyOndoa marudio ya ombi lililojaribiwa tena

Soma marejeleo ya API