OmniRoute / พื้นผิว API

endpoint เดียว ทำได้มากกว่าแชท

แชท embeddings reranking รูปภาพ วิดีโอ เพลง เสียงพูด OCR ไฟล์ และแบตช์ ในรูปแบบคำขอที่ไคลเอนต์ของคุณใช้อยู่แล้ว

ดูรูปแบบ ลอง Cheaper Inference กลับไปหน้าภาพรวม

รูปแบบ wire

ใช้รูปแบบคำขอเดิมที่ไคลเอนต์ของคุณส่งอยู่แล้ว

โปรเซสเดียวรับได้หลายรูปแบบ เครื่องมือที่สร้างบน SDK ของผู้ขายรายหนึ่งจึงต้องเปลี่ยนแค่ base URL เท่านั้น

OpenAI

Chat Completions, embeddings, รูปภาพ เสียง และไฟล์ โดยไม่ต้องเปลี่ยนอะไร

/v1/chat/completions

Anthropic

รูปแบบ Messages รวมถึงการนับโทเค็น

/v1/messages

OpenAI Responses

รูปแบบ Responses API พร้อมการย่อเอาต์พุตเครื่องมือ

/v1/responses

Gemini

generateContent และรายการโมเดลของ Gemini

/v1beta/models

Ollama

ใช้แทนได้ทันทีสำหรับเครื่องมือที่คุยกับ Ollama API ในเครื่อง

/v1/api/chat

Rerank and Jina

reranking แบบ Cohere/Voyage พร้อม classify และ segment ของ Jina

/v1/rerank

Endpoints

มากกว่า chat completions

จัดกลุ่มตามสิ่งที่คุณต้องการทำ ไม่ใช่ตามผู้ให้บริการที่บังเอิญให้บริการ

แชทและข้อความ

คำขอสามรูปแบบไปถึง router เดียวกัน ไคลเอนต์จึงใช้ฟอร์แมตเดิมที่คุยอยู่แล้วได้

POST/v1/chat/completionsOpenAI Chat Completions แบบสตรีมหรือบัฟเฟอร์
POST/v1/messagesAnthropic Messages
POST/v1/responsesOpenAI Responses
POST/v1/messages/count_tokensนับโทเค็นก่อนใช้จ่าย

Embeddings การค้นหา และการจัดอันดับ

ครึ่ง retrieval ของสแต็ก RAG อยู่หลัง endpoint เดียวกันและคีย์เดียวกัน

POST/v1/embeddingsembeddings แบบข้อความและมัลติโมดัล
POST/v1/rerankreranking ที่เข้ากันได้กับ Cohere และ Voyage
POST/v1/searchการค้นเว็บแบบนามธรรมข้ามผู้ให้บริการ
POST/v1/classifyการจำแนกข้อความของ Jina
POST/v1/segmentการแบ่งส่วนเนื้อหาของ Jina
POST/v1/web/fetchดึงเนื้อหาหน้าเว็บที่อ่านได้

รูปภาพ วิดีโอ และเพลง

การสร้างสื่อผ่าน fallback และการคิดต้นทุนเดียวกับข้อความ

POST/v1/images/generationsสังเคราะห์รูปภาพ
POST/v1/images/editsแก้ไขและ inpainting
POST/v1/videos/generationsสร้างวิดีโอ
POST/v1/music/generationsสังเคราะห์เพลง

เสียงและเอกสาร

แปลงเสียงได้ทั้งสองทาง พร้อม OCR สำหรับต้นฉบับที่สแกนมา

POST/v1/audio/transcriptionsเสียงเป็นข้อความ
POST/v1/audio/translationsถอดเสียงพร้อมแปล
POST/v1/audio/speechข้อความเป็นเสียง
POST/v1/ocrOCR เอกสาร

ไฟล์และแบตช์

อัปโหลดครั้งเดียว แล้วรันงานแบบอะซิงโครนัสแทนการเปิดการเชื่อมต่อค้างไว้

POST/v1/filesอัปโหลดไฟล์
GET/v1/files/{id}/contentสตรีมเนื้อหาไฟล์กลับ
POST/v1/batchesสร้างงานแบตช์
GET/v1/batches/{id}ตรวจสถานะแบตช์
POST/v1/batches/{id}/cancelยกเลิกแบตช์ที่กำลังรัน

การค้นพบและการควบคุม

ทุกสิ่งที่ไคลเอนต์ต้องใช้เพื่อเลือกโมเดลและอยู่ในงบประมาณ

GET/v1/modelsแคตตาล็อกโมเดลจัดกลุ่มตามผู้ให้บริการ
GET/v1/quotas/checkตรวจโควตาที่เหลือล่วงหน้า
POST/v1/moderationsการกลั่นกรองเนื้อหา
GET/v1/wsอัปเกรด WebSocket สำหรับไคลเอนต์แบบสตรีม

โปรโตคอลเอเจนต์

เซิร์ฟเวอร์ MCP พร้อมเครื่องมือ 110 รายการ และ agent card ของ A2A ให้บริการจากโปรเซสเดียวกัน

GET/api/mcp/streamMCP ผ่าน HTTP, 33 ขอบเขต
GET/api/mcp/sseMCP ผ่าน Server-Sent Events
POST/a2aJSON-RPC 2.0, 6 สกิลเอเจนต์
GET/.well-known/agent.jsonagent card สาธารณะ

Headers

ทุกการตอบกลับบอกว่าถูกให้บริการอย่างไร

การกำหนดเส้นทางไม่ใช่กล่องดำ: การตัดสินใจ ต้นทุน และการบีบอัดที่สร้างการตอบกลับนั้นเดินทางกลับมาพร้อมกัน

Header การตอบกลับ

X-OmniRoute-Decisionกลยุทธ์ นามแฝงผู้ให้บริการ และเวลาแฝงที่ให้บริการคำขอนี้
X-OmniRoute-Providerนามแฝงผู้ให้บริการที่กำหนดเส้นทางไปจริง
X-OmniRoute-Modelตัวระบุโมเดลที่ถูกเลือกใช้
X-OmniRoute-Latency-Msเวลาแฝงต้นทางเป็นมิลลิวินาที
X-OmniRoute-Tokens-Inจำนวนโทเค็นอินพุต
X-OmniRoute-Tokens-Outจำนวนโทเค็นเอาต์พุต
X-OmniRoute-Response-Costต้นทุนของการตอบกลับนี้เป็น USD
X-OmniRoute-Cost-SavedUSD ที่ประหยัดได้เมื่อแคช hit
X-OmniRoute-CacheHIT หรือ MISS สำหรับคำขอที่ไม่ใช่สตรีม
X-OmniRoute-Compressionโหมดการบีบอัดที่ใช้และที่มาของมัน
X-OmniRoute-Fallback-Attemptsจำนวน fallback hop ที่เกิดขึ้น หากมี
X-OmniRoute-Request-Idรหัสเชื่อมโยงสำหรับบันทึกคำขอ

Header คำขอ

x-omniroute-compressionแทนที่โปรไฟล์การบีบอัดสำหรับคำขอเดียว
X-OmniRoute-No-Cacheข้ามแคชเชิงความหมาย
x-omniroute-no-memoryข้ามการแทรกหน่วยความจำและสกิล
X-Session-Idคีย์ยึดเซสชันและระบุที่มาของต้นทุน
Idempotency-Keyตัดซ้ำคำขอที่ส่งใหม่

อ่านเอกสารอ้างอิง API