OmniRoute / משטח ה-API

נקודת קצה אחת, יותר מצ'אט.

צ'אט, embeddings, דירוג מחדש, תמונות, וידאו, מוזיקה, דיבור, OCR, קבצים ואצוות, בפורמט הבקשה שהלקוח שלכם כבר מדבר.

צפייה בפורמטים נסו את Cheaper Inference חזרה לסקירה

פורמטי תעבורה

שמרו על מבנה הבקשה שהלקוח שלכם כבר שולח.

תהליך אחד מקבל כמה פורמטים, כך שכלי שנבנה מול SDK של ספק אחד צריך רק שינוי כתובת בסיס ושום דבר מעבר.

OpenAI

Chat Completions, embeddings, תמונות, אודיו וקבצים, ללא שינוי.

/v1/chat/completions

Anthropic

פורמט ה-Messages, כולל ספירת טוקנים.

/v1/messages

OpenAI Responses

מבנה ה-Responses API, עם כיווץ פלט כלים.

/v1/responses

Gemini

generateContent ורשימת המודלים של Gemini.

/v1beta/models

Ollama

תחליף ישיר לכלים שמדברים Ollama API מקומי.

/v1/api/chat

Rerank and Jina

דירוג מחדש של Cohere/Voyage בתוספת classify ו-segment של Jina.

/v1/rerank

נקודות קצה

יותר מ-chat completions.

מקובץ לפי מה שאתם מנסים לעשות, ולא לפי הספק שבמקרה מגיש את זה.

צ'אט והודעות

שלושה מבני בקשה מגיעים לאותו נתב, כך שלקוח שומר על הפורמט שהוא כבר מדבר.

POST/v1/chat/completionsOpenAI Chat Completions, בסטרימינג או במאגר
POST/v1/messagesAnthropic Messages
POST/v1/responsesOpenAI Responses
POST/v1/messages/count_tokensספרו טוקנים לפני שמוציאים אותם

Embeddings, חיפוש ודירוג

חצי האחזור של סטאק RAG מאחורי אותה נקודת קצה ואותו מפתח.

POST/v1/embeddingsEmbeddings לטקסט ומולטימודליים
POST/v1/rerankדירוג מחדש תואם Cohere ו-Voyage
POST/v1/searchהפשטת חיפוש ברשת על פני ספקים
POST/v1/classifyסיווג טקסט של Jina
POST/v1/segmentפילוח תוכן של Jina
POST/v1/web/fetchחילוץ תוכן קריא מעמודים

תמונה, וידאו ומוזיקה

יצירת מדיה מנותבת דרך אותו fallback ואותה חשבונאות עלויות כמו טקסט.

POST/v1/images/generationsיצירת תמונות
POST/v1/images/editsעריכה ו-inpainting
POST/v1/videos/generationsיצירת וידאו
POST/v1/music/generationsיצירת מוזיקה

אודיו ומסמכים

דיבור לשני הכיוונים, בתוספת OCR לחומר מקור סרוק.

POST/v1/audio/transcriptionsדיבור לטקסט
POST/v1/audio/translationsתעתוק מתורגם
POST/v1/audio/speechטקסט לדיבור
POST/v1/ocrOCR למסמכים

קבצים ואצוות

העלו פעם אחת, ואז הריצו עבודה אסינכרונית במקום להחזיק חיבור פתוח.

POST/v1/filesהעלאת קובץ
GET/v1/files/{id}/contentהזרמת תוכן הקובץ בחזרה
POST/v1/batchesיצירת עבודת אצווה
GET/v1/batches/{id}תשאול מצב האצווה
POST/v1/batches/{id}/cancelביטול אצווה רצה

גילוי ובקרה

כל מה שלקוח צריך כדי לבחור מודל ולהישאר בתוך התקציב.

GET/v1/modelsקטלוג מודלים מקובץ לפי ספק
GET/v1/quotas/checkאימות מקדים של המכסה הנותרת
POST/v1/moderationsמודרציית תוכן
GET/v1/wsשדרוג WebSocket ללקוחות סטרימינג

פרוטוקולי סוכנים

שרת MCP עם 110 כלים ו-agent card של A2A, מוגשים מאותו תהליך.

GET/api/mcp/streamMCP דרך HTTP, 33 תחומים
GET/api/mcp/sseMCP דרך Server-Sent Events
POST/a2aJSON-RPC 2.0, 6 מיומנויות סוכן
GET/.well-known/agent.jsonAgent card ציבורי

כותרות

כל תגובה מספרת איך היא הוגשה.

הניתוב אינו קופסה שחורה: ההחלטה, העלות והדחיסה שיצרו תגובה חוזרים יחד איתה.

כותרות תגובה

X-OmniRoute-Decisionהאסטרטגיה, כינוי הספק וזמן התגובה ששירתו את הבקשה
X-OmniRoute-Providerכינוי הספק שאליו נותבה הבקשה בפועל
X-OmniRoute-Modelמזהה המודל שנפתר
X-OmniRoute-Latency-Msזמן תגובה של ה-upstream במילישניות
X-OmniRoute-Tokens-Inמספר טוקני הקלט
X-OmniRoute-Tokens-Outמספר טוקני הפלט
X-OmniRoute-Response-Costעלות התגובה בדולרים
X-OmniRoute-Cost-Savedדולרים שנחסכו ב-cache hit
X-OmniRoute-CacheHIT או MISS בבקשות ללא סטרימינג
X-OmniRoute-Compressionמצב הדחיסה שהופעל ומאיפה הוא הגיע
X-OmniRoute-Fallback-Attemptsקפיצות fallback שבוצעו, אם היו
X-OmniRoute-Request-Idמזהה קורלציה ליומן הבקשות

כותרות בקשה

x-omniroute-compressionדריסת פרופיל הדחיסה לבקשה אחת
X-OmniRoute-No-Cacheעקיפת המטמון הסמנטי
x-omniroute-no-memoryדילוג על הזרקת זיכרון ומיומנויות
X-Session-Idמפתח לשיוך סשן ולייחוס עלויות
Idempotency-Keyביטול כפילות של בקשה שנשלחה שוב

קראו את מסמך ה-API