OmniRouteby Cheaper Inference

OmniRoute / יכולות המוצר

בקרות שאפשר לבחון ולארח בעצמכם.

סקרו את בקרות השער, שירותי הפלטפורמה והדשבורד המקומי בלי להתייחס לרשימת יכולות כהבטחת אירוח.

סקירת היכולות נסו את Cheaper Inference חזרה לסקירה

בקרות ליבה

מה מגיע עם השער באירוח עצמי.

בקרת ליבה

הבקשות ממשיכות לזרום

כשיעד אינו זמין או שמכסתו נגמרה, OmniRoute בוחר את היעד התקין הבא.

בקרת ליבה

דחיסת הקשר זכאי

צנרת של 12 מנועים מצמצמת הקשר זכאי ב-15–95%. הדוגמה המתועדת עם ריבוי כלים צומצמה ב-~89%.

בקרת ליבה

$0 להתחלה

90+ מסלולים חינמיים ו-56 ספקים חינמיים לתמיד, מתחדשים או ללא מפתח. לא נדרש כרטיס אשראי להתחלה המהירה ללא מפתח.

בקרת ליבה

35 אינטגרציות נתמכות

הגדירו את Claude Code, Codex, Cursor, Cline, Copilot, Antigravity ולקוחות נתמכים אחרים דרך נקודת קצה אחת.

בקרת ליבה

נקודת קצה אחת

קבלת בקשות OpenAI, Claude, Gemini ו-Responses API ב-/v1.

בקרת ליבה

בקרות תפעוליות

Circuit breakers, פרטי גישה מוצפנים, MCP, A2A, זיכרון, guardrails ו-evals מגיעים עם השער באירוח עצמי.

יכולות

הגדירו את נתיב הבקשה מדשבורד אחד.

הגדירו fallback, מכסות, דחיסה, זיכרון, MCP ו-A2A מהדשבורד המקומי.

בקרת שער

קומבואים חכמים

הגדירו מודל ל-auto או בנו קומבו משלכם עם 19 אסטרטגיות ו-fallback מדורג.

השתמשו במצב מוכן מראש או שלבו 19 אסטרטגיות סביב המטרה שחשובה לכם.

בקרת שער

זיכרון

זיכרון שיחה מתמשך עם חיפוש מילות מפתח FTS5 ואחזור וקטורי ב-Qdrant.

בקרת שער

עמידות ב-3 שכבות

Circuit breaker לספק, cooldown לחיבור ונעילת מודל מבודדים תקלות בהיקף הקטן ביותר שמועיל.

בקרת שער

מכסה חינמית

חשבונאות ללא כפילויות בין מאגרים על פני 90+ מסלולים חינמיים.

קיבולת חינמית מפורסמת, ללא כפילויות.

בקרת שער

דחיסה

12 מנועים ניתנים להרכבה לפלט כלים, להקשר ולסגנון התגובה.

צמצמו טוקנים זכאים ב-15–95%.

בקרת שער

שרת MCP

שרת מובנה שחושף 110 כלי שער על פני 33 תחומים.

110 כלים · 33 תחומים · stdio / HTTP

בקרת שער

פרוטוקול A2A

שרת סוכנים ב-JSON-RPC עם 6 מיומנויות.

6 מיומנויות · JSON-RPC 2.0 · Agent Card

בקרת שער

מטמון סמנטי

בקשה חוזרת יכולה לחזור מהמטמון, וכותרת התגובה מדווחת מה זה חסך.

X-OmniRoute-Cache: HIT

שירותי פלטפורמה

הרחיבו את השער המקומי.

שירותים משובצים

הריצו את Bifrost, 9Router או CLIProxy כ-sidecars מנוהלים, או הפעילו פרופיל קלאסטר מלא.

הידע שלכם, בתוך ההקשר

חברו את Notion ו-Obsidian כמקורות הקשר מבוססי MCP.

Guardrails מובנים

בדיקות prompt injection, הסתרת PII בהפעלה יזומה ומסנני בטיחות מנורמלים בלי נעילה לספק.

יעדי שימוש

עקבו אחר רצפים, הישגים וחיסכון חי לצד אנליטיקה תפעולית.

דשבורד

בחנו את ההגדרות ותצוגות תפעול לדוגמה.

הערכים למטה הם נתוני דוגמה. הדשבורד המקומי שלכם משקף את הספקים, הבקשות והעלויות שלכם.

localhost:20128/dashboardנתוני דוגמה
352ספקים מחוברים
90+מסלולים חינמיים זמינים
198תקינים בדוגמה זו
  • Claude Code · OAuth · פעיל
  • Cerebras · חינמי · פעיל
  • Groq · cooldown לדוגמה
  • NVIDIA NIM · חינמי · פעיל

OmniRoute מבית Cheaper Inference

בחרו איך להריץ את OmniRoute.

ארחו את OmniRoute בעצמכם, או השתמשו ב-Cheaper Inference לשער מאורח מדורג לפי עלות.

נסו את Cheaper Inference אירוח עצמי של OmniRoute (נפתח בכרטיסייה חדשה) צפו ב-GitHub (נפתח בכרטיסייה חדשה)