OmniRoute / Capacités du produit

Des contrôles que vous pouvez inspecter et auto-héberger.

Examinez les contrôles de la passerelle, les services de la plateforme et le tableau de bord local sans prendre une liste de fonctionnalités pour une promesse d'hébergement.

Contrôles essentiels

Ce qui est livré avec la passerelle auto-hébergée.

Contrôle essentiel

Gardez le flux de requêtes

Quand une cible est indisponible ou à court de quota, OmniRoute sélectionne la prochaine cible saine.

Contrôle essentiel

Compressez le contexte éligible

Un pipeline de 12 moteurs réduit le contexte éligible de 15–95%. L'exemple documenté riche en outils l'a réduit de ~89%.

Contrôle essentiel

0 $ pour commencer

90+ offres gratuites et 56 fournisseurs gratuits à vie, récurrents ou sans clé. Aucune carte bancaire requise pour le démarrage rapide sans clé.

Contrôle essentiel

35 intégrations prises en charge

Configurez Claude Code, Codex, Cursor, Cline, Copilot, Antigravity et d'autres clients pris en charge via un seul endpoint.

Contrôle essentiel

Un seul endpoint

Acceptez les requêtes OpenAI, Claude, Gemini et Responses API sur /v1.

Contrôle essentiel

Contrôles opérationnels

Disjoncteurs, identifiants chiffrés, MCP, A2A, mémoire, garde-fous et évals sont livrés avec la passerelle auto-hébergée.

Capacités

Configurez le chemin des requêtes depuis un seul tableau de bord.

Configurez repli, quota, compression, mémoire, MCP et A2A depuis le tableau de bord local.

Contrôle de la passerelle

Smart Combos

Réglez un modèle sur auto ou créez votre propre combo avec 19 stratégies et un repli par niveaux.

Utilisez un mode prêt à l'emploi ou combinez 19 stratégies autour de l'objectif qui compte.

Contrôle de la passerelle

Mémoire

Mémoire conversationnelle persistante avec rappel par mots-clés FTS5 et vecteurs Qdrant.

Contrôle de la passerelle

Résilience à 3 niveaux

Disjoncteur de fournisseur, refroidissement de connexion et verrouillage de modèle isolent les pannes au plus petit périmètre utile.

Contrôle de la passerelle

Quota gratuit

Comptabilité dédupliquée par pool sur 90+ offres gratuites.

Capacité gratuite publiée, dédupliquée.

Contrôle de la passerelle

Compression

12 moteurs composables pour la sortie des outils, le contexte et le style des réponses.

Réduisez les tokens éligibles de 15–95%.

Contrôle de la passerelle

Serveur MCP

Un serveur intégré exposant 110 outils de passerelle sur 33 périmètres.

110 outils · 33 périmètres · stdio / HTTP

Contrôle de la passerelle

Protocole A2A

Un serveur d'agents JSON-RPC avec 6 compétences.

6 compétences · JSON-RPC 2.0 · Agent Card

Contrôle de la passerelle

Cache sémantique

Une requête répétée peut être servie depuis le cache, et l'en-tête de réponse indique ce que cela a économisé.

X-OmniRoute-Cache: HIT

Services de la plateforme

Étendez la passerelle locale.

Services embarqués

Exécutez Bifrost, 9Router ou CLIProxy comme sidecars gérés, ou opérez un profil cluster complet.

Vos connaissances, en contexte

Connectez Notion et Obsidian comme sources de contexte via MCP.

Garde-fous intégrés

Détection d'injection de prompt, masquage optionnel des données personnelles et filtres de sécurité normalisés sans dépendance à un fournisseur.

Objectifs d'usage

Suivez séries, succès et économies en direct à côté des analyses opérationnelles.

Tableau de bord

Inspectez la configuration et des vues d'exploitation en exemple.

Les valeurs ci-dessous sont des exemples. Votre tableau de bord local reflète vos propres fournisseurs, requêtes et coûts.

localhost:20128/dashboardDonnées d'exemple
352fournisseurs connectés
90+offres gratuites disponibles
198sains dans cet exemple
  • Claude Code · OAuth · actif
  • Cerebras · gratuit · actif
  • Groq · exemple de refroidissement
  • NVIDIA NIM · gratuit · actif

OmniRoute par Cheaper Inference

Choisissez comment exécuter OmniRoute.

Auto-hébergez OmniRoute, ou utilisez Cheaper Inference pour une passerelle hébergée classée par coût.