OmniRoute / Schnellstart und Deployment

Betreibe OmniRoute dort, wo du die Kontrolle hast.

Installiere das Paket, starte die lokale API und wähle eine unterstützte Deployment-Methode.

Schnellstart

Installieren, starten und verbinden.

Installiere das Paket, starte das Gateway und richte einen beliebigen OpenAI-kompatiblen Client auf Port 20128.

Step 1: Installieren

Installiere das npm-Paket omniroute global.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Starten

Startet API und Dashboard zusammen auf Port 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Tool verbinden

Nutze http://localhost:20128/v1; die schlüssellose Auto-Route funktioniert direkt nach der Installation.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

OmniRoute von Cheaper Inference

Wähle, wie du OmniRoute betreibst.

Hoste OmniRoute selbst oder nutze Cheaper Inference als gehostetes, kostensortiertes Gateway.