OmniRoute / Snabbstart och driftsättning

Kör OmniRoute där du har kontrollen.

Installera paketet, starta det lokala API:et och välj en driftsättningsmetod som stöds.

Snabbstart

Installera, kör och anslut.

Installera paketet, starta gatewayen och peka sedan valfri OpenAI-kompatibel klient mot port 20128.

Step 1: Installera

Installera npm-paketet omniroute globalt.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Kör

Starta API:et och dashboarden tillsammans på port 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Anslut ditt verktyg

Använd http://localhost:20128/v1; den nyckelfria auto-rutten fungerar på en ny installation.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

OmniRoute från Cheaper Inference

Välj hur du kör OmniRoute.

Självhosta OmniRoute, eller använd Cheaper Inference för en hostad kostnadsrankad gateway.