OmniRoute / Pornire rapidă și instalare

Rulează OmniRoute acolo unde deții controlul.

Instalează pachetul, pornește API-ul local și alege o metodă de instalare suportată.

Pornire rapidă

Instalează, rulează și conectează.

Instalează pachetul, pornește gateway-ul, apoi îndreaptă orice client compatibil OpenAI către portul 20128.

Step 1: Instalează

Instalează global pachetul npm omniroute.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Rulează

Pornește API-ul și dashboard-ul împreună pe portul 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Conectează-ți tool-ul

Folosește http://localhost:20128/v1; ruta auto fără cheie funcționează pe o instalare nouă.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

OmniRoute by Cheaper Inference

Alege cum rulezi OmniRoute.

Găzduiește OmniRoute pe cont propriu sau folosește Cheaper Inference pentru un gateway găzduit, ordonat după cost.