OmniRoute / Gyors kezdés és üzembe helyezés

Futtasd az OmniRoute-ot ott, ahol te irányítod.

Telepítsd a csomagot, indítsd el a helyi API-t, és válassz egy támogatott üzembe helyezési módot.

Gyors kezdés

Telepítsd, futtasd és csatlakozz.

Telepítsd a csomagot, indítsd el az átjárót, majd irányíts bármilyen OpenAI-kompatibilis klienst a 20128 portra.

Step 1: Telepítés

Telepítsd globálisan az omniroute npm csomagot.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Futtatás

Indítsd el együtt az API-t és az irányítópultot a 20128 porton.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Csatlakoztasd az eszközödet

Használd a http://localhost:20128/v1 címet; a kulcs nélküli auto útvonal friss telepítésen is működik.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

OmniRoute a Cheaper Inference-től

Válaszd ki, hogyan futtatod az OmniRoute-ot.

Hosztold magad az OmniRoute-ot, vagy használd a Cheaper Inference-t hosztolt, költség szerint rangsorolt átjáróként.