OmniRoute / התחלה מהירה ופריסה

הריצו את OmniRoute במקום שבשליטתכם.

התקינו את החבילה, הפעילו את ה-API המקומי ובחרו שיטת פריסה נתמכת.

התחלה מהירה

התקינו, הריצו והתחברו.

התקינו את החבילה, הפעילו את השער, ואז הפנו כל לקוח תואם OpenAI לפורט 20128.

Step 1: התקנה

התקינו את חבילת ה-npm omniroute באופן גלובלי.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: הרצה

הפעילו את ה-API והדשבורד יחד על פורט 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: חברו את הכלי שלכם

השתמשו ב-http://localhost:20128/v1; נתיב auto ללא מפתח עובד על התקנה נקייה.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

OmniRoute מבית Cheaper Inference

בחרו איך להריץ את OmniRoute.

ארחו את OmniRoute בעצמכם, או השתמשו ב-Cheaper Inference לשער מאורח מדורג לפי עלות.