OmniRoute / شروع سریع و استقرار

OmniRoute را جایی اجرا کنید که کنترلش دست شماست.

پکیج را نصب کنید، API محلی را راه بیندازید و یک روش استقرار پشتیبانی‌شده انتخاب کنید.

شروع سریع

نصب، اجرا و اتصال.

پکیج را نصب کنید، گیت‌وی را اجرا کنید و هر کلاینت سازگار با OpenAI را به پورت 20128 وصل کنید.

Step 1: نصب

پکیج npm omniroute را به‌صورت گلوبال نصب کنید.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: اجرا

API و داشبورد را با هم روی پورت 20128 اجرا کنید.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: ابزار خود را وصل کنید

از http://localhost:20128/v1 استفاده کنید؛ مسیر خودکار بدون کلید روی نصب تازه کار می‌کند.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

روش‌های استقرار

9 روش پشتیبانی‌شده برای اجرای OmniRoute.

روی لپ‌تاپ، سرور یا گوشی نصب کنید، یا از طریق ویرایشگر و پلاگین پشتیبانی‌شده وصل شوید.

OmniRoute از Cheaper Inference

انتخاب کنید OmniRoute را چطور اجرا کنید.

OmniRoute را خودتان میزبانی کنید، یا از Cheaper Inference برای یک گیت‌وی میزبانی‌شده با رتبه‌بندی هزینه استفاده کنید.