OmniRoute / کوئیک اسٹارٹ اور ڈپلائمنٹ

OmniRoute وہاں چلائیں جہاں کنٹرول آپ کا ہو۔

پیکج انسٹال کریں، لوکل API شروع کریں اور کوئی معاون ڈپلائمنٹ طریقہ چنیں۔

کوئیک اسٹارٹ

انسٹال کریں، چلائیں اور کنیکٹ کریں۔

پیکج انسٹال کریں، گیٹ وے لانچ کریں، پھر کسی بھی OpenAI-compatible کلائنٹ کو پورٹ 20128 کی طرف پوائنٹ کریں۔

Step 1: انسٹال

omniroute npm پیکج گلوبلی انسٹال کریں۔

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: چلائیں

API اور ڈیش بورڈ کو ایک ساتھ پورٹ 20128 پر لانچ کریں۔

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: اپنا ٹول کنیکٹ کریں

http://localhost:20128/v1 استعمال کریں؛ کی-لیس آٹو روٹ تازہ انسٹال پر کام کرتا ہے۔

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

ڈپلائمنٹ کے طریقے

OmniRoute چلانے کے 9 معاون طریقے۔

اسے لیپ ٹاپ، سرور یا فون پر انسٹال کریں، یا کسی معاون ایڈیٹر اور پلگ ان کے ذریعے کنیکٹ کریں۔

OmniRoute، Cheaper Inference کی پیشکش

OmniRoute چلانے کا طریقہ چنیں۔

OmniRoute سیلف ہوسٹ کریں، یا ہوسٹڈ لاگت-رینکڈ گیٹ وے کے لیے Cheaper Inference استعمال کریں۔