OmniRoute / การกำหนดเส้นทางและการควบคุม

เลือกว่าแต่ละคำขอจะเดินทางอย่างไร

ดูกลยุทธ์การกำหนดเส้นทาง บัญชีแพ็กเกจฟรี การบีบอัด การแยกความล้มเหลว และตัวควบคุมเครือข่าย

ดูการกำหนดเส้นทาง ลอง Cheaper Inference กลับไปหน้าภาพรวม

กลยุทธ์การกำหนดเส้นทาง

เลือกเส้นทาง `auto` หรือสร้างของคุณเอง

ใช้โหมดสำเร็จรูป หรือผสมกลยุทธ์ 19 แบบให้เข้ากับเป้าหมายที่คุณให้ความสำคัญ

โมเดล · เปิด fallbackautoBalanced default

คำขอที่เข้ากันได้กับ OpenAI

curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

ใช้โควตาสมาชิกให้หมด

ใช้โควตาที่มีอยู่แล้วก่อนจะแตะ API แบบเสียเงิน

priority · fill-first

กระจายโหลด

กระจายทราฟฟิกไปตามคีย์และบัญชีต่างๆ เพื่อลดแรงกดดันจาก rate limit

weighted · round-robin · p2c · least-used · headroom

ถูกที่สุดก่อน

กำหนดเส้นทางไปยังปลายทางที่เข้าเกณฑ์และต้นทุนต่ำสุด

cost-optimized

รู้จักคอนเท็กซ์

เก็บคอนเท็กซ์ยาวไว้บนโมเดลที่รองรับ แล้วส่งต่อเมื่อจำเป็น

context-relay · context-optimized · cache-optimized

แบบสุ่ม

กระจายทราฟฟิกที่เข้าเกณฑ์ไปยังปลายทางต่างๆ

random · strict-random

ให้คะแนนแบบปรับตัว

ใช้การให้คะแนน 15 ปัจจัย ค่าล่าสุดที่ใช้ได้ดี และหน้าต่างเวลาที่รับรู้การรีเซ็ต

reset-window · reset-aware · lkgp · auto · fusion · pipeline

บัญชีแพ็กเกจฟรี

โทเค็นที่เผยแพร่ไว้ประมาณ 1.51B ต่อเดือน

รายการในแคตตาล็อก 455 รายการถูกรวมเป็นพูลรีเซ็ตรายรอบ 40 พูลแบบไม่นับซ้ำ เฉพาะงบที่เผยแพร่และเป็นบวกเท่านั้นที่นำมารวมในตัวเลขหลัก

1.51B

บัญชีแบบไม่นับซ้ำในพูลป้องกันไม่ให้โควตาที่แบ่งกันใช้ถูกนับมากกว่าหนึ่งครั้ง ผู้ให้บริการแบบไม่จำกัดยังคงแสดงอยู่โดยไม่ทำให้ยอดโทเค็นรวมพองเกินจริง Checked 2026-08-30.

View the calculation

ผู้ให้บริการฟรีตลอดแบบรีเซ็ตรายรอบหรือไม่ต้องใช้คีย์56

Mistral1B/month
LLM7150M/month
Nara150M/month
Gemini CLI · forever60M/month
Kiro50 credits/month
Qoder · foreverFree catalog
LongCat · forever50M/day
Cerebras1M/day
NVIDIA NIM~40 RPM
Pollinations · foreverNo key
Cloudflare Workers AI · foreverDaily neurons
OpenCode Free · foreverNo-auth catalog

การบีบอัดคอนเท็กซ์

ลดโทเค็นที่เข้าเกณฑ์ลง 15–95%

เอาต์พุตเครื่องมือ คอนเท็กซ์ที่ซ้ำ และข้อมูลเชิงโครงสร้างที่บวม สามารถบีบอัดได้ก่อนถึงโมเดล

Illustrative Ultra profile example from the audited documentation.

Before69 tokens

The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.

After19 tokens

sum all list items where value > 0

Composable pipeline

Session-Dedup
ตัดเนื้อหาที่เคยส่งไปแล้วก่อนหน้าในเซสชัน
CCR
เก็บบล็อกขนาดใหญ่เข้าคลังและกู้คืนเมื่อต้องการ
Lite
ทำความสะอาดแบบไม่สูญเสียข้อมูลอย่างระมัดระวัง
RTK
กรองและตัดซ้ำเอาต์พุตของคำสั่งและเครื่องมือ
Responses Tool Output
ย่อ payload เครื่องมือของ Responses API
Headroom
ย่อข้อมูลตารางและข้อมูลเชิงโครงสร้างแบบย้อนกลับได้
Relevance
เก็บประโยคที่เกี่ยวข้องกับคำถามล่าสุดมากที่สุด
Caveman
ย่อร้อยแก้วตามกฎที่กำหนด
Aggressive
ตัดทอนแรงขึ้นตามที่ตั้งค่าไว้
LLMLingua-2
ตัดทอนเชิงความหมายแบบปลอดภัยกับโค้ดใน worker ที่แยกออกมา
Ultra
รวมขั้นตอนที่ประหยัดสูงเข้ากับตัวป้องกันการรักษาเนื้อหา
OmniGlyph
เข้ารหัสโครงสร้างที่ซ้ำและเข้าเกณฑ์ให้กระชับ

Profiles

ช่วงโปรไฟล์ที่เผยแพร่~30%x-omniroute-compression: standard

Controls and output styles

โปรไฟล์ที่ตั้งชื่อไว้และตัวเลือกที่ใช้งาน
Visual Compression Studio
Anthropic Context Editing
ตัวปรับงบคอนเท็กซ์แบบปรับตัว
Header \
ต่อคำขอ
ชุดทดสอบ eval แบบออฟไลน์
ทริกเกอร์อัตโนมัติตามเกณฑ์โทเค็น
Terse prose
Less code (YAGNI)
Terse CJK 文言

ลำดับความสำคัญของตัวควบคุม: header คำขอ → คอมโบ → โปรไฟล์ → นโยบายปรับตัว → ค่าเริ่มต้น

การแยกความล้มเหลว

แยกความล้มเหลวของผู้ให้บริการ การเชื่อมต่อ และโมเดลออกจากกัน

คีย์เสียหนึ่งอันไม่ควรทำให้ผู้ให้บริการทั้งรายล่ม โมเดลที่ถูกจำกัดไม่ควรทำให้การเชื่อมต่อทั้งเส้นล่ม

โมเดล ⊂ การเชื่อมต่อ ⊂ ผู้ให้บริการ

เซอร์กิตเบรกเกอร์ผู้ให้บริการเมื่อผู้ให้บริการทำงานผิดปกติ การกำหนดเส้นทางแบบคอมโบจะข้ามไปจนกว่าการทดสอบแบบ half-open จะสำเร็จ

คูลดาวน์การเชื่อมต่อพักคีย์หรือบัญชีเดียวชั่วคราว ขณะที่การเชื่อมต่ออื่นยังให้บริการต่อ

ล็อกโมเดลล็อกโมเดลที่ติด rate limit หรือใช้งานไม่ได้ ขณะที่โมเดลอื่นบนการเชื่อมต่อเดียวกันยังใช้ได้

ตัวควบคุมเครือข่ายและข้อมูลในเครื่อง

การกำหนดเส้นทางเครือข่ายและตัวควบคุมข้อมูลในเครื่อง

ขอบเขตพร็อกซีควบคุมการกำหนดเส้นทางเครือข่าย ส่วนการจัดเก็บในเครื่องเป็นหลักช่วยให้ข้อมูลปฏิบัติการอยู่บนเครื่องของคุณ

ขอบเขตพร็อกซีสามระดับ

กำหนดเส้นทางแบบทั่วทั้งระบบ ต่อผู้ให้บริการ หรือต่อการเชื่อมต่อแต่ละเส้น

ทั่วทั้งระบบ · ต่อผู้ให้บริการ · ต่อการเชื่อมต่อ
พร็อกซี SOCKS5 และ HTTP(S)
เชื่อมต่อกับตลาดพร็อกซี

ตัวควบคุมลายนิ้วมือ TLS และไคลเอนต์

จับคู่กับไคลเอนต์ของผู้ให้บริการที่รองรับ ลงถึงคุณลักษณะการส่งข้อมูลที่เลือกไว้

การส่งข้อมูลที่รองรับ JA3/JA4 ผ่าน wreq-js
โปรไฟล์ไคลเอนต์เฉพาะแต่ละผู้ให้บริการ
ตัวควบคุมขาออก IPv4 และ IPv6

เป็นส่วนตัวและอยู่ในเครื่องเป็นหลัก

คีย์ การใช้งาน และประวัติอยู่บนโฮสต์ที่คุณควบคุม

SQLite บนดิสก์ พร้อมข้อมูลรับรองที่เข้ารหัสด้วย AES-256-GCM
ไม่ต้องมีบัญชี OmniRoute
โฮสต์เองบนโครงสร้างพื้นฐานที่คุณเลือก

รัสเซียจีนอิหร่านคิวบาตุรกี