OmniRoute / Keamanan dan kontrol data

Kontrol yang kode sumbernya bisa Anda baca.

Guardrail di jalur request, kontrol jaringan dan identitas, kredensial lokal terenkripsi, dan apa yang tetap bisa diaudit setelahnya.

Tinjau kontrolnya Coba Cheaper Inference Kembali ke ringkasan

Kontrol

Apa yang diperiksa gateway, dan di mana.

Setiap kontrol di bawah berjalan di proses yang Anda host. Tidak ada yang bergantung pada akun Cheaper Inference.

Di jalur request

Pemeriksaan yang berjalan sebelum prompt meninggalkan mesin dan sebelum respons sampai ke pemanggil.

Pengaman prompt injection pada setiap request yang dirutekan
Penyamaran kredensial opsional yang meredaksi key bocor di kedua arah
Redaksi PII opsional
Filter keamanan ternormalisasi yang tidak bergantung pada kebijakan satu provider
Guardrail visi untuk input gambar

Jaringan dan identitas

Kontrol atas cara request keluar dari host dan seperti apa bentuknya di jaringan.

Scope proxy: global, per provider, per koneksi
Proxy SOCKS5 dan HTTP(S)
Transport TLS berkemampuan JA3/JA4 dengan profil klien khusus per provider
Pemilihan egress IPv4 dan IPv6
Pengaman SSRF yang memblokir rentang alamat privat pada fetch keluar
Daftar izin dan daftar blokir IP di dasbor

Kredensial dan data lokal

Key, riwayat dan penggunaan tetap di host yang Anda jalankan, dalam database milik Anda.

Kredensial terenkripsi AES-256-GCM di SQLite lokal
API key ber-scope dengan pembatasan model dan provider
Batas pengeluaran USD dan budget token per key
Penyamaran email akun OAuth, aktif secara default
Tidak perlu akun OmniRoute untuk menjalankan gateway

Operasional dan audit

Apa yang bisa Anda rekonstruksi setelahnya, dan siapa yang diizinkan melakukannya.

Log audit administratif yang difilter per aksi, aktor dan target
Log request yang difilter per provider, model, akun dan key
Gerbang login OIDC opsional, dengan login kata sandi selalu tersedia
Admisi adaptif yang mengantrekan request berat alih-alih menggagalkannya
Ekspor dan impor database untuk backup dan migrasi

Jangkauan jaringan

Kontrol routing jaringan dan data lokal.

Scope proxy mengontrol routing jaringan, sementara penyimpanan local-first menjaga data operasional di mesin Anda.

Tiga scope proxy

Rutekan secara global, per provider atau per koneksi.

Global · per provider · per koneksi
Proxy SOCKS5 dan HTTP(S)
Integrasi marketplace proxy

Kontrol fingerprint TLS dan klien

Samakan dengan klien provider yang didukung hingga ke karakteristik transport tertentu.

Transport berkemampuan JA3/JA4 via wreq-js
Profil klien khusus per provider
Kontrol egress IPv4 dan IPv6

Privat dan local-first

Key, penggunaan dan riwayat tetap di host yang Anda kendalikan.

SQLite di disk dengan kredensial terenkripsi AES-256-GCM
Tidak perlu akun OmniRoute
Host sendiri di infrastruktur pilihan Anda

RusiaTiongkokIranKubaTürkiye

Isolasi kegagalan

Isolasi kegagalan provider, koneksi dan model.

Satu key buruk tidak boleh mematikan provider. Satu model yang dibatasi tidak boleh mematikan koneksi.

model ⊂ koneksi ⊂ provider

Circuit breaker providerSaat provider tidak sehat, routing combo melewatinya sampai probe half-open berhasil.

Cooldown koneksiDinginkan satu key atau akun sementara koneksi lain tetap melayani.

Penguncian modelKunci satu model yang terkena rate limit atau tidak tersedia sementara model lain di koneksi itu tetap tersedia.