OmniRoute / Güvenlik ve veri kontrolü

Kaynak kodunu okuyabildiğiniz kontroller.

İstek yolunda korumalar, ağ ve kimlik kontrolleri, şifreli yerel kimlik bilgileri ve sonrasında denetlenebilir kalanlar.

Kontroller

Ağ geçidi neyi, nerede kontrol eder.

Aşağıdaki her kontrol sizin barındırdığınız süreçte çalışır. Hiçbiri bir Cheaper Inference hesabına bağlı değildir.

İstek yolunda

Bir prompt makineden çıkmadan ve bir yanıt çağırana ulaşmadan önce çalışan kontroller.

  • Yönlendirilen her istekte prompt enjeksiyonu koruması
  • Sızan anahtarları iki yönde de maskeleyen isteğe bağlı kimlik bilgisi maskeleme
  • İsteğe bağlı PII maskeleme
  • Tek bir sağlayıcının politikasına bağlı olmayan normalleştirilmiş güvenlik filtreleri
  • Görsel girdiler için görüntü korumaları

Ağ ve kimlik

İsteklerin ana makineden nasıl çıktığı ve hatta nasıl göründüğü üzerindeki kontroller.

  • Proxy kapsamları: global, sağlayıcı başına, bağlantı başına
  • SOCKS5 ve HTTP(S) proxy'ler
  • Sağlayıcıya özel istemci profilleriyle JA3/JA4 destekli TLS aktarımı
  • IPv4 ve IPv6 çıkış seçimi
  • Giden isteklerde özel adres aralıklarını engelleyen SSRF koruması
  • Panelde IP izin ve engel listeleri

Kimlik bilgileri ve yerel veri

Anahtarlar, geçmiş ve kullanım, çalıştırdığınız ana makinede, size ait bir veritabanında kalır.

  • Yerel SQLite'ta AES-256-GCM ile şifreli kimlik bilgileri
  • Model ve sağlayıcı kısıtlamalı kapsamlı API anahtarları
  • Anahtar başına USD harcama sınırları ve token bütçeleri
  • Varsayılan olarak açık OAuth hesap e-postası maskeleme
  • Ağ geçidini çalıştırmak için OmniRoute hesabı gerekmez

Operasyonlar ve denetim

Sonradan neyi yeniden kurabildiğiniz ve bunu kimin yapmaya yetkili olduğu.

  • Eylem, aktör ve hedefe göre filtrelenen yönetim denetim günlüğü
  • Sağlayıcı, model, hesap ve anahtara göre filtrelenen istek günlükleri
  • Her zaman kullanılabilir parola girişiyle birlikte isteğe bağlı OIDC giriş kapısı
  • Ağır istekleri reddetmek yerine sıraya alan uyarlanabilir kabul
  • Yedekleme ve taşıma için veritabanı dışa ve içe aktarma

Ağ erişimi

Ağ yönlendirme ve yerel veri kontrolleri.

Proxy kapsamları ağ yönlendirmesini kontrol eder; yerel öncelikli depolama operasyonel verileri makinenizde tutar.

Üç proxy kapsamı

Global, sağlayıcı başına veya tekil bağlantı başına yönlendirin.

  • Global · sağlayıcı başına · bağlantı başına
  • SOCKS5 ve HTTP(S) proxy'ler
  • Proxy pazar yeri entegrasyonu

TLS ve istemci parmak izi kontrolleri

Desteklenen sağlayıcı istemcilerini seçili aktarım özelliklerine kadar eşleştirin.

  • wreq-js ile JA3/JA4 destekli aktarım
  • Sağlayıcıya özel istemci profilleri
  • IPv4 ve IPv6 çıkış kontrolleri

Özel ve yerel öncelikli

Anahtarlar, kullanım ve geçmiş kontrol ettiğiniz ana makinede kalır.

  • Diskte SQLite, AES-256-GCM ile şifreli kimlik bilgileri
  • OmniRoute hesabı gerekmez
  • Seçtiğiniz altyapıda kendiniz barındırın
RusyaÇinİranKübaTürkiye

Hata yalıtımı

Sağlayıcı, bağlantı ve model hatalarını yalıtın.

Kötü bir anahtar bir sağlayıcıyı çökertmemeli. Sınırlanan bir model bir bağlantıyı çökertmemeli.

model ⊂ bağlantı ⊂ sağlayıcı
Sağlayıcı devre kesiciBir sağlayıcı sağlıksızsa kombo yönlendirmesi, yarı açık bir sonda başarılı olana kadar onu atlar.
Bağlantı soğumasıKardeş bağlantılar hizmet vermeye devam ederken tek bir anahtarı veya hesabı soğutun.
Model kilitlemeHız sınırına takılan veya kullanılamayan tek bir modeli kilitleyin; bağlantıdaki diğer modeller kullanılabilir kalır.

Cheaper Inference'tan OmniRoute

OmniRoute'u nasıl çalıştıracağınızı seçin.

OmniRoute'u kendiniz barındırın veya barındırılan, maliyete göre sıralanmış bir ağ geçidi için Cheaper Inference'ı kullanın.