OmniRoute / Securitate și controlul datelor

Controale al căror cod sursă îl poți citi.

Guardrails pe calea cererii, controale de rețea și identitate, credențiale locale criptate și ce rămâne auditabil după.

Examinează controalele Încearcă Cheaper Inference Înapoi la prezentare

Controale

Ce verifică gateway-ul, și unde.

Fiecare control de mai jos rulează în procesul pe care îl găzduiești. Nimic nu depinde de un cont Cheaper Inference.

Pe calea cererii

Verificări care rulează înainte ca un prompt să părăsească mașina și înainte ca un răspuns să ajungă la apelant.

Gardă anti prompt-injection la fiecare cerere rutată
Mascare opțională a credențialelor, care redactează cheile scurse în ambele direcții
Redactare PII opțională
Filtre de siguranță normalizate, independente de politica unui singur furnizor
Guardrails de viziune pentru input-uri imagine

Rețea și identitate

Controale asupra modului în care cererile părăsesc host-ul și cum arată pe fir.

Scope-uri de proxy: global, per furnizor, per conexiune
Proxy-uri SOCKS5 și HTTP(S)
Transport TLS compatibil JA3/JA4 cu profiluri de client specifice furnizorului
Selecție de egress IPv4 și IPv6
Gardă SSRF care blochează intervalele de adrese private la fetch-uri externe
Liste de IP permise și blocate în dashboard

Credențiale și date locale

Cheile, istoricul și utilizarea rămân pe host-ul pe care îl rulezi, într-o bază de date pe care o deții.

Credențiale criptate AES-256-GCM în SQLite local
Chei API cu scope, cu restricții pe model și furnizor
Limite de cheltuieli în USD și bugete de tokeni per cheie
Mascarea emailului contului OAuth, activă implicit
Nu e nevoie de cont OmniRoute pentru a rula gateway-ul

Operațiuni și audit

Ce poți reconstitui după fapt și cine avea permisiunea să o facă.

Jurnal de audit administrativ filtrat după acțiune, actor și țintă
Jurnale de cereri filtrate după furnizor, model, cont și cheie
Autentificare OIDC opțională, cu login prin parolă mereu disponibil
Admitere adaptivă care pune în coadă cererile grele în loc să le respingă
Export și import al bazei de date pentru backup și migrare

Acoperire de rețea

Controale de rutare în rețea și date locale.

Scope-urile de proxy controlează rutarea în rețea, iar stocarea local-first păstrează datele operaționale pe mașina ta.

Trei scope-uri de proxy

Rutează global, per furnizor sau per conexiune individuală.

Global · per furnizor · per conexiune
Proxy-uri SOCKS5 și HTTP(S)
Integrare cu marketplace-uri de proxy

Controale TLS și client fingerprint

Imită clienții furnizorilor suportați până la caracteristici de transport selectate.

Transport compatibil JA3/JA4 prin wreq-js
Profiluri de client specifice furnizorului
Controale de egress IPv4 și IPv6

Privat și local-first

Cheile, utilizarea și istoricul rămân pe host-ul pe care îl controlezi.

SQLite pe disc cu credențiale criptate AES-256-GCM
Nu e nevoie de cont OmniRoute
Self-host pe infrastructura pe care o alegi

RusiaChinaIranCubaTurcia

Izolarea erorilor

Izolează erorile de furnizor, conexiune și model.

O cheie defectă nu ar trebui să doboare un furnizor. Un model limitat nu ar trebui să doboare o conexiune.

model ⊂ conexiune ⊂ furnizor

Circuit breaker per furnizorCând un furnizor nu e funcțional, rutarea combo îl sare până când o sondă half-open reușește.

Cooldown per conexiunePune în pauză o cheie sau un cont, în timp ce conexiunile vecine continuă să servească.

Blocare per modelBlochează un model limitat sau indisponibil, în timp ce celelalte modele de pe conexiune rămân disponibile.