OmniRoute / Säkerhet och datakontroll

Kontroller vars källkod du kan läsa.

Guardrails på anropsvägen, nätverks- och identitetskontroller, krypterade lokala autentiseringsuppgifter, och vad som förblir reviderbart efteråt.

Granska kontrollerna Prova Cheaper Inference Tillbaka till översikten

Kontroller

Vad gatewayen kontrollerar, och var.

Varje kontroll nedan körs i processen du hostar. Ingen av dem beror på ett Cheaper Inference-konto.

På anropsvägen

Kontroller som körs innan en prompt lämnar maskinen och innan ett svar når anroparen.

Skydd mot promptinjektion på varje routat anrop
Valbar maskering av autentiseringsuppgifter som döljer läckta nycklar i båda riktningarna
Valbar PII-maskering
Normaliserade säkerhetsfilter som inte beror på en enskild leverantörs policy
Vision-guardrails för bildindata

Nätverk och identitet

Kontroll över hur anrop lämnar värden och hur de ser ut på nätet.

Proxy-scope: globalt, per leverantör, per anslutning
SOCKS5- och HTTP(S)-proxyer
JA3/JA4-kapabel TLS-transport med leverantörsspecifika klientprofiler
Val av IPv4- och IPv6-utgång
SSRF-skydd som blockerar privata adressintervall vid utgående hämtning
IP-tillåtelselistor och blockeringslistor i dashboarden

Autentiseringsuppgifter och lokal data

Nycklar, historik och användning stannar på den värd du kör, i en databas du äger.

AES-256-GCM-krypterade autentiseringsuppgifter i lokal SQLite
Avgränsade API-nycklar med modell- och leverantörsbegränsningar
Utgiftsgränser i USD och tokenbudgetar per nyckel
Maskering av OAuth-kontots e-post, på som standard
Inget OmniRoute-konto krävs för att köra gatewayen

Drift och revision

Vad du kan rekonstruera i efterhand, och vem som fick göra det.

Administrativ revisionslogg filtrerad på åtgärd, aktör och mål
Anropsloggar filtrerade på leverantör, modell, konto och nyckel
Valfri OIDC-inloggningsgrind, med lösenordsinloggning alltid tillgänglig
Adaptiv insläppskontroll som köar tunga anrop istället för att avvisa dem
Databasexport och -import för backup och migrering

Nätverksräckvidd

Nätverksrouting och kontroll över lokal data.

Proxy-scope styr nätverksroutingen medan lokal lagring håller driftdata på din maskin.

Tre proxy-scope

Routa globalt, per leverantör eller per enskild anslutning.

Globalt · per leverantör · per anslutning
SOCKS5- och HTTP(S)-proxyer
Integration med proxymarknadsplats

Kontroll av TLS- och klientfingeravtryck

Matcha leverantörsklienter som stöds ned till utvalda transportegenskaper.

JA3/JA4-kapabel transport via wreq-js
Leverantörsspecifika klientprofiler
Kontroll över IPv4- och IPv6-utgång

Privat och lokalt först

Nycklar, användning och historik stannar på den värd du kontrollerar.

SQLite på disk med AES-256-GCM-krypterade autentiseringsuppgifter
Inget OmniRoute-konto krävs
Självhosta på infrastruktur du väljer

RysslandKinaIranKubaTurkiet

Felisolering

Isolera fel i leverantör, anslutning och modell.

En dålig nyckel ska inte slå ut en leverantör. En begränsad modell ska inte slå ut en anslutning.

modell ⊂ anslutning ⊂ leverantör

Kretsbrytare per leverantörNär en leverantör är ohälsosam hoppar combo-routingen över den tills en halvöppen sond lyckas.

AnslutningsnedkylningKyl ner en nyckel eller ett konto medan syskonanslutningarna fortsätter att svara.

ModellutlåsningLås en rate-limitad eller otillgänglig modell medan andra modeller på anslutningen förblir tillgängliga.