OmniRoute / Sikkerhed og datakontrol

Kontroller, du kan læse kildekoden til.

Guardrails på request-stien, netværks- og identitetskontrol, krypterede lokale credentials, og hvad der forbliver reviderbart bagefter.

Gennemgå kontrollerne Prøv Cheaper Inference Tilbage til oversigten

Kontroller

Hvad gatewayen tjekker, og hvor.

Hver kontrol nedenfor kører i den proces, du hoster. Intet af det afhænger af en Cheaper Inference-konto.

På request-stien

Tjek, der kører, før en prompt forlader maskinen, og før et svar når kalderen.

Prompt-injection-værn på hver routet request
Valgfri credential-maskering, der fjerner lækkede nøgler i begge retninger
Valgfri PII-maskering
Normaliserede sikkerhedsfiltre, der ikke afhænger af én udbyders politik
Vision-guardrails til billedinput

Netværk og identitet

Kontrol over, hvordan requests forlader hosten, og hvordan de ser ud på ledningen.

Proxy-scopes: globalt, pr. udbyder, pr. forbindelse
SOCKS5- og HTTP(S)-proxyer
JA3/JA4-kompatibel TLS-transport med udbyderspecifikke klientprofiler
Valg af IPv4- og IPv6-egress
SSRF-værn, der blokerer private adresseområder ved udgående fetch
IP-allowlists og -blocklists på dashboardet

Credentials og lokale data

Nøgler, historik og forbrug bliver på den host, du kører, i en database, du ejer.

AES-256-GCM-krypterede credentials i lokal SQLite
Afgrænsede API-nøgler med model- og udbyderbegrænsninger
USD-forbrugsgrænser og tokenbudgetter pr. nøgle
Maskering af OAuth-kontoens e-mail, slået til som standard
Ingen OmniRoute-konto påkrævet for at køre gatewayen

Drift og revision

Hvad du kan rekonstruere bagefter, og hvem der havde lov til at gøre det.

Administrativ revisionslog filtreret efter handling, aktør og mål
Request-logs filtreret efter udbyder, model, konto og nøgle
Valgfri OIDC-login-gate, med adgangskodelogin altid tilgængeligt
Adaptiv adgangskontrol, der sætter tunge requests i kø i stedet for at afvise dem
Eksport og import af databasen til backup og migrering

Netværksrækkevidde

Kontrol over netværksrouting og lokale data.

Proxy-scopes styrer netværksrouting, mens lokal lagring holder driftsdata på din maskine.

Tre proxy-scopes

Rout globalt, pr. udbyder eller pr. enkelt forbindelse.

Globalt · pr. udbyder · pr. forbindelse
SOCKS5- og HTTP(S)-proxyer
Integration med proxy-marketplace

Kontrol over TLS- og klientfingeraftryk

Match understøttede udbyderklienter ned til udvalgte transportegenskaber.

JA3/JA4-kompatibel transport via wreq-js
Udbyderspecifikke klientprofiler
Kontrol over IPv4- og IPv6-egress

Privat og lokalt først

Nøgler, forbrug og historik bliver på den host, du kontrollerer.

SQLite på disk med AES-256-GCM-krypterede credentials
Ingen OmniRoute-konto påkrævet
Selvhost på den infrastruktur, du vælger

RuslandKinaIranCubaTyrkiet

Fejlisolering

Isolér fejl i udbyder, forbindelse og model.

En dårlig nøgle bør ikke slå en udbyder ud. En begrænset model bør ikke slå en forbindelse ud.

model ⊂ forbindelse ⊂ udbyder

Circuit breaker for udbyderNår en udbyder er usund, springer combo-routing den over, indtil en half-open-probe lykkes.

ForbindelsesnedkølingNedkøl én nøgle eller konto, mens søskendeforbindelser fortsætter med at levere.

ModellockoutLås én rate-begrænset eller utilgængelig model, mens andre modeller på forbindelsen forbliver tilgængelige.