OmniRoute / Segurança e controle de dados

Controles cujo código-fonte você pode ler.

Guardrails no caminho da requisição, controles de rede e identidade, credenciais locais criptografadas e o que permanece auditável depois.

Revisar os controles Testar a Cheaper Inference Voltar à visão geral

Controles

O que o gateway verifica, e onde.

Todo controle abaixo roda no processo que você hospeda. Nada depende de uma conta Cheaper Inference.

No caminho da requisição

Verificações que rodam antes de um prompt sair da máquina e antes de uma resposta chegar ao chamador.

Proteção contra prompt injection em toda requisição roteada
Mascaramento opcional de credenciais que redige chaves vazadas nos dois sentidos
Redação opcional de PII
Filtros de segurança normalizados que não dependem da política de um único provedor
Guardrails de visão para entradas de imagem

Rede e identidade

Controles sobre como as requisições saem do host e como elas aparecem na rede.

Escopos de proxy: global, por provedor, por conexão
Proxies SOCKS5 e HTTP(S)
Transporte TLS com suporte a JA3/JA4 e perfis de cliente específicos por provedor
Seleção de saída IPv4 e IPv6
Proteção contra SSRF que bloqueia faixas de endereços privados em fetch de saída
Listas de permissão e bloqueio de IP no dashboard

Credenciais e dados locais

Chaves, histórico e uso ficam no host que você roda, em um banco de dados que é seu.

Credenciais criptografadas em AES-256-GCM no SQLite local
Chaves de API com escopo e restrições de modelo e provedor
Limites de gasto em USD e orçamentos de tokens por chave
Mascaramento do e-mail da conta OAuth, ativado por padrão
Nenhuma conta OmniRoute necessária para rodar o gateway

Operações e auditoria

O que você consegue reconstruir depois, e quem tinha permissão para fazer.

Log de auditoria administrativa filtrado por ação, autor e alvo
Logs de requisições filtrados por provedor, modelo, conta e chave
Login OIDC opcional, com login por senha sempre disponível
Admissão adaptativa que enfileira requisições pesadas em vez de falhar
Exportação e importação do banco de dados para backup e migração

Alcance de rede

Controles de roteamento de rede e dados locais.

Escopos de proxy controlam o roteamento de rede enquanto o armazenamento local-first mantém os dados operacionais na sua máquina.

Três escopos de proxy

Roteie globalmente, por provedor ou por conexão individual.

Global · por provedor · por conexão
Proxies SOCKS5 e HTTP(S)
Integração com marketplace de proxies

Controles de fingerprint TLS e do cliente

Imite clientes de provedores suportados até em características selecionadas do transporte.

Transporte com suporte a JA3/JA4 via wreq-js
Perfis de cliente específicos por provedor
Controles de saída IPv4 e IPv6

Privado e local-first

Chaves, uso e histórico ficam no host que você controla.

SQLite em disco com credenciais criptografadas em AES-256-GCM
Nenhuma conta OmniRoute necessária
Auto-hospede na infraestrutura que você escolher

RússiaChinaIrãCubaTurquia

Isolamento de falhas

Isole falhas de provedor, conexão e modelo.

Uma chave ruim não deve derrubar um provedor. Um modelo limitado não deve derrubar uma conexão.

modelo ⊂ conexão ⊂ provedor

Circuit breaker por provedorQuando um provedor está com problemas, o roteamento por combo o ignora até que uma sonda half-open tenha sucesso.

Cooldown de conexãoColoque uma chave ou conta em cooldown enquanto as conexões irmãs continuam atendendo.

Bloqueio de modeloBloqueie um modelo com rate limit ou indisponível enquanto os outros modelos da conexão continuam disponíveis.