OmniRoute / Turvallisuus ja datan hallinta

Hallintakeinot, joiden lähdekoodin voit lukea.

Suojakaiteet pyyntöpolulla, verkon ja identiteetin hallinta, salatut paikalliset tunnukset ja se, mikä pysyy auditoitavana jälkikäteen.

Hallintakeinot

Mitä yhdyskäytävä tarkistaa, ja missä.

Jokainen alla oleva hallintakeino ajetaan isännöimässäsi prosessissa. Mikään niistä ei riipu Cheaper Inference -tilistä.

Pyyntöpolulla

Tarkistukset, jotka ajetaan ennen kuin kehote lähtee koneelta ja ennen kuin vastaus saapuu kutsujalle.

  • Prompt-injektiosuoja jokaisessa reititetyssä pyynnössä
  • Valinnainen tunnusten peittäminen, joka poistaa vuotaneet avaimet molempiin suuntiin
  • Valinnainen PII-peittäminen
  • Normalisoidut turvasuodattimet, jotka eivät riipu yhden palveluntarjoajan käytännöstä
  • Näkösuojakaiteet kuvasyötteille

Verkko ja identiteetti

Hallinta siitä, miten pyynnöt lähtevät isäntäkoneelta ja miltä ne näyttävät verkossa.

  • Proxy-laajuudet: globaali, palveluntarjoajakohtainen, yhteyskohtainen
  • SOCKS5- ja HTTP(S)-proxyt
  • JA3/JA4-kykyinen TLS-siirtokerros palveluntarjoajakohtaisilla asiakasprofiileilla
  • IPv4- ja IPv6-lähtöliikenteen valinta
  • SSRF-suoja, joka estää yksityiset osoitealueet lähtevissä hauissa
  • IP-sallitut ja -estetyt listat hallintapaneelissa

Tunnukset ja paikallinen data

Avaimet, historia ja käyttö pysyvät ajamallasi isäntäkoneella, omistamassasi tietokannassa.

  • AES-256-GCM-salatut tunnukset paikallisessa SQLitessa
  • Rajatut API-avaimet malli- ja palveluntarjoajarajoituksilla
  • Avainkohtaiset USD-kulurajat ja tokenibudjetit
  • OAuth-tilin sähköpostin peittäminen, oletuksena päällä
  • Yhdyskäytävän ajaminen ei vaadi OmniRoute-tiliä

Operointi ja auditointi

Mitä voit jälkikäteen rekonstruoida, ja kenellä oli lupa tehdä se.

  • Hallinnollinen auditointiloki suodatettuna toiminnon, tekijän ja kohteen mukaan
  • Pyyntölokit suodatettuna palveluntarjoajan, mallin, tilin ja avaimen mukaan
  • Valinnainen OIDC-kirjautumisportti, salasanakirjautuminen aina saatavilla
  • Mukautuva sisäänotto, joka laittaa raskaat pyynnöt jonoon niiden hylkäämisen sijaan
  • Tietokannan vienti ja tuonti varmuuskopiointiin ja migraatioon

Verkon kattavuus

Verkon reititys ja paikallisen datan hallinta.

Proxy-laajuudet ohjaavat verkon reititystä, ja paikallinen tallennus pitää operatiivisen datan omalla koneellasi.

Kolme proxy-laajuutta

Reititä globaalisti, palveluntarjoajakohtaisesti tai yhteyskohtaisesti.

  • Globaali · palveluntarjoajakohtainen · yhteyskohtainen
  • SOCKS5- ja HTTP(S)-proxyt
  • Proxy-markkinapaikan integraatio

TLS- ja asiakasohjelman sormenjäljen hallinta

Vastaa tuettuja palveluntarjoajien asiakasohjelmia valittuja siirtokerroksen ominaisuuksia myöten.

  • JA3/JA4-kykyinen siirtokerros wreq-js:n kautta
  • Palveluntarjoajakohtaiset asiakasprofiilit
  • IPv4- ja IPv6-lähtöliikenteen hallinta

Yksityinen ja paikallinen

Avaimet, käyttö ja historia pysyvät hallitsemallasi isäntäkoneella.

  • SQLite levyllä, tunnukset salattu AES-256-GCM:llä
  • OmniRoute-tiliä ei tarvita
  • Isännöi itse valitsemassasi infrastruktuurissa
VenäjäKiinaIranKuubaTurkki

Vikojen eristys

Eristä palveluntarjoaja-, yhteys- ja mallivirheet.

Huono avain ei saa kaataa palveluntarjoajaa. Rajoitettu malli ei saa kaataa yhteyttä.

malli ⊂ yhteys ⊂ palveluntarjoaja
Palveluntarjoajan katkaisinKun palveluntarjoaja on epäterve, combo-reititys ohittaa sen, kunnes puoliavoin koetin onnistuu.
Yhteyden jäähdytysJäähdytä yksi avain tai tili, kun rinnakkaiset yhteydet jatkavat palvelemista.
Mallin lukitusLukitse yksi rajoitettu tai saavuttamaton malli, kun yhteyden muut mallit pysyvät käytettävissä.

OmniRoute by Cheaper Inference

Valitse, miten ajat OmniRoutea.

Isännöi OmniRoute itse tai käytä Cheaper Inferencea, hostattua kustannusjärjestettyä yhdyskäytävää.