OmniRoute / אבטחה ושליטה בנתונים
Guardrails בנתיב הבקשה, בקרות רשת וזהות, פרטי גישה מקומיים מוצפנים, ומה נשאר ניתן לביקורת אחר כך.
בקרות
כל בקרה למטה רצה בתהליך שאתם מארחים. שום דבר מזה לא תלוי בחשבון Cheaper Inference.
בדיקות שרצות לפני שפרומפט יוצא מהמכונה ולפני שתגובה מגיעה לקורא.
בקרות על איך בקשות יוצאות מהמארח ואיך הן נראות על הקו.
מפתחות, היסטוריה ושימוש נשארים על המארח שאתם מריצים, במסד נתונים שבבעלותכם.
מה אפשר לשחזר בדיעבד, ומי הורשה לעשות זאת.
טווח רשת
תחומי פרוקסי שולטים בניתוב הרשת, ואחסון local-first שומר את הנתונים התפעוליים על המכונה שלכם.
נתבו גלובלית, לפי ספק או לפי חיבור בודד.
התאמה ללקוחות ספקים נתמכים עד לרמת מאפייני תעבורה נבחרים.
מפתחות, שימוש והיסטוריה נשארים על המארח שבשליטתכם.
בידוד תקלות
מפתח פגום לא אמור להשבית ספק. מודל מוגבל לא אמור להשבית חיבור.
