OmniRoute / Обзор API

Один эндпоинт, не только чат.

Чат, эмбеддинги, реранкинг, изображения, видео, музыка, речь, OCR, файлы и батчи в формате запросов, который ваш клиент уже использует.

Смотреть форматы Попробовать Cheaper Inference Назад к обзору

Форматы запросов

Сохраните формат запросов, который ваш клиент уже отправляет.

Один процесс принимает несколько форматов, поэтому инструменту, написанному под SDK одного вендора, достаточно сменить base URL.

OpenAI

Chat Completions, эмбеддинги, изображения, аудио и файлы без изменений.

/v1/chat/completions

Anthropic

Формат Messages, включая подсчёт токенов.

/v1/messages

OpenAI Responses

Формат Responses API с уплотнением вывода инструментов.

/v1/responses

Gemini

generateContent и список моделей Gemini.

/v1beta/models

Ollama

Замена для инструментов, работающих с локальным API Ollama.

/v1/api/chat

Rerank and Jina

Реранкинг Cohere/Voyage плюс classify и segment от Jina.

/v1/rerank

Эндпоинты

Не только chat completions.

Сгруппированы по задаче, а не по провайдеру, который её обслуживает.

Чат и сообщения

Три формата запросов попадают в один роутер, поэтому клиент сохраняет привычный формат.

POST/v1/chat/completionsOpenAI Chat Completions, стриминг или буферизация
POST/v1/messagesAnthropic Messages
POST/v1/responsesOpenAI Responses
POST/v1/messages/count_tokensПодсчёт токенов до их расхода

Эмбеддинги, поиск и ранжирование

Retrieval-часть RAG-стека за тем же эндпоинтом и тем же ключом.

POST/v1/embeddingsТекстовые и мультимодальные эмбеддинги
POST/v1/rerankРеранкинг, совместимый с Cohere и Voyage
POST/v1/searchАбстракция веб-поиска поверх провайдеров
POST/v1/classifyКлассификация текста Jina
POST/v1/segmentСегментация контента Jina
POST/v1/web/fetchИзвлечение читаемой страницы

Изображения, видео и музыка

Генерация проходит через тот же fallback и учёт стоимости, что и текст.

POST/v1/images/generationsГенерация изображений
POST/v1/images/editsРедактирование и inpainting
POST/v1/videos/generationsГенерация видео
POST/v1/music/generationsГенерация музыки

Аудио и документы

Речь в обе стороны плюс OCR для сканированных материалов.

POST/v1/audio/transcriptionsРечь в текст
POST/v1/audio/translationsТранскрипция с переводом
POST/v1/audio/speechТекст в речь
POST/v1/ocrOCR документов

Файлы и батчи

Загрузите один раз и выполняйте задачи асинхронно, не держа соединение открытым.

POST/v1/filesЗагрузить файл
GET/v1/files/{id}/contentПолучить содержимое файла потоком
POST/v1/batchesСоздать batch-задачу
GET/v1/batches/{id}Проверить статус батча
POST/v1/batches/{id}/cancelОтменить выполняющийся батч

Обнаружение и контроль

Всё, что нужно клиенту, чтобы выбрать модель и уложиться в бюджет.

GET/v1/modelsКаталог моделей по провайдерам
GET/v1/quotas/checkПредварительная проверка остатка квоты
POST/v1/moderationsМодерация контента
GET/v1/wsWebSocket upgrade для стриминговых клиентов

Протоколы агентов

MCP-сервер с 110 инструментами и A2A agent card, обслуживаемые тем же процессом.

GET/api/mcp/streamMCP через HTTP, 33 областей
GET/api/mcp/sseMCP через Server-Sent Events
POST/a2aJSON-RPC 2.0, 6 навыков агента
GET/.well-known/agent.jsonПубличная agent card

Заголовки

Каждый ответ сообщает, как он был обслужен.

Маршрутизация не чёрный ящик: решение, стоимость и сжатие, с которыми получен ответ, возвращаются вместе с ним.

Заголовки ответа

X-OmniRoute-DecisionСтратегия, алиас провайдера и задержка, с которыми обслужен запрос
X-OmniRoute-ProviderАлиас провайдера, на который фактически ушёл запрос
X-OmniRoute-ModelИтоговый идентификатор модели
X-OmniRoute-Latency-MsЗадержка upstream в миллисекундах
X-OmniRoute-Tokens-InЧисло входных токенов
X-OmniRoute-Tokens-OutЧисло выходных токенов
X-OmniRoute-Response-CostСтоимость ответа в USD
X-OmniRoute-Cost-SavedСэкономлено в USD при попадании в кеш
X-OmniRoute-CacheHIT или MISS для нестриминговых запросов
X-OmniRoute-CompressionПрименённый режим сжатия и его источник
X-OmniRoute-Fallback-AttemptsЧисло переходов fallback, если они были
X-OmniRoute-Request-IdИдентификатор корреляции для журнала запросов

Заголовки запроса

x-omniroute-compressionПереопределить профиль сжатия для одного запроса
X-OmniRoute-No-CacheОбойти семантический кеш
x-omniroute-no-memoryПропустить внедрение памяти и навыков
X-Session-IdКлюч привязки сессии и учёта стоимости
Idempotency-KeyДедупликация повторного запроса

Открыть справочник API