Локальная установка OmniRoute и проверка запуска

Эта страница предназначена для начинающих пользователей HagiCode, которым нужен кратчайший путь установки OmniRoute: запустите локальную службу, убедитесь, что http://localhost:20128/v1 работает, и убедитесь, что и панель мониторинга, и API доступны.

Рекомендуемый путь

Эта первая версия сначала сохраняет наиболее стабильный путь: npm install -g omniroute, omniroute, Панель управления в http://localhost:20128и базовый URL-адрес, совместимый с OpenAI, по адресу http://localhost:20128/v1. Docker, VPS и более продвинутые режимы развертывания остаются в необязательном разделе.

Предварительные условия

• Node.js уже установлен. Завершить Установка Node.js сначала, если нужно.
• Местный порт 20128 свободен и еще не занят.
• У вас есть по крайней мере одна учетная запись поставщика вышестоящей модели, которую вы планируете маршрутизировать через OmniRoute.
• Перед интеграцией HagiCode, CLI или SDK разделите эти два адреса:
  • Панель управления: http://localhost:20128
  • Базовый URL-адрес, совместимый с OpenAI: http://localhost:20128/v1

Установить и запустить локально

Начните с рекомендуемого глобального пути npm:

npm install -g omniroute
omniroute

После запуска службы проверьте ее в следующем порядке:

1. Открыть http://localhost:20128 в браузере и убедитесь, что панель мониторинга загружается.
2. Перейти к Endpoints на панели инструментов и создайте или скопируйте ключ API.
3. Запишите базовый URL-адрес, который вы передадите инструментам позже: http://localhost:20128/v1.

Зачем начинать с панели управления

При первой настройке Dashboard — это самый быстрый способ убедиться, что OmniRoute работает, ваши провайдеры подключены и существует ключ API. Если последующий вызов клиента завершается неудачей, первая проверка панели мониторинга обычно оказывается быстрее, чем немедленная отладка кода SDK.

Проверка работающей службы

Проверка 1: убедитесь, что каталог моделей доступен для чтения.

Положите ключ от Endpoints страницу в переменную среды:

export OMNIROUTE_API_KEY="replace-with-the-key-you-copied-from-the-Endpoints-page"

Затем запросите /v1/models:

curl http://localhost:20128/v1/models \
  -H "Authorization: Bearer ${OMNIROUTE_API_KEY}"

Если вы получите обратно список моделей, значит, конечная точка, совместимая с OpenAI, и поток аутентификации работают.

Проверка 2: отправьте минимальный запрос в чат.

curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer ${OMNIROUTE_API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "replace-with-a-model-id-from-v1-models",
    "messages": [
      { "role": "user", "content": "Reply with ok." }
    ]
  }'

Целью здесь не является быстрое качество. Это значит, что выбранная вами модель уже может быть успешно маршрутизирована через OmniRoute.

Следующие шаги

Installing Node.js

AI Agent CLI Installation

OmniRoute Upstream Project