Instalação local do OmniRoute e validação de inicialização
Editar páginaEsta página é para usuários iniciantes do HagiCode que desejam o caminho de configuração mais curto do OmniRoute: inicie o serviço local, verifique se http://localhost:20128/v1 funciona e confirme se o Dashboard e a API estão disponíveis.
Pré-requisitos
Seção intitulada “Pré-requisitos”- O Node.js já está instalado. Completo Instalando Node.js primeiro, se necessário.
- Porta local
20128está disponível e ainda não está ocupado. - Você tem pelo menos uma conta de provedor de modelo upstream que planeja rotear por meio do OmniRoute.
- Antes de integrar o HagiCode, uma CLI ou um SDK, mantenha estes dois endereços separados:
- Painel:
http://localhost:20128 - URL base compatível com OpenAI:
http://localhost:20128/v1
- Painel:
Instale e execute localmente
Seção intitulada “Instale e execute localmente”Comece com o caminho npm global recomendado:
npm install -g omnirouteomnirouteApós o início do serviço, valide-o nesta ordem:
- Abrir
http://localhost:20128em um navegador e confirme se o Dashboard é carregado. - Vá para o
Endpointspágina no Painel e crie ou copie uma chave de API. - Observe o URL base que você entregará às ferramentas posteriormente:
http://localhost:20128/v1.
Valide o serviço em execução
Seção intitulada “Valide o serviço em execução”Validação 1: confirme se o catálogo do modelo está legível
Seção intitulada “Validação 1: confirme se o catálogo do modelo está legível”Coloque a chave do Endpoints página em uma variável de ambiente:
export OMNIROUTE_API_KEY="replace-with-the-key-you-copied-from-the-Endpoints-page"Então solicite /v1/models:
curl http://localhost:20128/v1/models \ -H "Authorization: Bearer ${OMNIROUTE_API_KEY}"Se você receber uma lista de modelos de volta, o endpoint compatível com OpenAI e o fluxo de autenticação estão funcionando.
Validação 2: envie uma solicitação mínima de chat
Seção intitulada “Validação 2: envie uma solicitação mínima de chat”curl http://localhost:20128/v1/chat/completions \ -H "Authorization: Bearer ${OMNIROUTE_API_KEY}" \ -H "Content-Type: application/json" \ -d '{ "model": "replace-with-a-model-id-from-v1-models", "messages": [ { "role": "user", "content": "Reply with ok." } ] }'O objetivo aqui não é a qualidade imediata. É para provar que o modelo escolhido já pode ser roteado com sucesso através do OmniRoute.