콘텐츠로 이동

OmniRoute 로컬 설치 및 시작 검증

페이지 편집

이 페이지는 가장 짧은 OmniRoute 설정 경로를 원하는 최초 HagiCode 사용자를 위한 것입니다. 로컬 서비스를 시작하고, http://localhost:20128/v1 작동하는지 확인하고 대시보드와 API를 모두 사용할 수 있는지 확인하세요.

  • Node.js가 이미 설치되어 있습니다. 완료 Node.js 설치 필요하다면 먼저.
  • 로컬 포트 20128 사용 가능하며 아직 점유되지 않았습니다.
  • OmniRoute를 통해 라우팅하려는 업스트림 모델 공급자 계정이 하나 이상 있습니다.
  • HagiCode, CLI 또는 SDK를 통합하기 전에 다음 두 주소를 별도로 유지하십시오.
    • 대시보드: http://localhost:20128
    • OpenAI 호환 기본 URL: http://localhost:20128/v1

권장되는 전역 npm 경로로 시작하세요.

Terminal window
npm install -g omniroute
omniroute

서비스가 시작된 후 다음 순서로 유효성을 검사합니다.

  1. 열기 http://localhost:20128 브라우저에서 대시보드가 로드되는지 확인하세요.
  2. 로 이동 Endpoints 대시보드 페이지에서 API 키를 생성하거나 복사하세요.
  3. 나중에 도구에 전달할 기본 URL을 기록해 두십시오. http://localhost:20128/v1.

검증 1: 모델 카탈로그를 읽을 수 있는지 확인

섹션 제목: “검증 1: 모델 카탈로그를 읽을 수 있는지 확인”

열쇠부터 넣어라 Endpoints 환경 변수로 페이지를 이동합니다.

Terminal window
export OMNIROUTE_API_KEY="replace-with-the-key-you-copied-from-the-Endpoints-page"

그런 다음 요청 /v1/models:

Terminal window
curl http://localhost:20128/v1/models \
-H "Authorization: Bearer ${OMNIROUTE_API_KEY}"

모델 목록을 다시 받으면 OpenAI 호환 엔드포인트와 인증 흐름이 작동하는 것입니다.

검증 2: 최소한의 채팅 요청 보내기

섹션 제목: “검증 2: 최소한의 채팅 요청 보내기”
Terminal window
curl http://localhost:20128/v1/chat/completions \
-H "Authorization: Bearer ${OMNIROUTE_API_KEY}" \
-H "Content-Type: application/json" \
-d '{
"model": "replace-with-a-model-id-from-v1-models",
"messages": [
{ "role": "user", "content": "Reply with ok." }
]
}'

여기서의 목표는 신속한 품질이 아닙니다. 선택한 모델이 이미 OmniRoute를 통해 성공적으로 라우팅될 수 있음을 증명하는 것입니다.