コンテンツにスキップ

OmniRoute のローカル インストールと起動の検証

ページを編集

このページは、最短の OmniRoute セットアップ パスを必要とする初めてのHagiCode ユーザーを対象としています。ローカル サービスを開始し、それを確認します。 http://localhost:20128/v1 が動作し、ダッシュボードと API の両方が利用可能であることを確認します。

  • Node.js はすでにインストールされています。完了 Node.jsのインストール 必要に応じて最初に。
  • ローカルポート 20128 利用可能ですが、まだ占有されていません。
  • OmniRoute 経由でルーティングする予定のアップストリーム モデル プロバイダー アカウントが少なくとも 1 つあります。
  • HagiCode、CLI、または SDK を統合する前に、次の 2 つのアドレスを分離しておきます。
    • ダッシュボード: http://localhost:20128
    • OpenAI 互換のベース URL: http://localhost:20128/v1

ローカルにインストールして実行する

Section titled “ローカルにインストールして実行する”

推奨されるグローバル npm パスから始めます。

Terminal window
npm install -g omniroute
omniroute

サービスが開始されたら、次の順序で検証します。

  1. 開く http://localhost:20128 ブラウザで をクリックし、ダッシュボードが読み込まれることを確認します。
  2. に行きます Endpoints ダッシュボードのページに移動し、API キーを作成またはコピーします。
  3. 後でツールに渡すベース URL をメモします。 http://localhost:20128/v1.

検証 1: モデル カタログが読み取り可能であることを確認する

Section titled “検証 1: モデル カタログが読み取り可能であることを確認する”

からキーを入れます Endpoints 環境変数にページを追加します。

Terminal window
export OMNIROUTE_API_KEY="replace-with-the-key-you-copied-from-the-Endpoints-page"

それからリクエストしてください /v1/models:

Terminal window
curl http://localhost:20128/v1/models \
-H "Authorization: Bearer ${OMNIROUTE_API_KEY}"

モデルのリストが返された場合、OpenAI 互換のエンドポイントと認証フローは機能しています。

検証 2: 最小限のチャット リクエストを送信する

Section titled “検証 2: 最小限のチャット リクエストを送信する”
Terminal window
curl http://localhost:20128/v1/chat/completions \
-H "Authorization: Bearer ${OMNIROUTE_API_KEY}" \
-H "Content-Type: application/json" \
-d '{
"model": "replace-with-a-model-id-from-v1-models",
"messages": [
{ "role": "user", "content": "Reply with ok." }
]
}'

ここでの目標は、迅速な品質ではありません。これは、選択したモデルがすでに OmniRoute を正常にルーティングできることを証明するためです。