跳转到内容

OmniRoute 本機安裝與啟動驗證

编辑此页

此頁面適用於想要最短 OmniRoute 設定路徑的 HagiCode 首次使用者:啟動本機服務,驗證 http://localhost:20128/v1 工作正常,並確認儀表板和 API 均可用。

:::提示[建議路徑] 第一個版本首先保留最穩定的路徑: npm install -g omniroute, omniroute, 儀表板位於 http://localhost:20128,以及與 OpenAI 相容的基本 URL http://localhost:20128/v1。 Docker、VPS 和更進階的部署模式留在選用部分。 :::

  • Node.js 已安裝。完成 安裝 Node.js 如果需要的話首先。
  • 本地埠 20128 可用且尚未被佔用。
  • 您至少有一個計劃透過 OmniRoute 進行路由的上游模型提供者帳戶。
  • 在整合 HagiCode、CLI 或 SDK 之前,請將這兩個位址分開:
    • 儀表板: http://localhost:20128
    • OpenAI 相容的基本 URL: http://localhost:20128/v1

從建議的全域 npm 路徑開始:

Terminal window
npm install -g omniroute
omniroute

服務啟動後,按以下順序驗證:

  1. 打開 http://localhost:20128 在瀏覽器中並確認儀表板已載入。
  2. 前往 Endpoints 儀表板中的頁面並建立或複製 API 金鑰。
  3. 請記下稍後將傳遞給工具的基本 URL: http://localhost:20128/v1.

:::注意[為什麼從儀表板開始] 對於首次設置,儀表板是確認 OmniRoute 正在運行、您的提供者已連接並且存在 API 金鑰的最快方法。如果稍後的客戶端呼叫失敗,首先檢查儀表板通常比立即偵錯 SDK 程式碼更快。 :::

將鑰匙從 Endpoints 頁面到環境變數:

Terminal window
export OMNIROUTE_API_KEY="replace-with-the-key-you-copied-from-the-Endpoints-page"

然後請求 /v1/models:

Terminal window
curl http://localhost:20128/v1/models \
-H "Authorization: Bearer ${OMNIROUTE_API_KEY}"

如果您返回模型列表,则说明兼容 OpenAI 的端点和身份验证流程正在运行。

Terminal window
curl http://localhost:20128/v1/chat/completions \
-H "Authorization: Bearer ${OMNIROUTE_API_KEY}" \
-H "Content-Type: application/json" \
-d '{
"model": "replace-with-a-model-id-from-v1-models",
"messages": [
{ "role": "user", "content": "Reply with ok." }
]
}'

这里的目标不是即时质量。是为了证明你选择的模型已经可以通过OmniRoute成功路由。