OmniRoute 本機安裝與啟動驗證
编辑此页此頁面適用於想要最短 OmniRoute 設定路徑的 HagiCode 首次使用者:啟動本機服務,驗證 http://localhost:20128/v1 工作正常,並確認儀表板和 API 均可用。
:::提示[建議路徑]
第一個版本首先保留最穩定的路徑: npm install -g omniroute, omniroute, 儀表板位於 http://localhost:20128,以及與 OpenAI 相容的基本 URL http://localhost:20128/v1。 Docker、VPS 和更進階的部署模式留在選用部分。
:::
- Node.js 已安裝。完成 安裝 Node.js 如果需要的話首先。
- 本地埠
20128可用且尚未被佔用。 - 您至少有一個計劃透過 OmniRoute 進行路由的上游模型提供者帳戶。
- 在整合 HagiCode、CLI 或 SDK 之前,請將這兩個位址分開:
- 儀表板:
http://localhost:20128 - OpenAI 相容的基本 URL:
http://localhost:20128/v1
- 儀表板:
本地安裝並運行
Section titled “本地安裝並運行”從建議的全域 npm 路徑開始:
npm install -g omnirouteomniroute服務啟動後,按以下順序驗證:
- 打開
http://localhost:20128在瀏覽器中並確認儀表板已載入。 - 前往
Endpoints儀表板中的頁面並建立或複製 API 金鑰。 - 請記下稍後將傳遞給工具的基本 URL:
http://localhost:20128/v1.
:::注意[為什麼從儀表板開始] 對於首次設置,儀表板是確認 OmniRoute 正在運行、您的提供者已連接並且存在 API 金鑰的最快方法。如果稍後的客戶端呼叫失敗,首先檢查儀表板通常比立即偵錯 SDK 程式碼更快。 :::
驗證正在運行的服務
Section titled “驗證正在運行的服務”驗證1:確認模型目錄可讀
Section titled “驗證1:確認模型目錄可讀”將鑰匙從 Endpoints 頁面到環境變數:
export OMNIROUTE_API_KEY="replace-with-the-key-you-copied-from-the-Endpoints-page"然後請求 /v1/models:
curl http://localhost:20128/v1/models \ -H "Authorization: Bearer ${OMNIROUTE_API_KEY}"如果您返回模型列表,则说明兼容 OpenAI 的端点和身份验证流程正在运行。
驗證 2:發送最少的聊天請求
Section titled “驗證 2:發送最少的聊天請求”curl http://localhost:20128/v1/chat/completions \ -H "Authorization: Bearer ${OMNIROUTE_API_KEY}" \ -H "Content-Type: application/json" \ -d '{ "model": "replace-with-a-model-id-from-v1-models", "messages": [ { "role": "user", "content": "Reply with ok." } ] }'这里的目标不是即时质量。是为了证明你选择的模型已经可以通过OmniRoute成功路由。