Zum Inhalt springen

Lokale OmniRoute-Installation und Startvalidierung

Seite bearbeiten

Diese Seite richtet sich an HagiCode-Erstbenutzer, die den kürzesten OmniRoute-Einrichtungspfad wünschen: Starten Sie den lokalen Dienst und überprüfen Sie dies http://localhost:20128/v1 funktioniert, und bestätigen Sie, dass sowohl das Dashboard als auch die API verfügbar sind.

  • Node.js ist bereits installiert. Komplett Node.js installieren bei Bedarf zuerst.
  • Lokaler Hafen 20128 verfügbar und noch nicht belegt ist.
  • Sie verfügen über mindestens ein Upstream-Modellanbieterkonto, das Sie über OmniRoute weiterleiten möchten.
  • Halten Sie vor der Integration von HagiCode, einer CLI oder einem SDK diese beiden Adressen getrennt:
    • Dashboard: http://localhost:20128
    • OpenAI-kompatible Basis-URL: http://localhost:20128/v1

Beginnen Sie mit dem empfohlenen globalen NPM-Pfad:

Terminal-Fenster
npm install -g omniroute
omniroute

Nachdem der Dienst gestartet wurde, validieren Sie ihn in dieser Reihenfolge:

  1. Offen http://localhost:20128 in einem Browser und bestätigen Sie, dass das Dashboard geladen wird.
  2. Gehe zum Endpoints Seite im Dashboard und erstellen oder kopieren Sie einen API-Schlüssel.
  3. Notieren Sie sich die Basis-URL, die Sie später an die Tools weitergeben: http://localhost:20128/v1.

Validierung 1: Bestätigen Sie, dass der Modellkatalog lesbar ist

Abschnitt betitelt „Validierung 1: Bestätigen Sie, dass der Modellkatalog lesbar ist“

Stecken Sie den Schlüssel aus dem Endpoints page in eine Umgebungsvariable:

Terminal-Fenster
export OMNIROUTE_API_KEY="replace-with-the-key-you-copied-from-the-Endpoints-page"

Dann fordern Sie an /v1/models:

Terminal-Fenster
curl http://localhost:20128/v1/models \
-H "Authorization: Bearer ${OMNIROUTE_API_KEY}"

Wenn Sie eine Modellliste zurückerhalten, funktionieren der OpenAI-kompatible Endpunkt und der Authentifizierungsfluss.

Validierung 2: Senden Sie eine minimale Chat-Anfrage

Abschnitt betitelt „Validierung 2: Senden Sie eine minimale Chat-Anfrage“
Terminal-Fenster
curl http://localhost:20128/v1/chat/completions \
-H "Authorization: Bearer ${OMNIROUTE_API_KEY}" \
-H "Content-Type: application/json" \
-d '{
"model": "replace-with-a-model-id-from-v1-models",
"messages": [
{ "role": "user", "content": "Reply with ok." }
]
}'

Das Ziel ist hier nicht die zeitnahe Qualität. Es soll beweisen, dass das von Ihnen gewählte Modell bereits erfolgreich über OmniRoute weitergeleitet werden kann.