Dokumentation
Geschützte UmgebungenKI-Gateway

KI-Gateway

Bereitstellen, konfigurieren und Backend-LLM-Verkehr über den Orthalon KI-Gateway Reverse-Proxy leiten.

Plan-Anforderung: Überwachung und Erkennung sind in allen Plänen enthalten. Protect, Business und Enterprise können aktive Richtlinien (Schwärzen, Warnen, Genehmigung, Blockieren) durchsetzen.

Das Orthalon KI-Gateway ist ein speicherbasierter Reverse-Proxy für serverseitige Microservices, LLM-Backend-Anwendungen und Agentic-Pipelines. Es fängt Anfragen vor Upstream-Providern (OpenAI, Anthropic, Gemini) ab, prüft DLP-Regeln und protokolliert Audit-Metadaten.


1. Gateway bereitstellen

Bereitstellungspaket herunterladen

Orthalon KI-Gateway 0.1.0 herunterladen (.tar.gz) · Herunterladen (.zip)
(Optional: verifizieren mit der SHA-256 Prüfsumme)

Paket entpacken

Wechseln Sie in Ihren Downloads-Ordner (oder das Verzeichnis, in dem die Datei gespeichert wurde) und entpacken Sie das Archiv:

macOS / Linux (.tar.gz):

cd ~/Downloads
tar -xzf orthalon-ai-gateway-0.1.0.tar.gz
cd orthalon-ai-gateway-0.1.0

Windows (PowerShell):

cd $HOME\Downloads
Expand-Archive -Path orthalon-ai-gateway-0.1.0.zip -DestinationPath .
cd orthalon-ai-gateway-0.1.0

Umgebungsvariablen konfigurieren

  1. Öffnen Sie in Orthalon Betrieb → Sensoren & Schlüssel und klicken Sie auf Schlüssel erstellen.
  2. Wählen Sie KI-Gateway als Bereich und kopieren Sie Ihren Sensorschlüssel (sk_orthalon_...) sowie Ihre Organisations-ID.
  3. Konfigurieren Sie Ihre Gateway-Umgebung:

macOS / Linux:

cp gateway.env.example gateway.env

Windows (Eingabeaufforderung):

copy gateway.env.example gateway.env

Tipp: Sie können dies auch ohne Terminal durchführen: Duplizieren Sie gateway.env.example in Ihrem Dateimanager (Finder oder Datei-Explorer) im Gateway-Ordner, benennen Sie die Kopie in gateway.env um, öffnen Sie die Datei in einem Texteditor (Notepad, VS Code oder TextEdit) und tragen Sie Ihren Sensorschlüssel und die Organisations-ID ein.

  1. In gateway.env tragen Sie Ihre Anmeldedaten ein:
ORTHALON_SENSOR_KEY=sk_orthalon_ihr_gateway_schluessel_hier
ORTHALON_ORGANIZATION_ID=org_ihre_organisations_id
PORT=4000

Mit Docker Compose starten

docker compose --env-file gateway.env up -d

(Alternativ direkt über Node.js ausführen: pnpm start / node server.cjs)


2. Backend-Dienste auf das Gateway ausrichten

Leiten Sie Ihre Backend-Microservices und SDK-Aufrufe an das Orthalon Gateway weiter:

OpenAI (Node.js / Python)

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.OPENAI_API_KEY,
  baseURL: "http://localhost:4000/v1", // Über Orthalon Gateway leiten
});

Anthropic (Python SDK)

import anthropic

client = anthropic.Anthropic(
    api_key="ihr_anthropic_api_schluessel",
    base_url="http://localhost:4000" # Über Orthalon Gateway leiten
)

3. Schutz testen und validieren

  1. Gateway-Status prüfen:
    curl http://localhost:4000/health
  2. Testanfrage senden:
    curl http://localhost:4000/v1/chat/completions \
      -H "Content-Type: application/json" \
      -H "Authorization: Bearer sk-openai-test-key" \
      -d '{
        "model": "gpt-4o",
        "messages": [{"role": "user", "content": "Internal secret token: AKIAIOSFODNN7EXAMPLE"}]
      }'
  3. Audit-Log prüfen: Öffnen Sie Erkennung → Richtlinienverstöße im Dashboard.