Embedding Models

Überblick und Konfiguration der unterstützten Embedding-Modelle

Embeddings verwandeln deine Dokumente in durchsuchbare Vektoren. Welches Modell du nutzt, hängt vor allem von deinem Deployment-Weg ab.

Empfohlen: integriertes Offline-Modell (Desktop-App)

Die Desktop-App bringt ein integriertes Embedding-Modell mit — für die meisten Teams die beste Wahl:

  • Modell: e5-small (int8-quantisiert), für Deutsch optimiert
  • Offline: läuft vollständig lokal, ohne externen Dienst und ohne API-Schlüssel
  • Keine Einrichtung: kein Ollama, keine GPU, keine Konfiguration — sofort einsatzbereit

Wenn du die Desktop-App nutzt, ist damit alles erledigt. Du brauchst nur weiterzulesen, wenn du ein anderes Modell erzwingen willst.

Erweitert: eigener Embedding-Anbieter

Wenn du volle Kontrolle willst — typisch beim Docker-Weg — konfigurierst du deinen Embedding-Anbieter selbst. Alle nutzen dieselbe OpenAI-kompatible Schnittstelle.

Lokal / selbst gehostet (Ollama & Co.)

  • Embeddings bleiben in deiner eigenen Umgebung
  • Das Modell läuft außerhalb des Outpost-Prozesses (z. B. als ollama-Dienst)
  • Der Outpost nutzt provider: "openai" und die base_url des Dienstes
  • Gängige Wahl im Docker-Setup: bge-m3 (1024 Dim, mehrsprachig) — eine Option, kein Muss

Cloud-Anbieter

OpenAI

Cloud-Embeddings über die OpenAI-API

Azure OpenAI

OpenAI-Modelle über Microsoft Azure

Nebius

Mehrsprachige Embeddings, optimiert für europäische Sprachen

Grundkonfiguration

embedding_model:
  provider: "openai"  # oder azure, nebius
  # Anbieter-spezifische Parameter …

Alle Anbieter unterstützen diese gemeinsamen Parameter:

ParameterTypStandardBeschreibung
providerstring–Name des Anbieters
rpminteger3000Requests pro Minute
tpminteger1000000Tokens pro Minute

Auswahlhilfe

  • Einfachster Weg: integriertes Offline-Modell der Desktop-App — für Deutsch optimiert, keine Einrichtung
  • Lokal / selbst gehostet: Ollama oder ein anderer OpenAI-kompatibler Dienst — Embeddings bleiben bei dir
  • Cloud (OpenAI, Azure, Nebius): keine lokale Hardware, Pay-per-use, schnell startklar

Modellwechsel bedeutet Reindexierung

Ein Wechsel des Embedding-Modells erfordert eine vollständige Neu-Indexierung aller Dokumente. Wähle daher vor dem ersten Setup bewusst.

Embedding-Qualität vergleichen

Teste verschiedene Modelle mit deinen eigenen Dokumenten:

  • Sprache: deutsche und englische Suche
  • Domäne: fachspezifische vs. allgemeine Inhalte
  • Länge: kurze vs. lange Textpassagen
  • Kosten: API-Kosten vs. Hardware-Investition

Vorgehen: eine kleine Dokumentensammlung hochladen, typische Suchanfragen stellen, Relevanz der Treffer und Antwortzeiten bewerten.

Modellwechsel (Migration)

  1. Vorbereitung: aktuelle Konfiguration sichern, neues Modell separat testen, Downtime einplanen
  2. Outpost stoppen
  3. Neue embedding_model-Konfiguration aktivieren
  4. Outpost neu starten
  5. Auf die vollständige Neu-Indexierung warten

Support & Troubleshooting

  • API-Limits: rpm/tpm anpassen
  • Authentifizierung: API-Schlüssel prüfen
  • Performance: Latenz des Dienstes und Embedding-Batch-Größe prüfen

Bei Fragen zur Embedding-Konfiguration: 📧 Enterprise Support: enterprise@meingpt.com

War diese Seite hilfreich?