Startseite / Glossar / RAG
Was ist Retrieval-Augmented Generation?
Abkürzung: RAG
Retrieval-Augmented Generation (RAG) ist die Technik, zum Zeitpunkt der Anfrage relevanten Kontext aus einem Wissensspeicher abzurufen und ihn in den LLM-Prompt einzufügen. Die Wissensdatenbanken von osFoundry werden automatisch für RAG indexiert, und Maestro ruft sie bei jeder relevanten Chat-Runde ab.
Details
RAG adressiert zwei LLM-Einschränkungen: veraltete Trainingsdaten und begrenztes Kontextfenster. Statt zu versuchen, alles in den Prompt zu passen, rufen Sie nur die für die Nutzeranfrage relevanten Chunks ab und übergeben diese.
Eine RAG-Pipeline hat typischerweise Stufen: Anfrage → Einbettung → Vektorsuche → optionales Reranking → optionales Filtern → Kontext zusammenstellen → LLM aufrufen. Jede Stufe hat Stellschrauben (Einbettungsmodell, Top-k, Reranker, Schwellenwert), die Qualität und Kosten beeinflussen.
Wie osFoundry Retrieval-Augmented Generation handhabt
Die RAG-Pipeline von osFoundry ist pro Chat-Pfad in osStudio vollständig konfigurierbar. Ziehen Sie Stufen, wählen Sie Einbettungs- und Reranker-Modelle, setzen Sie Schwellenwerte. Verschiedene Oberflächen (Code-Chat vs. Customer-Success) können unterschiedliche Pipelines haben.
Häufig gestellte Fragen
Unterstützt osFoundry RAG?
Ja — Wissensdatenbanken werden automatisch indexiert, Retrieval-Pipelines sind in osStudio konfigurierbar, und Maestro ruft bei jeder relevanten Chat-Runde ab.
Was ist der Unterschied zwischen RAG und Fine-Tuning?
RAG ruft externe Fakten zum Anfragezeitpunkt ab. Fine-Tuning verankert neues Verhalten in den Modellgewichten. Beide ergänzen sich — RAG für Fakten, Fine-Tuning für Stil oder spezialisiertes Reasoning.
Kann ich die RAG-Pipeline anpassen?
Ja — pro Chat-Pfad in osStudio. Verschiedene Stufen, Modelle und Schwellenwerte pro Anwendungsfall.
Verwandte Begriffe
Verwandte Funktionen