Startseite / Glossar / Kontextfenster

What is Context Window?

Das Kontextfenster (Context Window) ist die maximale Anzahl an Tokens, die ein LLM in einer Anfrage verarbeiten kann (Eingabe + Ausgabe zusammen). Moderne Modelle reichen von 4K bis 2M Tokens. Der Katalog von osFoundry listet das Kontextfenster für jedes Modell auf.

Detail

Tokens sind Sub-Wort-Einheiten; im Durchschnitt ca. 3–4 Zeichen englischen Textes pro Token. Ein 128K-Kontextfenster fasst grob 100.000 Wörter. Das Fenster umfasst den System-Prompt, den Gesprächsverlauf, den abgerufenen Kontext UND die generierte Antwort des Modells — jeder Teil wird auf das Limit angerechnet.

Größere Fenster lassen Sie mehr Kontext einschleusen, kosten aber mehr pro Anfrage und haben abnehmenden Nutzen — die Qualität verschlechtert sich oft jenseits von 50–100K. Strategien wie RAG rufen nur die relevanten Chunks ab, statt alles hineinzuschieben.

How osFoundry approaches Context Window

Die Wissensdatenbanken + RAG-Pipeline von osFoundry rufen nur die für jede Anfrage relevanten Chunks ab und halten das Kontextfenster fokussiert. Sie können auch ein Modell mit einem größeren Fenster aus dem Katalog wählen, wenn Sie es benötigen.