Startseite / Glossar / Kontextfenster
Was ist Context Window?
Das Kontextfenster (Context Window) ist die maximale Anzahl an Tokens, die ein LLM in einer Anfrage verarbeiten kann (Eingabe + Ausgabe zusammen). Moderne Modelle reichen von 4K bis 2M Tokens. Der Katalog von osFoundry listet das Kontextfenster für jedes Modell auf.
Details
Tokens sind Sub-Wort-Einheiten; im Durchschnitt ca. 3–4 Zeichen englischen Textes pro Token. Ein 128K-Kontextfenster fasst grob 100.000 Wörter. Das Fenster umfasst den System-Prompt, den Gesprächsverlauf, den abgerufenen Kontext UND die generierte Antwort des Modells — jeder Teil wird auf das Limit angerechnet.
Größere Fenster lassen Sie mehr Kontext einschleusen, kosten aber mehr pro Anfrage und haben abnehmenden Nutzen — die Qualität verschlechtert sich oft jenseits von 50–100K. Strategien wie RAG rufen nur die relevanten Chunks ab, statt alles hineinzuschieben.
Wie osFoundry Context Window handhabt
Die Wissensdatenbanken + RAG-Pipeline von osFoundry rufen nur die für jede Anfrage relevanten Chunks ab und halten das Kontextfenster fokussiert. Sie können auch ein Modell mit einem größeren Fenster aus dem Katalog wählen, wenn Sie es benötigen.
Häufig gestellte Fragen
How many characters fit in a 128 K context window?
Roughly 100,000 English words, or about 100,000 Japanese characters — tokenizer-dependent. Languages with lower tokenizer efficiency consume the window faster for the same content.
What happens when I exceed the context window?
The overflow is truncated, or the tool silently summarizes/drops older history. Whether you get an error or silent loss depends on the implementation — missing middle topics in long-meeting summaries is the classic symptom.
Is a bigger context window always better?
A larger cap is more flexible, but long inputs cost more, respond slower, and are prone to lost-in-the-middle recall gaps. Retrieving only the relevant chunks (chunking/RAG) is often more reliable than stuffing everything in.
Verwandte Begriffe
Verwandte Funktionen