Главная / Глоссарий / Окно контекста
Что такое Окно контекста (Context Window)?
Окно контекста — это максимальное количество токенов, которое LLM может обработать в одном запросе (вход + выход вместе). Современные модели имеют от 4 тыс. до 2 млн токенов. Каталог osFoundry указывает окно контекста для каждой модели.
Подробнее
Токены — это подсловные единицы; в среднем ~3–4 символа английского текста на токен. Окно контекста 128 тыс. содержит примерно 100 000 слов. Окно включает системный промпт, историю беседы, извлечённый контекст И сгенерированный ответ модели — каждая часть учитывается в лимите.
Большие окна позволяют поместить больше контекста, но стоят дороже за запрос и имеют убывающую отдачу — качество часто ухудшается после 50–100 тыс. Такие стратегии, как RAG, извлекают только релевантные чанки вместо того, чтобы запихивать всё подряд.
Как osFoundry работает с Окно контекста (Context Window)
Базы знаний osFoundry + RAG-конвейер извлекают только релевантные чанки для каждого запроса, сохраняя окно контекста сфокусированным. Вы также можете выбрать модель с большим окном из каталога, если она вам нужна.
Часто задаваемые вопросы
How many characters fit in a 128 K context window?
Roughly 100,000 English words, or about 100,000 Japanese characters — tokenizer-dependent. Languages with lower tokenizer efficiency consume the window faster for the same content.
What happens when I exceed the context window?
The overflow is truncated, or the tool silently summarizes/drops older history. Whether you get an error or silent loss depends on the implementation — missing middle topics in long-meeting summaries is the classic symptom.
Is a bigger context window always better?
A larger cap is more flexible, but long inputs cost more, respond slower, and are prone to lost-in-the-middle recall gaps. Retrieving only the relevant chunks (chunking/RAG) is often more reliable than stuffing everything in.
Связанные термины
Связанные возможности