context window g.context-window
максимум токенов (промпт + ответ), которые модель видит одновременно
Статья: llm.context-window — где этот термин работает на практике.
Весь глоссарий — термины локального инференса LLM.