LLM-GUIDELLM × llama.cpp Конфигуратор …

p.ctx-size

Что делаетразмер контекстного окна
CLI-c, --ctx-size
Серверstartup: --ctx-size
По умолчанию (v1.0.0)0 = взять из модели
Диапазонопределяет память KV-кэша
Концептllm.context-window
Заметкипереполнение: context shift по умолчанию ВЫКЛ (p.context-shift); сервер разделяет -c между слотами

Источник: shared/data/parameters.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →