LLM-GUIDELLM × llama.cpp Конфигуратор …

p.n-predict

Что делаетлимит токенов генерации
CLI-n, --predict, --n-predict
Серверrequest: n_predict
По умолчанию (v1.0.0)-1 = без ограничения
Диапазон—
Концептllm.inference
Заметки—

Источник: shared/data/parameters.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →