LLM-GUIDELLM × llama.cpp Конфигуратор …

p.threads

Что делаетCPU-потоки генерации
CLI-t, --threads
Серверstartup: -t
По умолчанию (v1.0.0)-1 (авто)
Диапазонрекомендация: физические ядра
Концептlcp.perf-tuning
Заметкиотдельно p.threads-batch (-tb) для префилла; env LLAMA_ARG_THREADS

Источник: shared/data/parameters.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →