LLM-GUIDELLM × llama.cpp Конфигуратор …

p.temperature

Что делаетразогрев/остывание распределения вероятностей
CLI--temp, --temperature
Серверrequest: temperature
По умолчанию (v1.0.0)0.80
Диапазон>= 0; 0 = жадное декодирование
Концептllm.sampling
Заметкипоследний шаг цепочки сэмплеров перед softmax

Источник: shared/data/parameters.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →