LLM-GUIDELLM × llama.cpp Конфигуратор …

p.top-k

Что делаетрассматривать только k самых вероятных токенов
CLI--top-k
Серверrequest: top_k
По умолчанию (v1.0.0)40
Диапазон0 = отключен
Концептllm.sampling
Заметки—

Источник: shared/data/parameters.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →