LLM-GUIDELLM × llama.cpp Конфигуратор …

top-k g.top-k

отсечение: рассматривать только k самых вероятных токенов

Статья: llm.sampling-params — где этот термин работает на практике.
Весь глоссарий — термины локального инференса LLM.