top-k g.top-k
отсечение: рассматривать только k самых вероятных токенов
Статья: llm.sampling-params — где этот термин работает на практике.
Весь глоссарий — термины локального инференса LLM.
g.top-kотсечение: рассматривать только k самых вероятных токенов