LLM-GUIDELLM × llama.cpp Конфигуратор …
Главная / Глоссарий / декод (generation)

декод (generation) g.decode

пошаговая генерация токенов ответа после префилла

Статья: llm.inference — где этот термин работает на практике.
Весь глоссарий — термины локального инференса LLM.