LLM-GUIDELLM × llama.cpp Конфигуратор …
Главная / Глоссарий / ограниченное декодирование

ограниченное декодирование g.constrained-decoding

генерация, в которой запрещены токены вне грамматики или схемы

Статья: llm.constrained-decoding — где этот термин работает на практике.
Весь глоссарий — термины локального инференса LLM.