LLM-GUIDELLM × llama.cpp Конфигуратор …
Главная / Глоссарий / префилл (prompt processing)

префилл (prompt processing) g.prefill

однократная обработка всего промпта перед началом генерации

Статья: llm.inference — где этот термин работает на практике.
Весь глоссарий — термины локального инференса LLM.