LLM-GUIDELLM × llama.cpp Конфигуратор …
Главная / Глоссарий / инференс

инференс g.inference

выполнение обученной модели — получение выходов по входу, в отличие от обучения

Статья: llm.inference — где этот термин работает на практике.
Весь глоссарий — термины локального инференса LLM.