LLM-GUIDELLM × llama.cpp Конфигуратор …
Главная / Глоссарий / importance matrix

importance matrix g.imatrix

статистика активаций, помогающая I-квантам сохранять качество при сильном сжатии

Статья: lcp.quantize — где этот термин работает на практике.
Весь глоссарий — термины локального инференса LLM.