LLM-GUIDELLM × llama.cpp Конфигуратор …

q.q3-k-l

bpw4.3
Размер (8B-модель)4.02 GiB
Когда применятьграница заметной деградации; проверить на своей задаче

Источник: shared/data/quants.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →