LLM-GUIDELLM × llama.cpp Конфигуратор …

q.q3-k-m

bpw4
Размер (8B-модель)3.74 GiB
Когда применятьзаметные потери; обязательно проверять качеством

Источник: shared/data/quants.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →