LLM-GUIDELLM × llama.cpp Конфигуратор …

q.q4-0

bpw4.5
Когда применятьlegacy (bpw примерный); совместимость со старыми сборками

Источник: shared/data/quants.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →