LLM-GUIDELLM × llama.cpp Конфигуратор …

q.iq1-s

bpw2
Размер (8B-модель)1.87 GiB
Когда применятьминимально возможное; ожидаемо плохо

Источник: shared/data/quants.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →