Главная / Слой данных / q.iq4-xs
q.iq4-xs
| bpw | 4.46 |
|---|---|
| Размер (8B-модель) | 4.17 GiB |
| Когда применять | компактнее Q4_K_S; считать с imatrix |
Источник: shared/data/quants.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →