Главная / Слой данных / q.q4-k-s
q.q4-k-s
| bpw | 4.67 |
|---|---|
| Размер (8B-модель) | 4.36 GiB |
| Когда применять | компактнее Q4_K_M при минимальной потере |
Источник: shared/data/quants.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →