Главная / Слой данных / q.iq4-nl
q.iq4-nl
| bpw | 4.68 |
|---|---|
| Размер (8B-модель) | 4.38 GiB |
| Когда применять | 4-битный нелинейный; вариант для KV-кэша тоже (f8_e4m3/iq4_nl допустимы) |
Источник: shared/data/quants.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →