Главная / Слой данных / p.n-gpu-layers
p.n-gpu-layers
| Что делает | сколько слоёв модели держать в VRAM |
|---|---|
| CLI | -ngl, --gpu-layers, --n-gpu-layers |
| Сервер | startup: -ngl |
| По умолчанию (v1.0.0) | auto |
| Диапазон | число | 'auto' | 'all' |
| Концепт | g.offload |
| Заметки | v1.0.0: auto сам подбирает; вместе с p.fit подстраивает unset-аргументы под память |
Источник: shared/data/parameters.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →