LLM-GUIDELLM × llama.cpp Конфигуратор …

p.fit

Что делаетавто-подгонка неустановленных аргументов под память устройств
CLI-fit, --fit
Серверstartup: -fit
По умолчанию (v1.0.0)on
Диапазонon/off; -fitt маркер MiB (1024), -fitc минимальный ctx (4096)
Концептlcp.diag-oom
Заметкиv1.0.0: сам уменьшает контекст/оффлоад, чтобы влезть; может скрыть причину OOM-настройки

Источник: shared/data/parameters.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →