LLM-GUIDELLM × llama.cpp Конфигуратор …

p.grammar

Что делаетограничение вывода грамматикой или JSON-схемой
CLI--grammar, --grammar-file; -j, --json-schema, -jf
Серверrequest: grammar
По умолчанию (v1.0.0)выключено
ДиапазонGBNF-строка/файл | JSON Schema
Концептllm.constrained-decoding
Заметкиопциональный бэкенд LLGuidance (сборка -DLLAMA_LLGUIDANCE=ON, грамматики %llguidance)

Источник: shared/data/parameters.yaml — единый источник истины. · Подобрать конфигурацию под своё железо →