LLM-GUIDELLM × llama.cpp Конфигуратор …

FlashAttention g.flash-attention

точный алгоритм attention без материализации полной матрицы n×n: быстрее и экономнее; в llama.cpp — флаг `-fa`

Статья: llm.attention — где этот термин работает на практике.
Весь глоссарий — термины локального инференса LLM.