RoPE g.rope
ротари-эмбеддинги: позиции кодируются поворотами векторов; стандарт современных LLM
Статья: llm.rope-scaling — где этот термин работает на практике.
Весь глоссарий — термины локального инференса LLM.
g.ropeротари-эмбеддинги: позиции кодируются поворотами векторов; стандарт современных LLM