한국어EN
모델 아키텍처·학습 기법Su 외

RoPE / RoFormer

RoPE / RoFormer

왜 중요한가

회전 위치 임베딩이 이후 모든 컨텍스트 확장 기법의 토대가 됨

출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요 논문arxiv.orghttps://arxiv.org/abs/2104.098642026년 8월 24일에 더한 조각 · 그 주 보기