RAG·파인튜닝·컨텍스트Tim Dettmers 외
QLoRA
QLoRA
왜 중요한가
4비트 NF4·이중 양자화·페이지드 옵티마이저로 65B를 48GB GPU 한 장에서 파인튜닝
출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요
논문arxiv.orghttps://arxiv.org/abs/2305.143142026년 8월 24일에 더한 조각 · 그 주 보기
QLoRA
4비트 NF4·이중 양자화·페이지드 옵티마이저로 65B를 48GB GPU 한 장에서 파인튜닝