한국어EN
학습 데이터·후속학습TII

RefinedWeb

RefinedWeb

왜 중요한가

잘 정제한 웹 데이터만으로 큐레이션 코퍼스를 능가한다는 주장, MinHash 퍼지 중복제거가 표준 기법으로

출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요 논문arxiv.orghttps://arxiv.org/abs/2306.011162026년 8월 24일에 더한 조각 · 그 주 보기
같은 주에 나온 조각06.01AWQ논문05.29DPO논문
같은 축의 가까운 조각06.20Textbooks Are All You Need논문04.17RedPajama-Data-1T공식 발표10.27NLP Evaluation in trouble논문11.08Rethinking Benchmark and Contamination논문
AWQMT-Bench와 LLM-as-a-judge 발표