AI 인프라 소프트웨어Tanishq Kumar 외 (하버드)
Scaling Laws for Precision 발표
Scaling Laws for Precision 발표 — 저정밀 학습이 모델의 유효 파라미터 수를 줄인다는 정밀도 인식 스케일링 법칙 제시. 학습 데이터가 많아질수록 사후 양자화 열화가 커짐
왜 중요한가
FP8/FP4가 되는가를 스케일링 법칙 수준에서 답한 검증 연구. 정밀도를 공짜 최적화가 아니라 용량 교환으로 재정의
출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요
논문arxiv.orghttps://arxiv.org/abs/2411.043302026년 8월 24일에 더한 조각 · 그 주 보기
같은 주에 나온 조각11.09OpenAI Orion의 성능 향상 둔화 보도보도11.09CONFIRMED보도11.07Magentic-One 발표논문11.07FrontierMath 공개논문