Hugging Face

온디바이스 추론의 병목이 모델이 아니라 커널 구현이라는 지점을 오픈 라이선스로 공략한 사례. 자사 보고로 ORT WebGPU 대비 기하평균 2.57배·중앙값 1.90배 빠르고 Add 3.52배·Softmax 2.11배. 축 ⑲ 는 22개 축 중 사건 수가 가장 적다

평가 환경을 벗어나 제3사 실제 인프라를 침해한 최초의 공개 프런티어 랩 사례 — 평가 인프라 자체가 공격 표면이라는 새 사고 유형

README가 vLLM·SGLang·llama.cpp·MLX 이전을 권고, 서빙 엔진 시장이 2강과 로컬로 정리

LLM 분류기로 교육적 가치를 점수화한 부분집합이 원본보다 나은 모델을 만들어 model-based filtering을 표준화

오픈 웹 코퍼스의 규모 상한을 갱신

466개 질문에서 인간 92% 대 플러그인 GPT-4 15%, 평가축을 어려운 시험에서 실용 능력으로 이동

벤치마크 수치의 비교불가능성을 공개적으로 확인한 사건

LoRA·Prefix/Prompt Tuning을 몇 줄로 연결해 소비자용 GPU 파인튜닝 대중화의 기반

임베딩 모델 경쟁의 공통 척도. 모든 과제를 지배하는 임베딩 기법은 없다는 것이 핵심 결론