임베딩·벡터 검색Tingyu Song 외
CORE 공개
CORE 공개 — MLLM 기반 임베딩 모델이 같은 개념을 담았지만 속성-객체 결합이 다른 장면을 구분하지 못하는 반면 같은 백본을 교차 주의 리랭커로 쓰면 구분이 된다는 관찰에서 출발해, 리랭커의 구성적 판단을 임베딩 모델로 증류하는 방법을 제시. 5단계 구성 매칭 수준에 걸친 후보 리스트를 합성하고 리랭커의 세밀한 순위를 재현하도록 학습하는 Rank-KL 목적함수를 도입했으며, 동일 데이터·튜닝 예산에서 대조학습·pairwise CoSENT·listwise Rank-KL을 비교
왜 중요한가
임베딩 학습의 기본값이던 대조학습보다 다단계 순위 감독이 감독 신호를 더 잘 쓴다고 주장하며, 리랭커를 검색 파이프라인의 후단이 아니라 임베딩 모델의 교사로 재배치한 갈래. 저자 자체 보고로 COLA·SUGARCREPE++·NEGBENCH 3개 구성적 추론 벤치마크에서 CORE-RERANKER-8B가 총평균 82.7%로 Jina-Reranker 대비 10.7포인트 우위, CORE-EMBED-8B가 평가 대상 임베딩 모델 중 최고 총평균 0.666이며 COCO·Flickr30K 검색 성능은 유지.
출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요
논문arxiv.orghttps://arxiv.org/abs/2609.040832026년 8월 31일에 더한 조각 · 그 주 보기
같은 주에 나온 조각09.04'Formalizing Fermat's Last Theorem' 공개공식 발표09.03Grok Bot 기업용 제공 시작공식 발표09.03GPT-6 Astra 공개공식 발표09.03Random Attention 공개논문