임베딩·벡터 검색
기록 64개 · 정리 노트 0개 · 관련 축으로 붙은 기록도 함께 보여요.
뜻이 비슷한 것을 찾아내는 층
글이나 그림을 숫자 벡터로 바꿔 두면 '비슷함'을 계산으로 찾을 수 있습니다. 검색, 추천, RAG의 첫 단계가 모두 여기에 기대고 있어요. 이 축은 임베딩 모델의 발전, 많은 벡터를 빠르게 뒤지는 색인 구조, 그리고 그것을 담는 데이터베이스의 등장을 모읍니다. 눈에 잘 띄지 않지만 검색 품질의 상한을 정하는 층이에요.
자사 측정 MTEB Code 68.76에서 78.68로 상승, 컨텍스트 8K(전작의 4배), MRL로 768차원을 128차원까지 줄여 저장 공간을 최대 6배 아낌. 양자화하면 Pixel 11 Pro에서 텍스트 전용 약 191MB, 전체 멀티모달 약 567MB RAM으로 돌아 온디바이스 멀티모달 검색을 오픈 가중치로 내림
임베딩 모델의 경쟁점이 점수에서 운영 비용으로 옮겨 간 사례다. 등급이 임베딩 공간을 공유한다는 설계는 재색인 비용 — 대규모 RAG에서 모델 교체를 막는 가장 큰 장벽 — 을 없애려는 것이고, 이것이 되면 임베딩 모델 교체 주기가 짧아진다.
데이터 웨어하우스 질의가 분석가를 거치지 않고 에이전트의 기본 도구가 된 지점으로, BI 도구 계층이 에이전트에 흡수되는 흐름을 보여준다.
임베딩 학습의 기본값이던 대조학습보다 다단계 순위 감독이 감독 신호를 더 잘 쓴다고 주장하며, 리랭커를 검색 파이프라인의 후단이 아니라 임베딩 모델의 교사로 재배치한 갈래. 저자 자체 보고로 COLA·SUGARCREPE++·NEGBENCH 3개 구성적 추론 벤치마크에서 CORE-RERANKER-8B가 총평균 82.7%로 Jina-Reranker 대비 10.7포인트 우위, CORE-EMBED-
생성 모델을 검색기로 재활용하던 ColPali 계보 대신 처음부터 인코더로 설계한 단일 타워로 되돌아간 갈래 — 멀티모달 검색에서 '인코더 전용'이 다시 유효하다는 주장. 저자 자체 보고로 동일 해상도에서 ColModernVBERT 대비 약 2배 인코딩 처리량, 계층적 토큰 풀링과 비대칭 양자화로 255배 압축에서도 기준 성능 95% 이상 유지.
상용 임베딩에 MoE를 적용하고 크기가 다른 모델 간 임베딩 호환을 표준화. 비교 수치는 벤더 자체 측정
임베딩 생성과 ANN 튜닝을 DB 안으로 흡수해 별도 파이프라인을 없애려는 시도
단일 벡터 검색의 한계가 데이터·모델 크기로 해결되지 않는 차원상 원리적 한계임을 보인 반박. 다중벡터·희소·하이브리드 회귀의 이론적 근거
리랭커가 고정 함수에서 지시로 제어되는 부품으로 바뀜. 비교 수치는 벤더 자체 측정
양자화 인덱스가 선택지에서 기본값으로 내려온 지점
오픈웨이트 임베딩이 상용 API 모델을 리더보드에서 앞선 지점
벡터 인덱스에서 AI 데이터 레이크하우스로 카테고리를 재정의한 시도
임베딩 마이그레이션 비용에 대한 급진적 접근이자 벡터DB 유출 시 보안 함의를 제기
임베딩 모델이 전용 소형 인코더에서 프런티어 LLM 파생물로 이동하는 흐름을 대표
범용 DB 벤더가 임베딩·리랭킹 모델 회사를 직접 사들인 사건. 전용 벡터DB 대 기존 DB 확장 경쟁의 결정적 국면
VLM의 비전 인코더 사실상 기본값. 멀티모달 임베딩과 VLM 백본이 같은 계보로 수렴
학습 데이터까지 공개한 첫 경쟁력 있는 임베딩 모델. 재현 가능성을 임베딩 경쟁의 축으로 추가
벤치마크와 데이터와 모델을 한 묶음으로 푸는 오픈웨이트 전략이 MTEB 리더보드 판도를 바꿈
전용 벡터DB 없이 기존 RDB에서 HNSW를 쓸 수 있게 되어 벡터DB 시장 구도에 직접 영향
CLIP 이후 멀티모달 임베딩의 사실상 후계. 대규모 배치 요구를 없애 학습 접근성을 크게 낮춤
임베딩 모델 경쟁의 공통 척도. 모든 과제를 지배하는 임베딩 기법은 없다는 것이 핵심 결론
임베딩 차원을 사후에 조절 가능하게 만든 기법
기존 검색 엔진이 벡터 검색을 흡수하기 시작한 시점. 전용 벡터DB가 필요한가라는 통합 논쟁의 출발점
어휘 검색을 신경망으로 학습 가능하게 만든 축. 밀집 대 희소의 이분법을 무너뜨림
벡터DB가 벤더 제품이 아니라 재단 거버넌스 오픈소스 인프라로 성립함을 보인 사건
밀집검색이 어휘검색을 이겼다는 서사에 대한 결정적 반박. 하이브리드 검색이 기본값이 된 실무적 근거
벡터DB를 독립 제품 카테고리로 처음 상업화. 이후 Weaviate·Qdrant·Chroma·Milvus의 시장 형성을 촉발
희소검색(BM25) 기본값을 밀집검색으로 뒤집음
임베딩 마이그레이션 비용을 정면으로 다룬 첫 연구. 모델 교체 때마다 전 코퍼스를 재임베딩해야 하는 구조적 부채를 문제화
HNSW의 전부 메모리에 올려야 한다는 제약을 깬 SSD 기반 ANN
리랭커 계보의 원형. 밀집 임베딩이 못 잡는 정밀도를 후단에서 회수하는 2단 구조의 표준화
IVF-PQ 계열의 원점. FAISS·ScaNN·대부분 벡터DB의 압축 인덱스가 이 논문의 직계