관련 자료를 먼저 찾아 와서, 그걸 근거로 답하게 하는 방법이에요.
RAG는 '검색 증강 생성'의 영어 약자예요. AI가 외운 것만으로 답하는 대신, 질문과 관련된 글을 먼저 찾아 와서 함께 읽고 답하게 해요. 2020년 페이스북 AI 연구팀과 대학 연구자들이 낸 논문에서 이 이름이 붙었어요.
보통 자료를 작은 조각으로 나눠 임베딩으로 바꿔 두고, 질문과 뜻이 가까운 조각을 꺼내 와 프롬프트에 붙여요. 모델을 다시 학습시키지 않아도 자료만 바꾸면 새 소식이나 학교 공지 같은 내 자료로도 답할 수 있고, 출처를 밝히기도 쉬워요.
환각을 줄이는 데 도움이 돼요. 하지만 찾아온 글이 틀리거나 엉뚱하면 답도 같이 틀려요.
비유로 보면
외워서 보는 시험과 책을 펴 놓고 보는 오픈북 시험의 차이예요. 오픈북이면 기억이 흐릿해도 책에서 찾아 근거를 대며 답할 수 있죠. 다만 엉뚱한 쪽을 펴면 답도 엉뚱해져요.
예를 들면
학교 축제 안내문을 자료로 넣어 두면, '부스 신청 마감이 언제야?'에 안내문을 근거로 답해요.
이 낱말과 이어진 기록
출처로 확인한 AI 역사 속 장면이에요.