RAG는 검색-증강 생성(Retrieval-Augmented Generation)의 약자로, 중국어로는 일반적으로 회수-증강 생성(Retrieval-Augmented Generation)이라고 불립니다. 핵심은 모델이 모든 정보를 기억하게 하는 것이 아니라, 먼저 외부 지식 베이스에서 관련 콘텐츠를 검색한 후 답변을 내리고, 그 정보를 바탕으로 대형 모델이 답변을 생성하도록 하는 것입니다.
어떤 문제를 해결하나요?
일반적인 대형 모델은 교육에서 배운 지식과 최신 입력에만 의존하며, 회사 정책, 제품 문서, 계약 조건, 최신 자료를 접할 때 실수를 저지르기 쉽습니다. RAG는 '정보 찾기'와 '답변 작성'을 분리합니다: 검색 시스템은 관련 문서 조각을 찾는 역할을 하고, 모델은 이를 조직하고 설명하며 표현합니다.
RAG의 기본 과정
- 문서를 더 작은 세그먼트로 나누어 제목, 출처, 권한 등의 메타데이터를 유지하세요.
- Embedding 모델을 사용해 질문과 문서 조각을 벡터로 변환하세요.
- 벡터 데이터베이스나 검색 엔진을 사용해 가장 관련성 높은 세그먼트를 찾으세요.
- 그 클립을 프롬프트에 삽입하고 모델이 증거를 바탕으로 답변하게 하세요.
- 필요하다면 수동으로 확인하기 위해 소스로 돌아가세요.
RAG가 환각이 없다는 뜻은 아닙니다
RAG는 환각을 줄일 뿐 자동으로 없애지는 않습니다. 검색이 불완전하거나, 슬라이스가 너무 부족하거나, 권한 필터링 오류, 클립이 오래되었거나, 프롬프트 요구사항이 불분명하면 답변이 주제에서 벗어나게 됩니다. 많은 지식 기반 Q&A 실패는 모델이 부실해서가 아니라, 검색 및 문서 거버넌스가 제대로 이루어지지 않기 때문입니다.
어떤 상황에 적합한가요?
RAG는 기업 지식 베이스, 고객 서비스 Q&A, 정책 검색, 종이 자료 정리, 제품 매뉴얼 어시스턴트에 적합합니다. 이 도구는 무에서 모델을 만들어야 하거나, 복잡한 수학적 추론이 필요하거나, 신뢰할 수 있는 데이터 출처가 부족한 작업에는 적합하지 않습니다. 프로젝트가 RAG를 사용해야 하는지 결정할 때, 답이 추적 가능한 외부 데이터 배치에서 나와야 하는가? 그렇다면 RAG가 보통 단순한 프롬프트보다 더 안정적입니다.
