벡터 데이터베이스는 벡터 데이터를 저장, 인덱싱 및 쿼리하기 위해 특별히 설계된 데이터베이스입니다. 일반 데이터베이스는 주문 번호가 얼마인지와 같은 정밀한 필드 기반 쿼리에 뛰어납니다; 벡터 데이터베이스는 이 문제에 가장 가까운 문서 구간과 같은 유사성에 따라 쿼리하는 데 뛰어납니다.
AI 애플리케이션이 필요한 이유
대형 모델 애플리케이션은 종종 문서, 웹페이지, 고객 서비스 기록, 이미지, 오디오 등 비구조화된 콘텐츠를 처리해야 합니다. 임베딩 모델은 이 콘텐츠를 고차원 벡터로 변환하며, 벡터 데이터베이스는 이를 저장하고 사용자가 질문할 때 가장 유사한 내용을 빠르게 찾아냅니다.
일반 데이터베이스를 대체할 수 있는 것은 아닙니다
벡터 데이터베이스는 의미 유사성 검색을 담당할 뿐, MySQL, PostgreSQL, 또는 비즈니스 시스템을 대체하는 것이 아닙니다. 실제 프로젝트에서는 두 언어가 함께 작동하는데, 비즈니스 데이터베이스는 사용자, 허가, 주문, 원본 텍스트를 저장합니다; 벡터 데이터베이스는 벡터 및 문서 조각 인덱스를 저장합니다; 검색 시 권한, 시간, 카테고리 같은 메타데이터도 필터링해야 합니다.
모델을 선택할 때 주의해야 할 점
- 데이터 양과 쿼리 지연 시간: 수만 개의 문서 세그먼트는 수억 개의 벡터와 다릅니다.
- 필터링 기능: 기업 지식 기반은 부서, 허가, 시간별로 필터링되어야 합니다.
- 혼합 검색: 벡터에만 의존하면 숫자, 제품명, 코드 같은 정확한 단어를 놓칠 수 있습니다.
- 운영 및 유지보수 방법: 셀프 호스팅, 클라우드 서비스, 임베디드 솔루션 간의 비용 차이는 매우 큽니다.
흔한 오해
많은 RAG 프로젝트가 실패하는 이유는 벡터 데이터베이스가 충분히 발전하지 않아서가 아니라, 문서 슬라이싱, 임베딩, 권한, 재정렬, 프롬프트 등이 제대로 조정되지 않기 때문입니다. 벡터 데이터베이스는 중요한 기반이지만, '비슷한 콘텐츠를 더 빨리 찾는 것'만 담당하며 자동으로 정답을 보장하지는 못합니다.
