RAG
검색 증강 생성이 어떻게 작동하는지, 그리고 임베딩, 벡터 데이터베이스, 그리고 리턴팅이 기업 지식 기반 Q&A에서 어떤 역할을 하는지 설명해 주세요.
검색 증강 생성이 어떻게 작동하는지, 그리고 임베딩, 벡터 데이터베이스, 그리고 리턴팅이 기업 지식 기반 Q&A에서 어떤 역할을 하는지 설명해 주세요.
텍스트 청킹은 긴 문서를 작은 조각으로 잘라 지식 베이스에 저장하는 방식입니다. 책 한 권, 계약서, 도움말 전체를 모델에 통째로 넣는 대신 수백 자에서 천 자 정도의 덩어리로 나누고 각각 벡터화한 뒤, 질문이 오면 가장 관련 있는 조각만 꺼내 모델이 답하게 합니다. ...
Firecrawl이 쓸 만한지는 어떤 번거로움을 덜어 주는지로 갈립니다. 이것은 '웹 수집'을 대규모 모델에 먹이기 위해 만든 서비스입니다. URL을 주면 내비게이션, 광고, 잡음을 걷어 낸 깨끗한 Markdown이나 구조화 JSON을 돌려줘서, 헤드리스 브라우저와 프...
DeepSeek의 Search API와 Fetch API가 2026년 10월 17일 정식 출시됐고, DeepSeek은 공식 API 문서를 통해 자사 앱 뒤에서 돌아가는 검색 엔진을 모든 개발자에게 열었습니다. 이전에는 DeepSeek의 검색을 프로그램으로 쓰려면 자사 ...
PaddleOCR는 바이두의 패들패들(PaddlePaddle) 팀이 유지하는 오픈소스 OCR 툴킷으로, PDF와 이미지 속 문자를 판면 구조와 함께 추출해 기계가 쓸 수 있는 데이터로 만드는 데 특화되어 있습니다. GitHub에서 오래 인기를 유지하는 이유는 새로워서가...
Databricks 문서 인텔리전스의 실시간 REST API가 Databricks 공식 블로그 발표대로 2026년 10월 14일 정식 출시(GA)됐다. 문서 파싱, 분류, 필드 추출 API가 프리뷰를 마쳤고, 라우팅 결정을 담당하는 API는 베타로 함께 공개됐다. 상태...
MinerU는 최근 몇 년 문서 파싱 분야에서 빼놓을 수 없는 오픈소스가 됐습니다. 레이아웃이 복잡한 PDF를 깔끔한 Markdown이나 JSON으로 바꾸고, 수식은 LaTeX로, 표는 HTML로 변환하며, 스캔 문서는 자동으로 OCR로 넘깁니다. 대형 모델 학습과 R...
Docling이 푸는 문제는 PDF를 대형 모델에 넣기 전에 가장 얕보기 쉬운 관문, 판형입니다. 평범한 추출 도구는 PDF를 문자 순서대로 쏟아 내서, 2단 문서는 행을 건너 읽히고, 표는 무너지고, 제목과 본문이 섞입니다. 뒤의 모델이 아무리 똑똑해도 어지러운 텍스...
Perplexity의 새 임베딩 모델은 텍스트와 이미지를 하나의 검색 공간에 넣었다. 2026년 10월 7일, Perplexity CEO 아라빈드 스리니바스는 pplx-embed-v2-late의 오픈소스 공개를 발표했고, 가중치는 MIT 라이선스로 Hugging Fac...