ToolNavs 유용한 AI 도구 찾기
도구 제출 로그인
돌아가기 AI 백과사전
컨텍스트 엔지니어링이란? 프롬프트 엔지니어링과의 차이

컨텍스트 엔지니어링이란? 프롬프트 엔지니어링과의 차이

AI 백과사전 • Admin • • 19 회 조회

컨텍스트 엔지니어링은 대규모 언어 모델이 매 호출마다 컨텍스트 윈도우 안에서 보게 될 내용을 정하는 실천이다. 시스템 지침, 도구 정의, 검색으로 얻은 자료, 대화 기록, 기억, 도구가 반환한 결과 등이 포함되며, 목표는 모델이 매 단계마다 딱 필요한 고신호 정보를 얻게 하는 것이다. 이 표현은 2025년 6월에 퍼졌고, Anthropic은 같은 해 9월 가이드에서 이를 추론 과정에서 최적의 토큰 집합을 선별하고 유지하는 일련의 전략으로 정의했다.

프롬프트 엔지니어링, RAG와의 차이

세 가지의 범위는 다르다. 프롬프트 엔지니어링은 하나의 지침을 잘 쓰는 일만 맡는다. RAG는 지식 베이스에서 관련 자료 몇 건을 검색해 윈도우에 넣는 일만 맡는다. 컨텍스트 엔지니어링은 모든 내용이 매 턴마다 드나드는 것을 관리한다. 어떤 지침을 쓸지, 어떤 자료를 검색할지, 대화를 몇 턴까지 남길지, 오래된 기록을 어떻게 압축할지, 도구 결과를 쓰고 나서 지울지 여부까지. LangChain은 2025년 7월 자주 쓰이는 방법을 쓰기, 선택, 압축, 분리 네 가지로 정리했다.

윈도우가 크다고 일을 더 잘하는 것은 아니다. Chroma는 2025년 7월 18개 모델을 테스트해 입력이 길어질수록 모델 성능이 점점 불안정해진다는 것을 발견했는데, 흔히 말하는 컨텍스트 부패이다. 게다가 토큰은 곧 비용이라서, 윈도우를 가득 채우는 것은 돈을 더 쓰면서 품질을 떨어뜨리는 것과 같고, 선별 자체가 절약이 된다.

흔한 세 가지 오해

첫 번째 오해는 프롬프트 엔지니어링과 같은 것으로 보는 것이다. 좋은 프롬프트를 쓰는 것은 그중 한 부분일 뿐이고, 도구와 기억, 대화 기록도 함께 관리해야 한다. 두 번째 오해는 자료를 많이 넣을수록 좋다는 것으로, 신호가 낮은 내용이 핵심 정보를 모델의 주의가 닿지 않는 곳으로 밀어낼 수 있다. 세 번째 오해는 한 번 설정하면 그대로 두어도 된다는 것으로, 에이전트는 매 턴마다 새로운 도구 결과와 대화를 만들어내기 때문에 컨텍스트를 매 턴 다시 정리하지 않으면 갈수록 어긋난다.

컨텍스트 엔지니어링이 필요한 경우

여러 턴에 걸친 에이전트가 가장 필요로 한다. 예를 들어 고객 서비스 어시스턴트는 매 턴마다 사용자의 현재 질문, 주문 상태, 최근 몇 턴의 대화만 남기고, 오래된 티켓 기록은 요약으로 압축하며, 다 쓴 도구 결과는 바로 지운다. 일회성 질문이나 고정 템플릿 생성에는 필요 없고, 프롬프트를 분명히 쓰면 충분하다. 판단 방법은 간단하다. 작업이 여러 턴에 걸치는지, 도구를 호출하는지, 기록이 계속 쌓이는지. 세 가지 중 두 가지에 해당하면 컨텍스트를 진지하게 설계할 가치가 있다.

추천 도구

더보기