컨텍스트 엔지니어링
몇 줄만 바꿔도 같은 모델이 다른 사람처럼 굴 때, 바뀐 것은 모델이 아니라 이번 턴에 무엇을 보여줬고 무엇을 앞에 뒀는지입니다.
몇 줄만 바꿔도 같은 모델이 다른 사람처럼 굴 때, 바뀐 것은 모델이 아니라 이번 턴에 무엇을 보여줬고 무엇을 앞에 뒀는지입니다.
Devin의 새로운 변화는 메모를 쓰기 시작했다는 점이다. 2026년 10월 5일, Cognition은 공식 블로그에서 Devin에 Memory와 Dreaming을 도입한다고 발표했다. Memory는 세션에서 배운 선호, 교정, 프로젝트 교훈을 다음 세션으로 이어 주고...
AI 답변이 너무 막연한 것은 대부분 모델이 답을 못해서가 아니라, 과업에서 대상과 범위, 출력 형태가 한정되지 않았기 때문이며, 이 세 가지를 먼저 바꾸면 답변을 보통 바로 쓸 수 있다. 많은 사람이 첫 반응으로 배경을 길게 덧붙이지만, 순서가 반대이다. 배경을 아무...
AI 답변이 중간에 멈췄다면 먼저 멈춘 위치를 보면 원인을 대략 판단할 수 있습니다. 문장 중간, 코드 한 줄 중간, 표 중간에서 멈췄다면 단일 출력 한도에 도달했을 가능성이 크고, 페이지에 갑자기 오류가 뜨거나 새로고침 후 내용 일부가 사라졌다면 네트워크나 서비스 중...
GPT-6 제품군을 어떻게 고를 것인가라는 실무적 질문에 OpenAI는 2026년 10월 2일 발표한 공식 가이드 《A model guide for the GPT-6 family》에서 체계적인 답을 제시했습니다. 이 가이드는 세 등급의 가격만 나열하지 않습니다. 추론 ...
컨텍스트가 거의 가득 차면 AI는 내용을 잊기 시작합니다. 이는 대개 태도가 나빠진 것이 아니라, 대화 초반의 내용이 잘리거나 압축되었기 때문입니다. 가장 안정적인 방법은 원래 대화에서 "틀렸어"라고 반복해서 지적하는 것이 아니라, 먼저 핵심을 요약하게 한 뒤 새 대화...
토크나이저(Tokenizer)는 여러분이 모델에 보낸 문장이 가장 먼저 거치는 부품으로, 이해를 담당하지 않고 자르고 번호를 매기는 일만 합니다. 텍스트가 대규모 모델에 들어가기 전에 토크나이저는 먼저 그것을 token 단위로 자른 뒤 어휘표의 번호로 바꿉니다. 모델이...
2026년 9월 30일, 앤트그룹 산하 InclusionAI(백령)는 공식 위챗 계정을 통해 차세대 언어 모델 Ling-3.1-flash를 발표했다. 총 파라미터 5,600억, 추론 시 활성화되는 파라미터는 약 250억에 불과하며, 에이전트 작업, 검색, 오피스 소프트...
AI 에이전트와 챗봇의 핵심 차이는 하나뿐입니다. 챗봇은 당신과 대화만 하고, AI 에이전트는 대신 일을 합니다. 챗봇은 한 마디에 한 번 답하고 대화가 끝나면 아무것도 남지 않습니다. 반면 AI 에이전트는 목표를 받으면 스스로 단계를 나누고 브라우저·파일·API 같은...