몇 줄만 바꿔도 같은 모델이 다른 사람처럼 굴 때, 바뀐 것은 모델이 아니라 이번 턴에 무엇을 보여줬고 무엇을 앞에 뒀는지입니다.
AI 답변이 매번 다른 것은 대부분 완전히 정상적인 현상이며, 기억력이 나빠서가 아닙니다. 진짜 이유는 두 가지뿐입니다. 하나는 모델이 텍스트를 생성할 때 단어를 무작위로 샘플링하기 때문에 같은 질문을 두 번 실행하면 단어 선택 경로가 달라지는 것이 당연하다는 점이고,...
NaiveAI가 2026년 9월 27일 오픈 웨이트 모델 Naive-N0.5-Flash를 공개했다. 총 파라미터 309B, 토큰당 활성 파라미터는 15.5B인 혼합 전문가(MoE) 모델로, 네이티브 100만 토큰 컨텍스트 윈도를 지원하며 MIT 라이선스로 Hugging...
컨텍스트 윈도우는 모델이 한 번에 '볼 수 있는' 토큰 총량의 상한입니다. 프롬프트, 대화 기록, 검색으로 가져온 자료, 그리고 모델이 이미 생성한 답변까지 모두 순서대로 하나의 시퀀스에 나열됩니다. 윈도우가 결정하는 것은 모델의 '작업대' 크기이지, 모델이 얼마나 똑...
2026년 9월 1일, Anthropic은 공식 Claude 플랫폼 버전 노트에서 Claude Fable 5.1을 출시했으며, 이를 장기간 운영된 에이전트 프로그래밍, 지식 작업 및 연구로 자리매김했으며, 모델은 claude-fable-5-1로 식별되었습니다. 같은 날...
긴 문맥 압축은 단순히 단어를 삭제하는 것이 아니라, 긴 자료에서 핵심 정보를 최대한 보존하고 더 짧고 모델에 기반한 형태로 재구성하는 것입니다. 이 개념은 점점 더 중요해질 것입니다. 바로 맥락 창이 길어지고 있기 때문입니다. 규모가 커진다고 해서 모든 것을 다 넣어...
컨텍스트 엔지니어링은 더 화려한 프롬프트를 쓰는 것이 아니라, 모델이 이번에 무엇을 볼 수 있는지, 무엇을 먼저 보는지, 무엇을 무시해야 하는지 체계적으로 결정하는 것입니다. 프롬프트 엔지니어링이 좋은 질문을 쓰는 것과 더 비슷하다면, 컨텍스트 엔지니어링은 전체 입력 ...
컨텍스트 윈도우는 AI 채팅 경험을 이해하는 데 있어 핵심 개념입니다. 많은 사람들이 모델이 '기억력이 부족하다'고 생각하지만, 그 이유는 꼭 기억하지 못해서가 아니라 현재 대화에서 동시에 처리할 수 있는 정보의 길이가 제한되기 때문입니다. 질문이 너무 길거나, 대화 ...
