거대 언어 모델이라는 기술 범주를 설명합니다. 그것이 무엇인지, 어떤 역량이 AI 앱의 기반이 되는지, 선택할 때 봐야 할 핵심 기준과 능력의 한계는 어디인지 다룹니다.
AI와 대화가 길어질수록 느려지면, 먼저 새 대화를 열고 핵심 배경을 다시 알려 주세요. 대부분 속도는 바로 돌아옵니다. 긴 대화의 계산 비용이 계속 쌓이다가 새 대화에서 0으로 초기화되기 때문입니다. 새 대화에서도 느리다면 아래 세 곳을 확인하세요. 1단계: 이 대화...
KV 캐시는 모델이 텍스트를 생성하면서 남기는 중간 계산 결과입니다. 모델은 토큰을 하나 생성할 때마다 관련된 키(Key)와 값(Value)을 저장하고, 다음 단계에서는 이미 계산한 부분을 다시 계산하지 않고 새로 추가된 토큰만 처리합니다. 이름은 저장되는 두 그룹의 ...
GitHub은 2026년 10월 28일 2026년도 Octoverse 보고서를 발표했습니다. 집계 기간은 2026년 9월 30일로 끝나는 지난 12개월이며 공개 저장소와 비공개 저장소를 모두 포함합니다. 핵심 결론은 개발자가 내놓는 코드 규모가 역대 최고를 기록했고, ...
AI 장문 작성에서 앞뒤 설정이 계속 충돌할 때는 일단 멈춰 설정표부터 만들고, 나눠 쓰고, 구간마다 대조하자. 한 번에 너무 길게 생성하는 것, 설정이 대화 안에만 존재하는 것, 맥락이 부족해지는 것이 충돌의 가장 흔한 원인이다. 설정을 한 장의 표로 굳히고, 쓰기 ...
인컨텍스트 학습은 대규모 모델이 파라미터를 업데이트하지 않고 프롬프트에 제시된 몇 개의 예시만으로 새로운 작업을 그 자리에서 수행하는 능력이다. 모델이 다시 학습되는 것도 아니고 예시를 영구히 기억하는 것도 아니다. 예시를 현재 대화의 임시 참고 자료로 삼아 작업의 형...
Gamma는 9~10월 업데이트 로그에서 Gamma 5를 발표했다. 베이징 시간 기준 2026년 10월 27일자 메시지는 템플릿으로 몇 장의 슬라이드를 만드는 단계를 지났다는 것이다. 에이전트가 먼저 조사하고 디자인해서 한 문장, 문서, PDF, 이미지, 오래된 덱으로...
AI 영화 추천이 늘 취향에 맞지 않는다면, 먼저 진짜 좋아하는 영화 세 편과 분명히 싫어하는 영화 세 편을 알려주고, 장르, 시대, 속도 선호도를 분명히 말하세요. 좋은 영화 한 편 추천해 달라고만 하면 인기도에만 의존해 추측할 수밖에 없습니다. 좋아하는 영화와 싫어...
AI가 쓴 이력서가 늘 정형화된 것처럼 보인다면, 표현부터 바꾸려 하지 말고 먼저 상투적인 문구를 자신의 사실로 바꾼 뒤 문장 형태를 고치세요. 정형화된 느낌은 대개 구체적인 숫자, 직무에 맞는 동사, 검증 가능한 결과가 없기 때문에 생기며, 누구에게나 적용될 수 있는...
