거대 언어 모델이라는 기술 범주를 설명합니다. 그것이 무엇인지, 어떤 역량이 AI 앱의 기반이 되는지, 선택할 때 봐야 할 핵심 기준과 능력의 한계는 어디인지 다룹니다.
AI 답변이 너무 막연한 것은 대부분 모델이 답을 못해서가 아니라, 과업에서 대상과 범위, 출력 형태가 한정되지 않았기 때문이며, 이 세 가지를 먼저 바꾸면 답변을 보통 바로 쓸 수 있다. 많은 사람이 첫 반응으로 배경을 길게 덧붙이지만, 순서가 반대이다. 배경을 아무...
확산 모델은 먼저 데이터에 단계적으로 노이즈를 더한 뒤, 그 노이즈를 단계적으로 제거하는 법을 학습해 새로운 콘텐츠를 생성하는 생성 모델로, 현재 이미지 생성의 주류 방법 중 하나입니다. 이미지를 직접 그리는 것이 아니라 순수한 노이즈에서 출발해 노이즈를 한 단계씩 걷...
AI 답변이 중간에 멈췄다면 먼저 멈춘 위치를 보면 원인을 대략 판단할 수 있습니다. 문장 중간, 코드 한 줄 중간, 표 중간에서 멈췄다면 단일 출력 한도에 도달했을 가능성이 크고, 페이지에 갑자기 오류가 뜨거나 새로고침 후 내용 일부가 사라졌다면 네트워크나 서비스 중...
창발 능력이란 작은 모델은 거의 해내지 못하다가 규모가 어떤 임계점을 넘는 순간 갑자기 수행할 수 있게 되는 과제 능력을 말합니다. 이는 평범한 점진적 향상이 아니라, 없는 것에서 있는 것으로 도약하는 것처럼 보이는 변화입니다. 모델이 작을 때는 여러 단계의 산술 문제...
ThinkingBox는 Microsoft와 Hugging Face가 2026년 10월 3일 공동 발표한 에이전트 평가 벤치마크로, 에이전트가 마지막에 무슨 말을 했는지가 아니라 데이터베이스에 무엇을 남겼는지만으로 채점한다. 상태를 가진 업무 워크플로 507개는 소매, ...
Kolibri는 독일 AI 기업 Aleph Alpha가 2026년 10월 3일 정식 공개한 오픈 웨이트 모델이다. 공개일은 독일 통일의 날과 겹쳤고, Aleph Alpha는 공식 블로그 'Kolibri Has Landed'에서 전체 가중치를 Hugging Face의 A...
Gemini 무료 사용자가 쓸 수 있는 모델이 줄어듭니다. Google은 2026년 10월에 업데이트한 Gemini 앱 도움말 페이지 'Changes to Gemini model access and limits'에서, 2026년 10월 9일부터 Google AI 요금제...
대형 모델을 로컬로 돌릴 때 그래픽카드 VRAM이 충분한지는 모델을 다운로드하기도 전에 체감 상한을 정해 버리는 경우가 많습니다. 연산 성능만 보다가 모델이 들어가지 않거나, 들어가도 짧은 컨텍스트만 쓸 수 있다는 사실을 뒤늦게 깨닫는 사람이 적지 않습니다. VRAM은...
