파인튜닝이 모델의 어떤 동작을 실제로 바꾸는지, 프롬프트 최적화·RAG와 비용·효과 면에서 어떻게 다른지 풀어 팀이 학습할 가치가 있는지 판단하게 한다.
퍼플렉시티, 즉 혼란도는 언어 모델이 다음 단어를 얼마나 확신하지 못하는지를 나타내는 숫자입니다. 문장을 이어 쓸 때 실제로 등장한 단어에 모델이 놀랄수록 수치는 높아지고, 당연하게 느낄수록 낮아집니다. 제조사들은 새 모델의 사양표에 이 숫자를 즐겨 넣지만, 이것은 모...
과적합이란 모델이 훈련 데이터를 너무 잘 외워서 데이터 속 잡음과 우연한 세부 사항까지 함께 기억해 버리는 현상입니다. 연습 문제에서는 점수가 높지만, 본 적 없는 새 데이터에서는 실력이 눈에 띄게 떨어집니다. 모델을 평가할 때는 훈련한 문제에서의 성적이 아니라, 새로...
창발 능력이란 작은 모델은 거의 해내지 못하다가 규모가 어떤 임계점을 넘는 순간 갑자기 수행할 수 있게 되는 과제 능력을 말합니다. 이는 평범한 점진적 향상이 아니라, 없는 것에서 있는 것으로 도약하는 것처럼 보이는 변화입니다. 모델이 작을 때는 여러 단계의 산술 문제...
AstaBrief 8B는 Ai2(Allen Institute for AI)가 2026년 10월 2일 오픈소스로 공개한 과학 보고서 생성 모델이다. 연구 질문과 검색된 문헌 발췌를 입력하면 인용이 달린 보고서를 바로 만들어 낸다. 모델은 Ai2의 과학 연구 플랫폼 Ast...
AI 얼라인먼트(AI Alignment)란 사전학습이 끝난 뒤, 거대 언어 모델의 행동을 인간의 의도·가치관·안전 요구사항에 맞추는 훈련·평가 방법 전체를 말한다. 사전학습은 모델에게 '말하는 법'만 가르친다. '제대로 말하는 법'을 가르치는 것이 얼라인먼트다. 얼라인...
2026년 10월 1일, Modal은 공식 엔지니어링 블로그를 통해 멀티노드 GPU 클러스터 제품인 Modal Clusters의 정식 제공(GA)을 발표했습니다. 개발자는 Python 함수에 데코레이터 modal.clustered 하나만 붙이면 멀티노드 클러스터를 사용...
SFT(Supervised Fine-Tuning, 지도 미세조정)는 챗봇 모델이 '데뷔'하기 전 받는 직무 교육과 같습니다. 수천 건의 '지시-응답' 예시 데이터를 사용해, 사전학습된 대형 모델에게 인간이 기대하는 방식으로 말하고 행동하도록 가르칩니다. 여기서 중요한 ...
RAG(Retrieval-Augmented Generation, 검색 증강 생성)는 대형 언어 모델이 답변하기 전에 먼저 자료를 찾아보게 하는 기술이다. 모델은 답변을 생성하기 전에 외부 지식 베이스에서 질문과 관련된 내용을 검색한 뒤, 그 내용을 근거로 답변을 작성한...
