거대 언어 모델이라는 기술 범주를 설명합니다. 그것이 무엇인지, 어떤 역량이 AI 앱의 기반이 되는지, 선택할 때 봐야 할 핵심 기준과 능력의 한계는 어디인지 다룹니다.
치명적 망각은 신경망이 여러 과제를 차례로 배울 때, 뒤의 과제를 익히는 대신 앞서 배운 것을 넓은 범위에서 잊어버리는 현상입니다. 완성된 모델에 새 분야 데이터로 추가 미세조정을 하면 새 과제 점수는 오르는데, 잘하던 질의응답이나 분류, 특정 언어 실력이 눈에 띄게 ...
퍼플렉시티, 즉 혼란도는 언어 모델이 다음 단어를 얼마나 확신하지 못하는지를 나타내는 숫자입니다. 문장을 이어 쓸 때 실제로 등장한 단어에 모델이 놀랄수록 수치는 높아지고, 당연하게 느낄수록 낮아집니다. 제조사들은 새 모델의 사양표에 이 숫자를 즐겨 넣지만, 이것은 모...
OpenAI는 2026년 10월 6일 공식 블로그를 통해 아직 공개되지 않은 내부 프런티어 모델이 만들어 낸 수학 연구 성과 묶음을 공개했다. 원고 722건, 결과 계열 372개에 이르며 오랫동안 풀리지 않던 수학 문제 수백 건을 다루는 이례적인 규모다. 성과는 학술지...
Falcon-Emirati-7B는 2026년 10월 6일 아랍에미리트 기술혁신연구소(TII)가 Hugging Face 공식 블로그를 통해 공개한, 아랍에미리트 방언 전용 7B 모델이다. 기반은 TII 자체 모델 Falcon-H1-Arabic으로, Mamba 상태공간 모...
과적합이란 모델이 훈련 데이터를 너무 잘 외워서 데이터 속 잡음과 우연한 세부 사항까지 함께 기억해 버리는 현상입니다. 연습 문제에서는 점수가 높지만, 본 적 없는 새 데이터에서는 실력이 눈에 띄게 떨어집니다. 모델을 평가할 때는 훈련한 문제에서의 성적이 아니라, 새로...
Rho-1은 Reka AI가 내놓은 연구 프리뷰 모델이다. 2026년 10월 5일, The Decoder는 19B 파라미터의 이 '전능' 모델을 보도했다. 텍스트, 이미지, 영상, 로봇 제어 동작을 하나의 신경망 안에서 처리하고 생성하며, 외부 도구 호출도 없고 작업을...
AI 노트북, 살 가치가 있을까? 결론부터 말하면 문서 작성, 표 작업, 웹 서핑만 한다면 지금 NPU 하나 때문에 돈을 더 쓰는 것은 합리적이지 않습니다. 회의를 자주 하고 배터리 지속 시간을 중시하며 한 대를 오래 쓸 사람만 진지하게 고려할 가치가 있습니다. NPU...
LibreChat은 여러 업체에 흩어진 모델 진입점을 하나의 화면으로 모아, 여러 모델을 동시에 써야 할 때 웹페이지와 계정, 대화 기록을 반복해서 오가는 번거로움을 해결합니다. 강화된 ChatGPT 방식 인터페이스로 자리 잡았으며, 하나의 화면에서 OpenAI, An...
