거대 언어 모델이라는 기술 범주를 설명합니다. 그것이 무엇인지, 어떤 역량이 AI 앱의 기반이 되는지, 선택할 때 봐야 할 핵심 기준과 능력의 한계는 어디인지 다룹니다.
MiniMax가 2026년 10월 23일 M3.1 Flash의 모델 가중치를 공개했다. 공식 발표에 따르면 M3.1 Flash 가중치는 오픈소스로 공개되며, 총 파라미터 428B, 토큰당 약 23B만 활성화되는 혼합 전문가(MoE) 아키텍처, 컨텍스트 윈도우 100만 ...
DeepSeek에서 '서버가 바쁨' 메시지가 계속 뜬다면, 대부분 피크 시간대의 연산 자원 경합으로 인한 공식 측의 용량 문제입니다. 사용자의 네트워크나 계정에 문제가 있는 게 아닙니다. 당장 계속 써야 한다면 가장 빠른 방법은 심층 사고(DeepThink)를 끄고 기...
지식 증류(Knowledge Distillation)는 거대 모델의 '다크 지식'을 작은 모델에게 전달하는 기술이다. 먼저 거대한 교사 모델이 참조 출력을 생성하게 하고, 훨씬 작은 학생 모델이 그 출력을 학습하게 함으로써 작으면서도 쓸 만한 모델을 만들어 낸다. 선생...
모델 가지치기는 대형 모델에 뺄셈을 하는 방법입니다. 가중치 중에서 0에 가깝고 결과에 거의 영향을 주지 않는 연결을 찾아 삭제하거나 0으로 만들어, 모델을 더 작고 빠르게 하면서 능력 저하는 조금으로 억제하는 것입니다. 양자화, 증류와 함께 모델 압축으로 묶이지만 손...
레드티밍은 공격자의 자리에 선 사람을 고용해, AI가 잘못된 행동을 하거나 거부해야 할 말을 하거나 지켜야 할 정보를 흘리도록 일부러 유도하는 방법을 찾아 출시 전에 구멍을 막는 검증입니다. 사이버 보안에서 온 용어로, 레드팀이 공격하고 블루팀이 방어합니다. 재는 것은...
프롬프트 캐싱은 대규모 모델 API의 비용 절감 장치입니다. 같은 대화나 같은 종류의 요청에서 반복되는 앞부분을 서버가 한 번 계산해 저장해 두고, 다음 요청의 시작이 글자 하나까지 똑같으면 그 계산 결과를 그대로 재사용합니다. 절약되는 것은 입력 토큰 비용과 첫 글자...
철강 대형 모델은 2026년 10월 19일 국가 표준화 지침성 기술 문서 세트를 받았다. 시장감독관리총국(국가표준위원회)은 최근 '인공지능 철강 산업 응용 장면 분류 지침', '인공지능 철강 대형 모델 데이터셋 기술 요구', '인공지능 철강 대형 모델 서비스 능력 성숙...
멀티모달 모델이 이번에 이해하려는 대상은 결정의 3차원 원자 구조입니다. 2026년 10월 18일 매사추세츠공과대학교 공식 사이트 MIT News는 이 대학 연구팀이 결정 재료용 시각-언어 모델을 만들었고 관련 논문이 Nature Communications에 실렸다고 ...
