추론 모델
추론 모델은 답을 내기 전 여러 단계로 분해하고 검증·계획하여 수학·코드·복잡한 결정에서 일반 모델보다 안정적이라 새 패러다임으로 떠오르고 있다.
추론 모델은 답을 내기 전 여러 단계의 사고·검증·조건 판단을 펼치며, 일반 모델처럼 문장을 줄줄이 내보내지 않는다. 수학·코드·도표 이해·장기 결정 등 계획과 안정성이 필요한 과제에 강하고, 거대 모델이 '생성 도구'에서 '결정 비서'로 나아가는 핵심 단계로 꼽힌다.
Mercury 3 확산 모델 출시: 초당 1000토큰, 100만 토큰 컨텍스트로 동급 경쟁 모델보다 빠르게
2026년 10월 19일, Inception은 Business Wire를 통해 확산 대규모 언어 모델 시리즈의 네 번째 출시작인 Mercury 3를 발표했다. Mercury 3는 일반적인 NVIDIA GPU에서 초당 1000토큰 이상의 생성 속도를 유지하고, 컨텍스트 ...
Admin
15 
첫 토큰 지연이란? 첫 글자는 오래 걸리고 뒤는 빠른 이유
첫 토큰 지연은 전송을 누른 뒤 모델이 첫 번째 토큰을 내놓기까지의 대기 시간으로, 영어로는 TTFT(Time To First Token)라고 줄여 씁니다. AI 제품이 '빠르다'는 첫인상은 대개 여기서 결정됩니다. 어떤 제품은 3~4초 침묵하다가 글을 시작하고, 어떤...
Admin
64 
Glimpse 출시: 추론 도중 원본 이미지를 다시 보는 Elorian의 첫 시각 모델
Glimpse는 2026년 10월 16일 팔로알토 스타트업 Elorian이 공개한 첫 모델로, 연구 프리뷰 형태로 API가 열렸고 채팅 인터페이스는 대기자 명단만 받고 있다. TechCrunch가 이날 단독으로 전했다. 회사의 주장은 단호하다. 오늘날의 모델은 글을 읽...
Admin
56 
엔비디아와 메르세데스-벤츠, 자동주행 협력 확대
엔비디아와 메르세데스-벤츠의 자동주행 협력이 다음 10년으로 연장된다. 엔비디아 뉴스룸이 2026년 10월 16일 발표한 내용에 따르면, 양사는 차세대 주행 보조 및 자동주행 시스템을 공동 개발하며 벤츠의 차량 공학, 안전 역량, MB.OS 운영체제와 엔비디아의 Hyp...
Admin
50 
벤치마크란 무엇인가? 점수 1위 모델이 실사용에서도 최고는 아닌 이유
벤치마크는 AI 모델을 위한 표준 시험이다. 문제와 채점 규칙이 고정되어 있고, 여러 모델이 같은 문제를 풀어 점수를 비교한다. 필요한 이유는 실무적이다. 모든 업체가 자사 모델이 더 강하다고 주장하니, 나란히 비교할 자가 필요하다. 대표적인 시험 유형으로는 기억력을 ...
Admin
138 
LFM2.5-24B-A2B 오픈웨이트 공개: 24B 모델, 활성화는 2B뿐, 노트북에서 에이전트 구동
LFM2.5-24B-A2B는 Liquid AI가 2026년 10월 13일 공식 블로그를 통해 발표하고 가중치를 공개한 모델입니다. 전체 매개변수 24B, 토큰당 활성화는 약 2B뿐인 추론 모델로, LFM2.5 제품군에서 가장 크며 개인 기기에서 빠르고 사적으로 에이전트...
Admin
111 
Priming 공개: 재학습 없이 Transformer를 하이브리드로, 사전학습 비용 99% 절감
Priming은 아마존 웹 서비스(AWS) 팀이 2026년 10월 12일 Amazon Science 공식 블로그를 통해 공개한 아키텍처 변환 방법으로, 관련 논문도 같은 날 나왔다. 풀려는 문제는 구체적이다. 새로운 하이브리드 아키텍처를 시험하려면 지금까지는 모델을 처...
Admin
92 
ARC-AGI-2 최고 기록 경신: Tufa Labs 88.06%로 1위, 85% 보너스 라인 돌파
ARC-AGI-2 최고 기록 보드가 2026년 10월 9일 경신됐다. ARC Prize 공식 발표에 따르면 Tufa Labs가 88.06%에 도달해 ARC Prize 2026 시즌 ARC-AGI-2 최고 기록 보드 1위에 올랐다. 이 점수는 85% 라인을 넘었다. 대회...
Admin
126