Kimi Linear 기술 보고서 발표: Linear Attention이 여러 시나리오에서 Full Attention을 능가, Open KDA 커널 및 vLLM 통합
Moonshot AI는 Kimi Linear 기술 보고서와 공개 가중치를 발표하며 핵심 구성 요소인 Kimi Delta Attention(KDA) 선형 어텐션 모듈과 선형 및 전체 어텐션(MLA)을 결합한 계층적 하이브리드 아키텍처를 강조했습니다. 2025년 10월 3...
AI 정보 • Admin •
191