KimiLinear混合注意力层

Kimi Linear 技术报告发布：线性注意力在多场景超越全注意力，开放KDA内核与vLLM集成

Moonshot AI宣布发布Kimi Linear技术报告与开放权重，核心为线性注意力模块Kimi Delta Attention（KDA）与“线性+全注意力（MLA）”的分层混合架构。技术报告（2025年10月30日提交）称，在相同训练配方与规模下，Kimi Linear在短上下文、长上下文与R...