KimiLinear Hybrid Attention Layer

Kimi Linear Technischer Bericht veröffentlicht: Lineare Aufmerksamkeit übertrifft vollständige Aufmerksamkeit in mehreren Szenarien, Integration von Open KDA Kernel und vLLM

Moonshot AI hat die Veröffentlichung seines technischen Berichts und der zugehörigen Gewichte für Kimi Linear bekanntgegeben. Im Fokus stehen die Kern...