MiMo-V2-플래시 하이브리드 어텐션, KV 캐싱 비용 절감

MiMo-V2-Flash 출시: 256K 긴 컨텍스트와 다중 토큰 예측을 통해 추론 처리량 향상

샤오미 미모와 샤오미 대형 모델 코어 팀은 MiMo-V2-플래시 관련 자원을 공개 및 공개하여, 이를 고속 추론 및 에이전트 워크플로우를 위한 기본 언어 모델로 자리매김했으며, 모델 가중치와 추론 배포 데이터가 개발자와 연구자들에게 동시에 제공됩니다. 이 모델은 약 3...