1. 초록
샤오미 MiMo-V2.5 시리즈는 MIT 라이선스를 사용하여 공식적으로 오픈 소스가 되었으며, 무게와 모델 카드는 Hugging Face에 공개되어 있습니다. 이 시리즈에는 100만 토큰 장기 컨텍스트 시나리오를 목표로 한 MiMo-V2.5와 MiMo-V2.5-Pro가 포함되어 있습니다. MiMo-V2.5는 부분적으로 네이티브 멀티모달로, 텍스트, 이미지, 비디오, 오디오 이해를 포함합니다. MiMo-V2.5-Pro는 복잡한 에이전트, 코드 엔지니어링, 장거리 작업을 목표로 하며, GDPVal-AA와 ClawEval과 같은 오픈 소스 모델 평가에서 뛰어난 성능을 보인 것으로 공식 평가받고 있습니다.
2. 핵심 특징
- 긴 컨텍스트: 두 마스터 모델 모두 최대 100만 토큰 컨텍스트를 지원하며, 이는 긴 문서, 코드 저장소, 다중 라운드 툴 호출에 적합합니다.
- MoE 아키텍처: MiMo-V2.5는 총 310B 매개변수와 15B 활성화 매개변수를 갖추고 있습니다; 프로는 총 파라미터 1.02T, 활성화 파라미터는 42B 파라미터입니다.
- 멀티모달 기능: MiMo-V2.5는 텍스트, 이미지, 비디오, 오디오에 대한 통합적 이해를 지원합니다.
- 에이전트 및 코드: 프로 버전은 복잡한 소프트웨어 엔지니어링, 도구 호출, 장거리 작업 실행을 향상시킵니다.
- 추론 최적화: 모델 카드는 긴 컨텍스트 KV 캐시의 부담을 줄이고 생성 효율을 높이기 위해 혼합 주의와 MTP 설계를 언급합니다.
3. 설치
- Hugging Face 컬렉션에 접근하여 MiMo-V2.5 또는 MiMo-V2.5-Pro 무게를 선택하세요.
- 모델 카드에 따라 SGLang 또는 vLLM을 설치하고, trust_remote_code 및 FP8 양자화 같은 권장 파라미터를 활성화합니다.
- 운영 배치 전에는 메모리, 처리량, 컨텍스트 길이 및 툴 호출의 안정성을 검증하기 위해 소규모 배치의 작업을 사용하는 것이 권장됩니다.
4. 일반적인 사용 사례
- 코드 저장소 분석: 대규모 프로젝트의 구조를 이해하고, 판정을 생성하며, 코드 검토를 수행합니다.
- 에이전트 워크플로우: 도구 호출을 결합하여 다단계 검색, 계획, 실행 및 요약을 완료합니다.
- 멀티모달 Q&A: 이미지, 비디오, 오디오, 텍스트의 혼합 입력을 처리합니다.
- 엔터프라이즈 지식 베이스: 계약서, 문서, 로그, 기술 데이터를 장기적으로 읽습니다.
- 지속적인 교육: 산업 데이터 미세 조정 또는 내부 역량 향상을 위한 MIT 프로토콜 기반.
5. 생태와 경쟁 제품
- 생태학: 공식적으로 Hugging Face 가중치, 블로그, API 플랫폼, AI Studio를 제공하며, 모델 카드에 SGLang 및 vLLM 배포 예제를 제공합니다.
- 경쟁 제품: DeepSeek, Kimi, Qwen, GLM과 같은 오픈 소스 모델과 비교할 때, MiMo-V2.5의 차이는 1M 길이의 문맥, 네이티브 멀티모달리티, 복잡한 에이전트 작업 조합에 있습니다. 구체적인 영향은 여전히 비즈니스 데이터의 재평가 대상이 되어야 합니다.
6. 제한 및 주의사항
- 모델 규모가 크며, 장기 컨텍스트 배포는 GPU, 비디오 메모리, 네트워크 및 추론 프레임워크에 대한 높은 요구를 요구합니다.
- 1M 맥락이 모든 긴 작업을 안정적으로 완료할 수 있다는 의미는 아니며, 여전히 차단, 검색, 평가가 필요하다는 뜻은 아닙니다.
- 다중 모달 이해는 입력 품질, 언어, 노이즈, 장면에 의해 영향을 받을 수 있습니다.
- MIT 프로토콜은 비교적 느슨하지만, 데이터 소스, 준수 요건, 제3자 의존성 등은 상업적 사용 전에 반드시 검토되어야 합니다.
7. 프로젝트 주소
https://huggingface.co/collections/XiaomiMiMo/mimo-v25
8. 자주 묻는 질문
Q: 샤오미 MiMo-V2.5가 상업용 배포를 지원하나요?
A: 모델 페이지에는 MIT 라이선스가 표시되어 있어 상업적 배포, 지속적인 교육, 미세 조정에 사용할 수 있지만, 기업들은 여전히 자체 준수 검토를 수행해야 합니다.
Q: MiMo-V2.5와 MiMo-V2.5-Pro의 차이점은 무엇인가요?
A: MiMo-V2.5는 더 네이티브 멀티모달 이해에 중점을 두고, Pro는 더 복잡한 에이전트, 코드 엔지니어링, 장거리 툴 호출에 중점을 둡니다.
Q: MiMo-V2.5가 온프레미스 배포에 적합한가요?
A: 배포는 가능하지만 모델 용량이 방대하므로 공식 모델 카드의 SGLang 또는 vLLM 구성을 먼저 참고하시는 것이 권장됩니다.
Q: MiMo-V1의 250만 대량 상황은 어떤 작업에 적합한가요?
A: 긴 문서 Q&A, 대규모 코드베이스 분석, 긴 동영상, 다중 라운드 에이전트 궤적 이해와 같은 시나리오에 적합합니다.