ToolNavs 유용한 AI 도구 찾기
도구 제출 로그인
돌아가기 AI 정보
MiniCPM-V 4.7 오픈소스 공개: 35B 모델을 3GB 메모리에, 폰에서 13 token/s 이상

MiniCPM-V 4.7 오픈소스 공개: 35B 모델을 3GB 메모리에, 폰에서 13 token/s 이상

AI 정보 • Admin • • 5 회 조회

MiniCPM-V 4.7이 2026년 10월 13일 면벽지능(ModelBest)에서 정식 발표되고 오픈소스로 공개됐다. 35B-A3B와 1B 두 가지 버전이 있으며, 앞의 모델은 이 시리즈 최초의 MoE 모델로 전체 매개변수 350억 개, 추론마다 활성화되는 부분은 약 30억 개 수준이다. 회사 설명에 따르면 약 3GB 메모리만으로 단말에서 무손실로 매끄럽게 돌릴 수 있다. 환구망, 매일경제신문, 계면신문, IT之家의 10월 13일 보도는 핵심 내용에서 일치한다. 이번 발표의 진짜 관전 포인트는 매개변수 수가 아니라, MoE가 휴대폰에서 전문가를 옮기는 오래된 문제를 어떻게 풀었냐다.

어려운 것은 연산이 아니라 운반이다

MoE 모델은 전문가가 여럿이고 답변마다 그중 일부만 호출한다. 문제는 호출되지 않은 전문가도 있을 자리가 필요하다는 점이다. 기존 방식은 어느 전문가가 필요해지면 그때 가중치를 메모리로 실어 나른 뒤 계산하니, 옮길 때마다 멈칫거리게 된다. 이번에 오픈소스로 공개된 LES(선행 전문가 스케줄링)는 발상을 뒤집었다. 다음에 필요할 전문가를 미리 예측해 현재 연산이 진행되는 동안 앞당겨 불러 두어, 로딩과 연산을 겹쳐 진행한다. 회사 측은 업계에서 유일한 오픈소스 동종 해법이라고 설명한다. 개발자가 2차 미세 조정을 할 때 망각을 줄이는 SRFT 자기 재생 미세 조정 방안도 함께 공개됐다.

두 개의 속도 숫자, 섞어 보지 말 것

보도마다 등장하는 속도는 대응 기기가 다르다. IT之家가 인용한 공식 자료에서는 35B-A3B가 iPhone 17 Pro Max에서 약 3GB 메모리로 13 token/s 이상의 디코딩 속도를 냈고, 환구망이 전한 iPad Pro 실측은 15 token/s 이상이다. 두 숫자는 모순되지 않지만 서로 바꿔 인용해서는 안 된다. 성능 비교에서는 공식 설명 기준으로 35B-A3B의 Instruct 모드가 더 짧은 추론 시간으로 Qwen3.6 35B-A3B보다 높은 종합 점수를 냈고, 1B 버전은 종합 점수와 추론 효율 모두에서 Qwen3.5 0.8B를 크게 앞선다고 한다. 모두 아직 제3자의 독립 재현이 없는 제조사 발표 수치다.

출시 당일부터 펼쳐진 지원 목록

공식 소개에 따르면 MiniCPM-V 4.7은 출시 당일부터 iOS, 안드로이드, HarmonyOS를 지원하고, 칩 플랫폼은 록칩, NVIDIA, Intel, Apple에 더해 AMD, Arm, 후머 등을 아우르며, 단말 적응 코드의 오픈소스 버전과 주요 추론 프레임워크 지원도 제공한다. 면벽지능과 OpenBMB 오픈소스 커뮤니티가 공개한 MiniCPM 시리즈의 누적 다운로드는 6000만 회를 넘어섰다. 단말에서 멀티모달 앱을 만드는 개발자에게 이번 공개의 실질적 의미는, 35B급 시각 이해를 휴대폰과 태블릿에서 진지하게 시험해 볼 오픈소스 선택지가 생겼고, 개인정보나 오프라인 상황에서도 기본값이 클라우드일 필요가 없어졌다는 데 있다. 공식 설명대로 무손실로 매끄럽게 도는지는 커뮤니티가 기종별 실측을 내놓은 뒤 판단해도 늦지 않다.

추천 도구

더보기