Kimi K3.1 Pro의 오픈 가중치는 일반 컴퓨터에 바로 설치할 수 없습니다. 문샷 AI는 11월 4일 전후로 가중치를 Hugging Face에 공개했습니다. 모델 카드에는 전체 파라미터 2.8T, 토큰당 약 104B 활성화, 896개 전문가 중 한 번에 16개 활성화, 최대 컨텍스트 1M 토큰, 가중치는 MXFP4 양자화 형태로 공개되며 96개 샤드 합계 약 1.56TB라고 나와 있습니다. '오픈'이라는 단어만 보고 다운로드하면 일반 컴퓨터는 저장조차 못 하고, 실행은 더 말할 것도 없습니다.
크기는 첫 번째 관문일 뿐입니다. 공식 배포 경로는 vLLM, SGLang 같은 추론 엔진을 사용하며, TP8, DCP8 같은 다중 GPU 병렬 구성 예시가 제시되어 단일 머신이 아니라 서버 클러스터를 겨냥합니다. 1.56TB 가중치 다운로드 자체에 안정적인 고속 네트워크와 충분한 디스크 공간이 필요하고, 다운로드 후에는 샤드 무결성을 검증해야 하며 손상된 샤드는 다시 받아야 합니다. 104B의 활성화 파라미터 때문에 단계마다 상당한 계산이 필요하고, GPU 메모리와 메모리 대역폭은 서버 사양으로 준비해야 하며, 가정용 컴퓨터의 메모리와 대역폭은 그 수준이 아닙니다. 라이선스도 먼저 읽어야 합니다. 가중치는 MIT 같은 일반적인 오픈소스 라이선스가 아니라 문샷 AI 자체의 Kimi K3.1 Pro 라이선스를 사용하므로, 상업적 이용이나 재배포 전에 조건을 먼저 확인해야 합니다.
일반 사용자는 어떤 경로를 택해야 할까
Kimi K3.1 Pro를 쓰고 싶은 일반 사용자에게 가장 직접적인 경로는 공식 호스팅 채널입니다. Kimi 웹사이트, 앱, Kimi Code, 오픈 플랫폼 모두 같은 모델을 제공하며, API 식별자는 kimi-k3.1-pro로, OpenAI 방식과 Anthropic 방식 인터페이스 모두와 호환되고 사용량 기반 과금으로, 가중치와 그래픽 카드를 직접 관리할 필요가 없습니다. 정말 직접 호스팅하고 싶은 팀은 먼저 세 가지를 확인하세요. 8개 GPU 수준의 추론 클러스터가 있는지, vLLM이나 SGLang을 유지할 사람이 있는지, 라이선스를 읽고 규정을 준수하는 용도를 확인했는지. 세 가지 중 하나라도 빠지면 아직 다운로드하지 마세요. 공식 점수를 재현하려는 학술·평가 용도도 모델 카드에 제시된 엔진과 구성을 따라야 하며, 엔진이나 양자화 형식을 바꾸면 점수를 비교할 수 없게 됩니다. 판단 기준은 하나뿐입니다. 여러분의 머신과 팀이 서버 기준으로 준비됐는지, 개인용 컴퓨터 기준으로 준비됐는지. 전자일 때만 직접 호스팅을 논하고, 후자라면 호스팅 서비스를 바로 쓰세요.
