Die offenen Gewichte von Kimi K3.1 Pro lassen sich nicht direkt auf einem gewöhnlichen Computer installieren. Um den 4. November herum hat Moonshot AI die Gewichte auf Hugging Face bereitgestellt; die Modellkarte zeigt 2,8 Billionen Gesamtparameter, etwa 104 Milliarden pro Token aktiviert, 16 von 896 Experten gleichzeitig aktiviert, maximal 1 Million Token Kontext, und Gewichte in MXFP4-quantisierter Form veröffentlicht, 96 Shards mit insgesamt etwa 1,56 TB. Wer nur das Wort „offen" sieht und herunterlädt, wird feststellen, dass ein gewöhnlicher Computer sie nicht einmal speichern kann, geschweige denn ausführen.
Die Größe ist nur die erste Hürde. Der offizielle Bereitstellungsweg nutzt Inferenz-Engines wie vLLM und SGLang, mit Konfigurationsbeispielen wie TP8- und DCP8-Multi-GPU-Parallelität, ausgerichtet auf Server-Cluster statt auf Einzelmaschinen. Schon das Herunterladen von 1,56 TB Gewichten erfordert stabiles, schnelles Netz und genügend Plattenplatz, danach muss die Integrität der Shards geprüft werden; jeder beschädigte Shard muss erneut heruntergeladen werden. Die 104 Milliarden aktivierten Parameter bedeuten, dass jeder Schritt erhebliche Berechnung erfordert, und GPU-Speicher und Speicherbandbreite müssen nach Server-Spezifikation vorbereitet werden; Speicher und Bandbreite eines Heimcomputers liegen nicht in dieser Klasse. Auch die Lizenz muss zuerst gelesen werden: Die Gewichte stehen unter Moonshot AIs eigener Kimi K3.1 Pro-Lizenz, nicht unter einer allgemeinen Open-Source-Lizenz wie MIT, sodass kommerzielle Nutzung oder Weiterverbreitung zuerst anhand ihrer Bedingungen bestätigt werden muss.
Welchen Weg sollten gewöhnliche Nutzer nehmen
Für gewöhnliche Nutzer, die Kimi K3.1 Pro verwenden wollen, ist der direkteste Weg der offizielle gehostete Kanal: Die Kimi-Website, Apps, Kimi Code und die offene Plattform bieten alle dasselbe Modell, mit der API-Kennung kimi-k3.1-pro, kompatibel sowohl mit OpenAI- als auch mit Anthropic-artigen Schnittstellen, nach Nutzung abgerechnet, ohne dass Sie Gewichte und Grafikkarten selbst verwalten müssen. Teams, die wirklich selbst hosten wollen, sollten zuerst drei Dinge bestätigen: ob sie einen Inferenz-Cluster auf 8-GPU-Niveau haben, ob jemand vLLM oder SGLang warten kann und ob sie die Lizenz gelesen und eine konforme Verwendung bestätigt haben; fehlt eines der drei, laden Sie noch nicht herunter. Akademische oder Evaluierungszwecke, die offizielle Werte reproduzieren wollen, sollten ebenfalls den Engines und der Konfiguration der Modellkarte folgen; ein Wechsel von Engine oder Quantisierungsformat macht Werte unvergleichbar. Es gibt nur einen Test: Ob Ihre Maschinen und Ihr Team nach Server-Standards oder nach PC-Standards vorbereitet sind. Nur Erstere sollten Self-Hosting diskutieren; Letztere sollten den gehosteten Dienst direkt nutzen.
