Tencent Hunyuan hat Hy4 Preview veröffentlicht und als Open Source veröffentlicht. Dieses neue Flaggschiff-MoE-Großmodell hat einen Gesamtparameter von 770B, 49B pro Token-Aktivierung, und die native Kontextlänge wurde auf 1MB erhöht. Anstatt nur Rankings zu verfolgen, legt Tencent mehr Wert auf reale Produktivitätsaufgaben wie Programmieren, Büroarbeit, Spieleentwicklung und wissenschaftliche Forschung.
770B MoE drückt 1 Million Kontext
Das Hy4-Vorschau-Backbone enthält 78 Schichten, von denen 77 MoE verwenden, jede Schicht ist mit 256 Routing-Experten und 1 gemeinsamem Experten konfiguriert, und jeder Token aktiviert den Top-8-Routing-Experten. Die Modellreduktion fügt eine MTP-Ebene für spekulatives Dekodieren hinzu.
Die Attention-Architektur verwendet Gated DSA, kombiniert mit IndexCache-Multiplexing von querschichtigen Sparse-Indexen, und führt iHC in Restpfaden ein. Tencent gibt an, dass Hy4-Vorschau im Vergleich zur vorherigen Generation gleichzeitig Modellgrößen-, Kontext- und Trainingsdaten erweitert.
Wechsel von Benchmarking zu realer Produktivität
Tencent hat KI-Programmierung, Büroanalyse, Spieleentwicklung und wissenschaftliche Forschung als Kernszenarien für Hy4 Preview aufgeführt, mit Trainingsdaten, die reale Aufgaben von internen Softwareingenieuren, Finanzanalysten und Sicherheitsexperten einbeziehen, und arbeitet weiterhin mit CodeBuddy und WorkBuddy zusammen.
Im internen Blindtest von Tencent bewerteten 163 Experten 203 technische Aufgaben. Die Hy4-Vorschau lag im Durchschnitt bei 2,99/4, mit einer Gewinnrate von 46,8 % gegenüber GLM 5,3 und 51,2 % gegen Kimi K3. Dieser Datensatz zeigt zudem, dass Tencent den Modellwettbewerb auf komplexe Aufgaben und nicht nur auf standardisierte Benchmarks antreibt.
Open-Source-Gewicht ergreift das Agent-Ökosystem
Hunyuan Hy4 Open-Source deckt synchron die ursprünglichen Gewichte und FP8-Versionen ab, verwendet die Apache-2.0-Lizenz, unterstützt die Bereitstellung über vLLM und SGLang sowie Aufrufe über OpenAI-kompatible APIs. Das Modell wurde auf Plattformen wie Hugging Face, ModelScope und GitCode veröffentlicht.
Die Gesamtparameterskala des 770B bedeutet außerdem, dass die Hy4-Vorschau besser für Server-Deployments geeignet ist als für gewöhnliche persönliche Geräte. Für Tencent konkurriert Open Source wirklich um die Modellbasispositionen für KI-Agenten, Unternehmensbüros und Entwicklungstools, während CodeBuddy und WorkBuddy den Einstiegspunkt für die kontinuierliche Rückgabe realer Aufgabendaten bieten.
Die Preview-Identität lässt zudem klare Verbesserungsmöglichkeiten. Tencent bestätigt, dass die aktuelle Version weiterhin Probleme wie übermäßiges Denken für komplexe Aufgaben und übermäßige Selbstvalidierung hat. Ob die offizielle Version von Hy4 Langkontext- und komplexe Aufgabenfunktionen beibehalten kann und gleichzeitig die Inferenzkosten senkt, wird darüber entscheiden, ob sie von einem "Open-Source-Frontier-Modell" zu groß angelegten Produktionsumgebungen übergehen kann.
