Ja, aber lade nicht einfach die Vollversion aufs Handy. Was iFlytek bei Spark X2.6 als Open Source freigegeben hat, ist nur das kleine Endgerätemodell Spark-X2.6-4B unter der Apache-2.0-Lizenz. Auf dem Smartphone läuft seine quantisierte INT4- oder GGUF-Version. Wer es auf einem normalen Handy nutzen will, prüft zuerst, ob der Speicher reicht, installiert die quantisierte Version und akzeptiert, dass es nur leichte Aufgaben übernimmt. Die Gewichte des 293B-Flaggschiffs sind nicht offen – verwechsle die beiden nicht.
- Nur das 4B-Modell ist offen: Es wurde am 22. Oktober auf dem 1024-Entwicklertag vorgestellt; das 293B-Flaggschiff gibt es nur als API-Testzugang, die Gewichte bleiben geschlossen.
- Auf dem Handy läuft die quantisierte Version: Die BF16-Vollversion ist zu schwer; INT4- und GGUF-quantisierte Versionen sind der Einstieg für Handys und leichte Geräte.
- Drei offizielle Wege: die Organisation XHToken auf Hugging Face, die INT4-Version in der ModelScope-Community und das Modell unter dem Namen SparkLLM bei Ollama.
- Das Endgerätemodell übernimmt nur leichte Arbeit: Es verarbeitet private Daten, einfache Bedienung und sofortige Interaktion lokal; komplexe Schlussfolgerungen gehen an das Cloud-Flaggschiff.
In drei Schritten auf dem Handy zum Laufen bringen
Erster Schritt, die Version wählen: Auf dem Handy zuerst INT4 oder GGUF, nicht die vollständigen BF16-Gewichte. Zweiter Schritt, den Kanal wählen: Gewichte bei der Organisation XHToken auf Hugging Face herunterladen, in China das gleichnamige INT4-Repository in der ModelScope-Community nutzen, oder für einen schnellen Test das Modell unter dem Namen SparkLLM bei Ollama ziehen. Dritter Schritt, die Arbeitsteilung festlegen: Das lokale Modell übernimmt zuerst Absichtserkennung, das Unkenntlichmachen sensibler Daten und leichte Bedienung; schwere Aufgaben wie lange Textsuche oder anspruchsvoller Code gehen an die Cloud. iFlytek gibt die Abdeckung von Agentenaufgaben auf dem Endgerät mit 41,9 % an – mehr als die Hälfte der komplexen Aufgaben braucht also ohnehin die Cloud. Behandle das Handy nicht wie einen Server.
Grenzen und Irrtümer
Offiziell gibt es keine einheitliche Liste unterstützter Handymodelle und auch keine Angaben zur Latenz bis zum ersten Token oder zur Tokenzahl pro Sekunde auf einzelnen Handys – prüfe die Quelle, wenn dir konkrete Handy-Benchmarks begegnen. Der Speicher ist die erste Hürde: Auch die quantisierte Version braucht ausreichend Arbeitsspeicher, und ein dauerhaft laufender Dienst kostet Strom und erzeugt Wärme. Ein weiterer häufiger Irrtum: Endgerät-Cloud-Zusammenarbeit bedeutet nicht, das Flaggschiffmodell ins Handy zu stecken, sondern dass das lokale 4B-Modell erst entscheidet, welche Schritte in die Cloud gehen. Auf dem Handy läuft es, auf dem PC läuft es stabiler; für intensives Programmieren und lange Agentenaufgaben ist die Cloud-API direkt der günstigere Weg.
Auch die Lizenz ist unkompliziert: Spark-X2.6-4B steht unter Apache 2.0, kommerzielle Nutzung und Weiterentwicklung brauchen keine gesonderte Genehmigung – wer Änderungen vornimmt und weiterverteilt, muss nur die vorgeschriebenen Hinweise beibehalten.