ToolNavs Outils IA à découvrir
Proposer Connexion
Retour à Questions et réponses sur l’IA
Spark X2.6-4B d'iFlytek peut-il tourner sur un smartphone ordinaire ? Vérifiez d'abord la version quantifiée, la mémoire et la répartition terminal-cloud

Spark X2.6-4B d'iFlytek peut-il tourner sur un smartphone ordinaire ? Vérifiez d'abord la version quantifiée, la mémoire et la répartition terminal-cloud

Questions et réponses sur l’IA • Admin • • 13 vues

Oui, mais ne mettez pas la version complète telle quelle dans votre téléphone. Ce qu'iFlytek a ouvert pour Spark X2.6, c'est uniquement le petit modèle embarqué Spark-X2.6-4B, sous licence Apache 2.0. Ce qui peut tourner sur un téléphone, c'est sa version quantifiée INT4 ou GGUF. Pour l'utiliser sur un téléphone ordinaire, vérifiez d'abord que la mémoire suffit, installez la version quantifiée, et acceptez qu'il ne traite que des tâches légères. Les poids du modèle phare cloud de 293B ne sont pas ouverts : ne confondez pas les deux.

  • Seul le modèle 4B est ouvert : il a été présenté le 22 octobre lors de la Journée des développeurs 1024 ; le modèle phare 293B n'est disponible qu'en essai via API, ses poids restant fermés.
  • Le téléphone fait tourner la version quantifiée : les poids complets BF16 sont trop lourds ; les versions quantifiées INT4 et GGUF sont la porte d'entrée pour les téléphones et les appareils légers.
  • Trois voies officielles : l'organisation XHToken sur Hugging Face, la version INT4 sur ModelScope, et le modèle sous le nom SparkLLM sur Ollama.
  • Le modèle embarqué ne traite que des tâches légères : il gère localement les données privées, les opérations simples et les interactions immédiates, tandis que le raisonnement complexe est confié au modèle phare cloud.

Le faire tourner sur un téléphone, en trois étapes

Première étape, choisir la version : sur téléphone, privilégiez INT4 ou GGUF, pas les poids complets BF16. Deuxième étape, choisir le canal : téléchargez les poids depuis l'organisation XHToken sur Hugging Face ; en Chine, passez par le dépôt INT4 du même nom sur ModelScope ; pour un essai en un clic, récupérez le modèle sous le nom SparkLLM sur Ollama. Troisième étape, fixer la répartition : le modèle local s'occupe d'abord de la reconnaissance d'intention, du masquage des informations sensibles et des opérations légères, tandis que les tâches lourdes comme la recherche dans de longs textes ou le code difficile partent vers le cloud. iFlytek annonce une couverture des tâches d'agent sur terminal de 41,9 %, ce qui signifie que plus de la moitié des tâches complexes a de toute façon besoin du cloud : ne prenez pas votre téléphone pour un serveur.

Limites et idées reçues

iFlytek n'a publié ni liste officielle des modèles de téléphone pris en charge, ni chiffres de latence au premier token ou de tokens par seconde sur des téléphones précis : vérifiez la source quand vous voyez des benchmarks concrets. La mémoire est la première barrière : même la version quantifiée exige assez de RAM, et un service résident consomme de la batterie et chauffe. Autre confusion fréquente : la collaboration terminal-cloud ne consiste pas à mettre le modèle phare dans le téléphone, mais à laisser le petit modèle 4B local décider quelles étapes partent vers le cloud. Ça tourne sur téléphone, mais plus stablement sur PC ; pour le code intensif et les longues tâches d'agent, passer directement par l'API cloud est plus rentable.

Côté licence, rien de compliqué non plus : Spark-X2.6-4B est sous Apache 2.0, donc l'usage commercial et le développement dérivé ne nécessitent aucune autorisation supplémentaire ; si vous modifiez et redistribuez, il suffit de conserver les mentions exigées par la licence.

Outils Recommandés

Plus