動く。ただしフル版をそのままスマホに入れるのはやめておこう。iFlytekがSpark X2.6でオープンソース化したのは、端末向けの小型モデルSpark-X2.6-4Bだけで、ライセンスはApache 2.0だ。スマホで動くのはINT4やGGUFの量子化版で、普通のスマホで使うにはまずメモリが足りるか確認し、量子化版を入れて、軽い仕事しか任せないと割り切ること。293Bのクラウド版フラッグシップの重みは公開されていない。取り違えないように。
- 公開されたのは4Bだけ:10月22日の1024開発者デーで発表され、293BのフラッグシップはAPIトライアルのみで、重みは非公開。
- スマホで動くのは量子化版:BF16のフル版は重すぎる。INT4やGGUFの量子化版こそスマホや軽量デバイスへの入口だ。
- 公式の入手経路は3つ:Hugging FaceのXHToken組織、ModelScopeのINT4版、Ollama上のSparkLLM名義のモデル。
- 端末モデルは軽い仕事だけ:プライベートなデータや簡単な操作、即時インタラクションをローカルで処理し、複雑な推論はクラウドのフラッグシップに任せる。
スマホで動かす3ステップ
まずバージョン選び。スマホではINT4かGGUFを優先し、BF16のフル版には手を出さない。次にチャネル選び。Hugging FaceのXHToken組織から重みをダウンロードするか、中国国内ならModelScopeの同名INT4リポジトリを使い、手軽に試すならOllamaでSparkLLM名義のモデルを引く。最後に分担を決める。ローカルモデルがまず意図認識や機密情報のマスキング、軽い操作を担い、長文検索や難易度の高いコーディングのような重い仕事はクラウドへ回す。iFlytekが公表した端末エージェントタスクのカバー率は41.9%。つまり複雑なタスクの半分以上はもともとクラウド頼みで、スマホをサーバー扱いしてはいけない。
限界と誤解
公式に対応スマホ機種の一覧はなく、各スマホでの初回トークンまでの遅延や毎秒生成トークン数も公表されていない。具体的なスマホのベンチマークを見かけたら、まず出所を確認すること。メモリが最初の関門で、量子化版でも十分な実行メモリが必要だし、常駐させれば電池を食い、発熱もする。もう一つの誤解。端末とクラウドの協調とは、フラッグシップモデルをスマホに詰め込むことではなく、ローカルの4Bモデルがまず判断し、どのステップをクラウドに回すか決めることだ。スマホでも動くが、PCのほうが安定する。重いコーディングや長時間のエージェントタスクには、クラウドAPIを直接使うほうが割に合う。
ライセンス面も心配はいりません。Spark-X2.6-4B は Apache 2.0 なので、商用や二次開発に追加の許諾は不要です。改変して再配布する場合は、ライセンスに従って必要な表示を残せばかまいません。