ToolNavs 便利なAIツールを発見
ツール投稿 ログイン
戻るAI Q&A(英語)
ノートPCでInkling 2 Miniを動かす方法:26Bモデルはまずメモリとライセンスを計算する

ノートPCでInkling 2 Miniを動かす方法:26Bモデルはまずメモリとライセンスを計算する

AI Q&A(英語) • Admin • • 3 回閲覧

ノートPCでInkling 2 Miniを動かすには、まずメモリとライセンスを計算することが大切です。Thinking Machines Labが2026年11月20日に公開した、26Bパラメータのループ構造モデルです。総パラメータは26.4Bで、1回に活性化するのは3.4Bのみ、重みは約20GBで、ノートPCでオフライン動作すると同社は説明しています。Apache 2.0ライセンスで重みが公開されており、ダウンロードすればすぐ使えます。ただし26Bは軽量とイコールではありません。メモリが足りなければ動かないので、始める前に計算しておきましょう。

まずメモリの計算をする

重みだけで約20GBあり、さらに実行時のキャッシュやフレームワークのオーバーヘッドが必要です。公式デモは48GBメモリのMacBook Pro、つまりM5 Proチップ搭載モデルで動かしています。この目安でいえば、32GBメモリが比較的安全な出発点で、16GBのマシンではさらに強い量子化を使うか、遅さを我慢することになるでしょう。3.4Bという活性化パラメータ数だけ見て小さいと思い込んではいけません。あれは計算量の目安であって、メモリの見積もりではありません。

ノートPCで動かす2つの方法

手軽に済ませたいなら、Ollamaのようなワンクリックツールを使いましょう。インストールしてモデルを pull すれば会話を始められます。まず試してみる、チャットや簡単なエージェント作業には十分です。エージェント作業や長いコンテキストで性能を引き出したいなら、vLLMやSGLangでフルウェイトをデプロイします。vLLMは公開当日にすでに対応し、Ollamaも対応リストに入っています。重みはHugging FaceのThinking Machines Lab公式モデルページから入手でき、llama.cpp用のGGUF量子化版もあります。

ライセンスと使いどころ

Apache 2.0ライセンスは商用利用、改変、再配布を認めています。条件は著作権表示とライセンス文を残すことで、利用料はかかりません。テキストと画像の入力に対応し、コンテキストは100万トークンで、長期のエージェント作業で強みを発揮すると同社は説明しています。ただし弱点もあります。多ターンの会話や、制約の多い指示では、Qwen3.8-27Bなど同クラスのモデルに及びません。主力にする前に、自分のタスクでまず試しましょう。

Q:重みはどこからダウンロードするのが一番安全ですか?

A:Hugging FaceのThinking Machines Lab公式モデルページです。thinkingmachines/Inkling-2-Mini という名前を確認し、出所不明の重みファイルをよく分からない場所からダウンロードしないようにしましょう。

おすすめツール

もっと見る