家庭用NASでローカル大規模モデルを動かすのは、一台で二役をこなす話に聞こえます。ドライブベイには家族の写真や映像が入り、同じ箱がネットにも購読にも頼らず、その場で質問に答える。しかしNASの本職はストレージで、心臓部は低消費電力のプロセッサが普通であり、メモリも演算も省エネ優先で設計されています。本当の売りと上限を分けて見てから、この支出が正しいのか、そもそもNASではなく小さなPCに回すべきなのかを判断してください。
本当の売り：常時稼働、静か、データが外に出ない
NAS最大の強みは、もともと24時間動き続けていることです。デスクトップは起動中しかモデルを回せず、ノートは蓋を閉じれば眠りますが、NASは隅で一年中オンラインにあり、家のどの端末からでもいつでも質問できます。この常時待機こそ、ローカルモデルにとって最も心地よい形です。消費電力と騒音もNAS側に有利で、全体で数十ワット級が普通であり、ファンの音はリビングに置けるほど小さいものです。第三はデータの境界です。家族のアルバム、スキャンした証明書や契約書、私的な文書は、もともとNASの中にあります。同じ機械の上でモデルに読ませれば、一言質問するためにファイルをクラウドへ上げる必要がありません。プライバシーに敏感で、軽い質問応答で足りる人には、この三点は確かな価値です。
使用の関門：モデルの大きさは、まずメモリ、次にチップで決まる
ローカルモデルの占有量は主にパラメータ数と量子化の段階で決まり、収まるかどうかはまずメモリで決まります。NASに多い4GBや8GBは、OSやストレージのサービスとも分け合うため、モデルに残る余地は乏しく、最小級のモデルがやっと動く程度で、長い文脈を開けばプロセスが落とされることもあります。16GBからが余裕の始まりで、中くらいの量子化モデルで要約、分類、文書への質問が回ります。買う前に、メモリを増やせるかどうかを必ず確認してください。はんだ付けやスロット一つの機種も少なくありません。その上に演算があります。家庭用NASの多くはまともなグラフィック加速を持たず、推論はプロセッサ頼みで、速度は毎秒数語から十数語ほどにとどまり、一段落の回答に待ち時間がつきます。この速さは、夜の間に写真へタグを付ける、文書をまとめて要約するといった裏側の仕事向きで、オンラインサービスのような即答は期待できません。
買って損をしない三種類の人
一種類目は、もともと買い物リストにNASがあった人です。ストレージが支払い元で、ローカルモデルはおまけ、という心構えが最も健全です。二種類目は、軽くて頻繁な用途の人です。文書の要約、アルバム検索、家庭内の知識への質問が目的で、速さには鈍感で、プライバシーには敏感な人です。三種類目は、いじること自体を楽しめる人です。コンテナの導入、環境の調整、量子化モデルの選定を受け入れ、家庭の実験室の一部として扱い、遅さも含めて楽しめます。
割に合わない面も、表に出しておく
主な目的が、大規模モデルと気持ちよく会話したり、コードを書いたり、長い文書を処理したりすることなら、NASは期待を裏切ります。同じ予算を独立グラフィック付きの小さなPCに足せば、推論速度は桁が違います。隠れた勘定もあります。モデルを回すために高仕様のNASを買う追加費用は、小さなPCを別に買えるほどになることが多く、結果としてストレージ性能は大して変わらないのに、モデル体験だけが低消費電力チップに引きずられます。安定した組み合わせは分業です。NASはストレージの本職に戻し、モデルは家で最も演算の強い機器かクラウドに任せ、NASの常時稼働と静かさは映像とバックアップのために残します。結論ははっきりしています。ストレージのためにNASを買い、ついでに小さなモデルを回すなら価値あり。大きなモデルを回す目的でNASを買うなら、価値はありません。
