Janは、自分のパソコン上で大規模モデルをオフライン実行することに主眼を置いたオープンソースのデスクトップアプリで、Menlo Researchチームが維護している。会話内容をクラウドへ送りたくはないが、コマンドラインにも触れたくない人向けだ。GitHubでは四万を超えるスターを集め、ライセンスはApache-2.0で、個人利用も商用利用も比較的自由である。解決している課題は具体的で、モデルのダウンロード、読み込み、対話開始までを一つの画面に収め、ローカルモデルを初めて普通のソフトのように扱える形にした点にある。
公式リポジトリ情報
プラットフォームはGitHub、組織名はjanhq、プロジェクト名はjanである。Windows、macOS、Linuxに対応し、導入後はHugging FaceからLlama、Gemma、Qwen、gpt-ossなどの公開モデルを直接ダウンロードしてローカルで動かせ、完全にネットワークを切った状態でも使える。クラウドへの入口も残されており、自分のキーを登録すればOpenAIやAnthropicなどのモデルにも接続できる。さらに、自分のマシンの1337番ポートでOpenAI互換のローカルサービスを提供し、MCPにも対応するため、他のローカルプログラムから同じモデルを呼び出せる。
導入コストはソフトではなくハード側
導入自体は難しくない。本当の敷居はパソコンの構成である。公式の目安では、3B程度の小モデルで約8GBのメモリ、7Bモデルで16GB、13Bモデルで32GBが必要とされ、モデルファイル自体も数GBから数十GBの容量を取る。専用グラフィックスがなくても動くが、生成速度は目に見えて落ち、長い回答では待ち時間が増える。つまり節約できるのは月額料金とデータを外に出す不安であり、支払うのは容量とメモリと待ち時間である。この勘定は最初のモデルを落とす前に済ませておくべきだ。
正直な注意点は三つ
一つ目、オフライン対話はクラウドの最高峰モデルと同等の能力を意味しない。ローカルで快適に動くのは中小モデルが中心で、複雑な推論、長文執筆、多言語の繊細さでは今も差があり、期待値は選んだモデルに合わせて置く必要がある。二つ目、モデルは自分で選ぶ必要がある。アプリには多数のモデルを入れられるため、初心者はダウンロード一覧で迷いやすい。まず7B前後の汎用モデル一つから始める方が、一気に五、六個落とすより現実的である。三つ目、これは単独利用のデスクトップアプリで、チームアカウントや権限管理、集中運用の仕組みはない。複数人で統制して使いたいチームは、サーバー型の選択肢を見るべきで、無理にJanで代用しない方がよい。向いているのは、パソコンの構成に余裕があり、クラウドへ出せない内容をよく扱い、速度と引き換えに私的領域を守りたい人である。メモリが8GBしかなく回答の質を優先するなら、クラウドサービスの方が気楽である。
