Jan のローカル AI ツールが v0.6.10 をリリースしました。ビジュアルモデルのインポートのサポート、llama.cpp の実験的な自動チューニング、画像添付、コピー＆ペースト、API キーの可視性に関する問題の修正が含まれています。このアップデートでは、オーサリング、検索、ローカルプライベートデプロイメントのコアエクスペリエンスがカバーされています。今回のアップデートの新機能 1. ビジュアルモデルのインポート：ローカルでのマルチモーダル実行 Jan はビジュアルモデルのインポートが可能になり、AI がローカルで画像理解、スクリーンショット解析、表認識を実行できるようになりました。テキストモデルと組み合わせることで、スピードとプライバシーのバランスを取りながら、プライベートな「画像を見て説明する」エクスペリエンスを実現します。 2. llama.cpp の自動チューニング：マシンの理解を向上 新しい実験的な設定により、量子化やスレッド化などのパラメータがハードウェアに基づいて自動的に調整されるため、手動によるチューニングコストが削減され、ほとんどのデバイスでより安定した推論スループットが実現します。
3.安定性の修正: 一般的な軽微なバグに対処しました
画像添付、コピー エラー、API キーの表示に関する問題が修正され、作業の中断や誤操作が減り、チームでの共有やプレゼンテーション時の使いやすさが向上しました。
II. 実装シナリオとベスト プラクティス
1. 個人の効率: スクリーンショット → 理解 → 出力
ビジュアル モデルをインポートした後、Jan はスクリーンショットを箇条書きや手順リストに変換できます。これは、製品レビュー、レポート検証、フォーム入力に最適です。
2. チーム コラボレーション: 漏洩のないローカル マルチモーダル
ローカル モデルを使用して、イントラネット環境で画像やドキュメントを処理し、機密情報をデバイス上に保持します。自動調整により、さまざまなハードウェアですぐに使用でき、環境の違いを最小限に抑えます。
3.エンジニアリングとデータのワークフロー: 軽量で再利用可能
(1) テンプレート化: 「画像の読み取り - 抽出 - 要約」をプロセスにカプセル化します
(2) バッチ処理: ディレクトリを使用してスクリーンショットとスキャンをバッチで解析します
(3) 品質検査: OCR/テーブル フィールドのサンプル比較、書き戻し修正
a. パフォーマンスに関する推奨事項
最初に自動最適化を使用してベースラインを実行し、次にモデル サイズに基づいてスレッドと量子化を微調整します。
b. ストレージに関する推奨事項
ブロック キャッシュと履歴セッションを有効にし、機能を再利用して繰り返し計算を削減します。
c. セキュリティに関する推奨事項
API キーには必要な権限のみを付与し、定期的にローテーションし、ログ記録を有効にします。
III.アップグレードとトラブルシューティングのチェックリスト
1. アップグレード手順
セッションとモデルのディレクトリをバックアップ → Jan を更新 → 実験的な自動調整を有効にする → ビジョン モデルをインポートして例を実行します。
2. FAQ
ビデオメモリが不足している場合は量子化ビット幅と同時実行性を減らします。画像の解析に失敗した場合は解像度と形式を確認します。コピーの異常はこのバージョンで修正されています。異常が続く場合はキャッシュをリセットします。
3. 評価メトリクス
スループット、最初の単語のレイテンシ、解析精度、手動によるリワーク率を考慮して、さらにパラメータ調整が必要かどうかを判断します。
よくある質問（Q&A）
Q: Jan でビジョン モデルをインポートしてローカル マルチモダリティを有効にするにはどうすればよいですか?
A: 設定でビジュアルモデルファイルまたはウェアハウスパスを追加し、対応する推論バックエンドを選択して、「画像入力 + テキスト出力」を同じ会話プロセスに組み込みます。
Q: 自動調整されたllama.cppは、手動で設定したパラメータを上書きしますか？
A: デフォルトの実験設定では推奨パラメータが提示されますが、詳細設定で上書きできます。自動調整を使用してベースラインを最初に実行し、その後、スレッドと量子化レベルを微調整することをお勧めします。
Q: このバージョンでは、ユーザーエクスペリエンスに影響を与えるどのような問題が修正されましたか？
A: 主な修正には、画像添付の失敗、コピー＆ペーストの例外、APIキーの可視性などがあります。アップデート後、関連シナリオはより安定し、デモンストレーションやコラボレーションに適しています。
Q: 古いマシンでもビジュアルモデルをスムーズに実行できますか？
A: 小規模または高量子化のビジュアルモデルから始めて、自動調整と解像度制限を有効にすることができます。必要に応じて、「最初にスケーリングしてから洗練する」という 2 段階の解析方法を採用します。
