セルフホストAIは導入形態を判断軸にします。モデル・アプリ・エージェント基盤を自前のサーバーで動かし、データ管理・コスト・運用負荷を天秤にかけて、かける手間に見合うかを判断します。
RAGFlowを導入する価値があるかどうかは、文書が本当に「手強い」かどうかで決まります。InfiniFlowがGitHubでオープンソース化したRAGエンジンで、深い文書解析を売りにしています。スキャン版PDF、表やレイアウトのある文書、テキストと画像が混ざった資料も、まず構造化された断片に分解し...
11月3日、複数のメディアが、RevolutのAIオペレーション責任者デビッド・アビットボル氏が10月13日のAI Engineer NYCカンファレンスで行った講演を報じた。同社は約2000人のエンジニアの標準コーディングアシスタントを、ZhipuのGLMオープンモデルを自社でホストする方式に切り...
Whisperを入れる価値があるかどうかは、文字起こしする量と手元のハードウェア次第です。OpenAIが2022年に公開したオープンソースの音声認識モデルで、音声は自分のコンピューター上で文字起こしされ、分単位の課金はありません。たまに1本だけ録音がある人は、既製の文字起こしサービスを使うほうが手軽...
AG2 はマルチエージェント対話フレームワークです。手間をかける価値があるかどうかは、ひと言で決まります。複数のモデルエージェントに相談しながら仕事をさせたい開発者には向いていますが、チャット画面を入れたいだけの人には向きません。インストールの前に、名前の問題を先に整理する必要があります。AG2 は...
Open WebUIが解決するのは「ローカルモデルに使いやすいチャット画面がない」という問題です。それ自体はモデルを実行しません。ブラウザ上のチャット画面を提供するだけで、背後にはOllamaか、OpenAI互換APIを持つモデルサービスが必要です。インストール前にこの点を理解しておかないと、セット...
インストールする前に、一文をはっきりさせておきたい。SillyTavern 自体はモデルを提供しない。ローカルにインストールするチャット画面にすぎず、会話の質も費用も、接続するモデル次第だ。この点を逆に考えると、節約への期待はすべて崩れる。 まず名前を確認する：プラットフォーム、組織、プロジェクト ...
InvokeAIはローカルで動くAI画像生成ツールで、強みは扱いやすい画面です。コマンドをほとんど打たずに、ブラウザでパラメータを調整したり、レイヤーで画像を修正したり、まとめて生成したりできます。自分のパソコンでStable Diffusion系のオープンな画像生成モデルを動かしたいけれど、コマン...
Immichは、写真と動画をサードパーティのアルバムサービスだけに預けるのではなく、自分のサーバーに保存するセルフホスト型のバックアップサービスである。スマートフォンの自動バックアップ、顔検索と意味検索、共有アルバムなどの機能を備え、近年セルフホスト愛好者の間で注目を集めている。使う価値があるかどう...
