セルフホストAI
セルフホストAIは導入形態を判断軸にします。モデル・アプリ・エージェント基盤を自前のサーバーで動かし、データ管理・コスト・運用負荷を天秤にかけて、かける手間に見合うかを判断します。
セルフホストAIは導入形態を判断軸にします。モデル・アプリ・エージェント基盤を自前のサーバーで動かし、データ管理・コスト・運用負荷を天秤にかけて、かける手間に見合うかを判断します。
LM Studio は Element Labs が開発したデスクトップアプリで、やることは明快です。大規模言語モデルを1つのアプリに詰め込み、自分のPCでオフラインでチャットできるようにする。アプリを開き、内蔵のモデルブラウザでオープンソースのモデルを選んでダウンロードし、クリックで読み込めば会話...
Browser Use はオープンソースのブラウザ操作エージェントです。指示を与えると、実際にブラウザを開き、リンクをクリックし、フォームに入力し、ページをめくり、ポップアップを閉じて、結果を持ち帰ります。チャット欄で「ネットを見たふり」をして答えをでっち上げるのではなく、AI が人間のようにブラウ...
Dify は真剣に検討する価値がある。最も向いているのは二つの層だ:バックエンドを一から書かずに実用的な AI アプリ(社内サポート、ナレッジ Q&A、承認アシスタント)を素早く作りたいチームと、データを自社で管理し AI を自社サーバーで動かしたい企業。GitHub で約 15 万スターを集めるオ...
n8n は「ワークフロー自動化」をオープンソースプロジェクト化したプラットフォームです。GitHub 上の n8n-io オーガニゼーションがメンテナンスする n8n リポジトリは 20 万スターを突破し、今最もホットな自動化インフラプロジェクトの一つとなっています。「オープンソース版 Zapier...
Ollamaで大規模言語モデルをローカル実行するとは、一言で言えば「クラウドAPIの呼び出し」を自分のPC上の一つのコマンドに変えることだ。Ollamaをインストールし、 ollama pull llama3.1 でモデルを取得、 ollama run でオフラインのまま対話もコーディングも文書読み...
LangGraph はチャットインターフェースではありません。複数ステップのエージェントの編成を解決するものです。タスクをノードに分割し、中間状態を保存し、長い処理を一時停止・再生でき、重要なステップでは人間の確認を待てます。セルフホストする価値があるかどうかは、エージェントを長期間安定して動かす必...