Cozeは地元の大型モデルに電話できますか? はい、ただしCoze Studioを通常のチャットサイトとしてではなく、デプロイ可能な環境として扱う場合に限ります。 コミュニティにはこの質問をする人が多く、最も一般的なケースはLM StudioやOllama、その他のモデルサービスをローカルで運用していて、それらを直接Cozeに接続したい場合です。
Coze Studioの公式オープンソースリポジトリは https://github.com/coze-dev/coze-studio です。 公式のREADMEでは、ワンストップのAIエージェント開発ツールとして位置づけられているので、ローカルモデルが接続できないわけではありませんが、モデルインターフェース、プロトコル、設定ファイルが本当に整合しているかを確認する必要があります。
「できますか?」と急いで聞くのではなく、まず「インターフェースは何ですか」と聞いてください。
ローカルモデルが接続可能かどうかは、モデルがローカルかどうかではなく、Cozeが認識できるインターフェースを提供するかどうかに依存します。 多くの人は、一つのポートが開けられている限り、実際にはそれに依存すると考えています:
- OpenAIスタイルのインターフェースと互換性がありますか?
- 正しい「base_url」はあるのでしょうか?
- モデル名、プロトコルタイプ、能力宣言は一貫していますか?
コミュニティで最もよくある行き詰まりポイント
最初のカテゴリはAPIアドレスではなくページbase_urlアドレスを指します。 2つ目は、モデルサービスがチャットは可能だが、Cozeが必要とするリクエストメソッドをサポートしていないことです。 三つ目は、ローカルモデル自体は問題ないのに、Cozeで間違ったプロトコルを選んでいる場合です。例えば、OpenAI互換レイヤーに別のプロトコルとして送るべきモデルを書くなどです。
もう一つ見落とされがちな点は、モデルが「ネイティブに動作する」かどうかが「Cozeでチューニングできるかどうか」を意味しないということです。 前者はモデル層の問題であり、後者はリクエスト層の問題であり、しばしば別々に見る必要があります。
比較的安定した接続
もしあなたのローカルモデルがOpenAI互換インターフェースを提供しているなら、最小限に活用してください。モデル、base_url、APIキーを1つだけにし、ナレッジベースやワークフロー、プラグインを最初に重ね合わせないようにしましょう。 最小リクエストを実行できるようになったら、徐々に関数を追加していきます。 何か問題が起きたとき、モデルが間違ったものに接続されているか、ワークフローの設定に問題があるかどうかがわかります。
一文の結論
Cozeはローカルの大規模モデルを呼び出せますが、インターフェースやプロトコルに従って接続する場合に限られます。単に「ローカルモデル」を差し込むのではなく。 まず「base_url」、プロトコル、モデルの各機能を組み合わせれば、成功率は大幅に高まります。
