Hermes AgentがvLLMを受け取った後にツールが動作しませんか？
Hermes Agent vLLM接続後モデルがツール呼び出しをテキスト出力としてのみ行う場合、通常Hermesが接続されていないのではなく、vLLMサービスがツール呼び出しパラメータなしで起動されます。Hermesはデフォルトで tool_choice: auto を使用し、vLLM側も明示的にオ...
AI Q&A(英語) • Admin •
211
ヘルメスエージェントカスタムエンドポイント
Found 2 related articles
