エルメスエージェントvLLM

Hermes AgentがvLLMを受け取った後にツールが動作しませんか？

Hermes Agent vLLM接続後モデルがツール呼び出しをテキスト出力としてのみ行う場合、通常Hermesが接続されていないのではなく、vLLMサービスがツール呼び出しパラメータなしで起動されます。Hermesはデフォルトで tool_choice: auto を使用し、vLLM側も明示的にオ...