llama.cpp

Hermes 에이전트가 llama.cpp 연결 시 도구를 조정하지 않으면 어떻게 해야 하나요?

llama.cpp을 받은 후 Hermes 에이전트가 도구를 조정하지 않는다면, 서두르지 않고 설정을 변경하지 마세요. 대부분의 문제는 세 가지입니다: 인터페이스 주소가 OpenAI 호환 /v1 가 아니거나, 모델 이름이 잘못 채워져 있거나, 로컬 모델 자체가 툴 호출을...