설치하기 전에 한 문장을 분명히 해두자. SillyTavern 자체는 모델을 제공하지 않는다. 로컬에 설치하는 채팅 화면일 뿐이며, 대화가 얼마나 잘 되는지, 비용이 얼마나 드는지는 연결하는 모델에 달려 있다. 이 점을 거꾸로 생각하면 절약에 대한 기대는 모두 무너진다.
먼저 이름을 확인하기: 플랫폼, 조직, 프로젝트
SillyTavern은 GitHub의 오픈소스 프로젝트로, 플랫폼은 GitHub, 조직 이름은 SillyTavern, 프로젝트 이름도 SillyTavern이다. TavernAI의 포크에서 시작했으며, 파워 유저를 위한 로컬 LLM 프런트엔드로 자리매김하고 OpenAI, Claude, OpenRouter 등의 인터페이스 연결과 로컬 백엔드를 지원한다. 프로젝트 설명에 따르면 온라인 호스팅 서비스를 제공하지 않으며 사용자 데이터를 프로그래밍 방식으로 추적하지도 않는다. 대화 기록은 원칙적으로 자신의 컴퓨터나 서버에 남지만, 클라우드 모델에 연결하면 내용은 선택한 모델 제공자에게 전송된다.
무료인 것은 화면뿐, 비용은 이렇게 계산하기
소프트웨어 자체는 무료 오픈소스이며 실행에는 Node.js 20 이상을 설치할 수 있는 컴퓨터만 있으면 되고, 화면 자체의 하드웨어 요구 사항은 매우 낮다. 진짜 비용은 모델 쪽에 있다. 클라우드 API를 쓰려면 자신의 키를 준비하고 사용량에 따라 비용을 내야 하므로, 모델이 강력하고 대화가 길수록 청구액은 커진다. 로컬 모델을 쓰면 그래픽 카드와 전기 요금이 들며, 프로젝트 문서에서는 로컬 추론에 6GB 이상의 VRAM을 갖춘 NVIDIA 3000 시리즈 카드를 권장하고 구체적인 요구 사항은 모델에 따라 달라진다. 휴대전화로 언제든 접속하거나 여러 사람이 함께 쓰려면 서버와 도메인, 보안 설정도 고려해야 하며, 그것도 계속 드는 부담이다.
설치 전에 알아둘 네 가지 함정
첫째, 설치 완료가 곧 대화를 의미하지 않는다. API 주소와 키, 모델 매개변수를 먼저 설정해야 하고, 프리셋과 샘플링, 프롬프트 템플릿은 직접 시도하며 익혀야 하며 기본 설정이 그대로 쓸 만한 경우는 드물다. 둘째, 캐릭터 카드와 세계관은 양날의 검이다. 긴 대화를 더 일관되게 만들 수 있지만 잘못 만들면 서로 간섭하고, 문제가 생겨도 어느 층의 설정 때문인지 찾기 어렵다. 셋째, 업데이트와 확장 기능이 문제를 일으킬 수 있다. 서드파티 확장 기능이 많고 업그레이드 뒤 개별 기능이 동작하지 않는 일이 드물지 않으므로, 중요한 데이터는 캐릭터 카드와 대화 기록, 설정을 미리 백업하라. 넷째, 콘텐츠 책임은 사용자에게 있다. 대신 내용을 심사하거나 개인정보를 관리해 주지 않으며, 생성된 콘텐츠의 외부 전송과 저장, 규정 준수 경계는 사용자 본인의 책임이고, 미성년자나 민감한 내용에서는 더욱 주의가 필요하다.
설치하면 좋은 두 부류와 일단 미룰 두 부류
설치가 잘 맞는 사람은 이것저것 만져보는 것을 즐기고 여러 모델 사이를 오가며 로컬 제어와 맞춤 설정을 중시하는 파워 유저, 그리고 장기적인 역할극과 세계관 설정이 필요한 창작자다. 일단 미루는 편이 좋은 사람은 열자마자 대화하고 싶은 사람, API 키가 없고 사용량도 관리하고 싶지 않은 사람, 명령줄과 설정에 인내심이 없는 사람으로, 범용 채팅 앱이 더 편하다. 판단 기준은 간단하다. 이미 쓸 수 있는 모델 API가 있고 한 번의 설정에 하룻밤을 쓸 의향이 있다면 SillyTavern은 시도해 볼 만하다. 두 조건 모두 충족하지 못한다면 일단 미루고, 필요성이 분명해졌을 때 돌아와도 늦지 않다.
