Jan은 내 컴퓨터에서 대형 모델을 오프라인으로 실행하는 데 초점을 둔 오픈소스 데스크톱 앱으로, Menlo Research 팀이 유지하고 있다. 대화 내용을 클라우드로 보내고 싶지 않지만 명령줄은 만지기 싫은 사람을 위한 도구다. GitHub에서 별 네 만 개 이상을 모았고, 라이선스는 Apache-2.0이라 개인 사용과 상업적 사용 모두 비교적 자유롭다. 해결하는 문제는 구체적이다. 모델 다운로드, 불러오기, 대화 시작을 하나의 그래픽 화면 안에 넣어 로컬 모델을 처음으로 평범한 소프트웨어처럼 설치해 쓸 수 있게 만들었다.
공식 저장소 정보
플랫폼은 GitHub, 조직 이름은 janhq, 프로젝트 이름은 jan이다. Windows, macOS, Linux를 지원하며, 설치 후 Hugging Face에서 Llama, Gemma, Qwen, gpt-oss 같은 공개 모델을 바로 내려받아 로컬에서 실행할 수 있고, 네트워크를 완전히 끈 상태에서도 사용할 수 있다. 클라우드로 가는 문도 열어 두어, 자신의 키를 등록하면 OpenAI, Anthropic 같은 업체의 모델에도 연결할 수 있다. 또한 내 컴퓨터의 1337 포트에서 OpenAI와 호환되는 로컬 서비스를 제공하고 MCP도 지원하므로, 다른 로컬 프로그램이 같은 모델을 호출할 수 있다.
배포 비용은 설치가 아니라 하드웨어
설치 자체는 어렵지 않다. 진짜 문턱은 컴퓨터 사양이다. 공식 기준으로는 3B 안팎의 작은 모델에 약 8GB 메모리, 7B 모델에 16GB, 13B 모델에 32GB가 필요하고, 모델 파일 자체도 수 GB에서 수십 GB의 저장 공간을 차지한다. 전용 그래픽 카드가 없어도 실행은 되지만 생성 속도가 눈에 띄게 느려져 긴 답변은 기다림이 필요하다. 즉 아끼는 것은 구독료와 데이터가 밖으로 나가는 걱정이고, 치르는 것은 저장 공간과 메모리와 대기 시간이며, 이 계산은 첫 모델을 내려받기 전에 끝내야 한다.
솔직한 주의점 세 가지
첫째, 오프라인 대화가 클라우드 최고급 모델과 같은 능력을 뜻하지는 않는다. 로컬에서 매끄럽게 도는 것은 중소형 모델이 중심이라 복잡한 추론, 긴 글쓰기, 다국어의 섬세함에서는 여전히 차이가 있으니 기대치는 고른 모델에 맞춰야 한다. 둘째, 모델을 직접 골라야 한다. 앱에 모델을 여럿 넣을 수 있어 초보자는 다운로드 목록에서 길을 잃기 쉽다. 처음에는 7B 안팎의 범용 모델 하나로 시작하는 편이 한 번에 대여섯 개를 받는 것보다 현실적이다. 셋째, 이 앱은 1인용 데스크톱 앱이라 팀 계정, 권한 관리, 중앙 운영 기능이 없다. 여러 명이 통제하며 함께 써야 하는 팀은 서버형 대안을 봐야 하며 Jan으로 억지로 대신하지 않는 것이 좋다. 잘 맞는 사람은 컴퓨터 사양에 여유가 있고, 클라우드에 보내기 어려운 내용을 자주 다루며, 속도와 맞바꿔 사생활을 지키려는 사람이다. 메모리가 8GB뿐이고 답변 품질을 우선한다면 클라우드 서비스가 더 편하다.
