llama.cpp 1.0.0은 로컬에서 대형 모델을 실행하기 위한 추론 엔진으로, 채팅 앱도 아니고 모델 자체도 아닙니다. 2026년 11월 13일에 출시된 1.0.0의 가장 큰 변화는 버전 약속입니다. 앞으로 공개 C API의 호환성을 깨는 변경은 메이저 버전 업그레이드로, 호환되는 새 기능은 마이너 버전으로, 버그 수정은 패치 버전으로 진행됩니다. 초보자는 컴파일을 서두를 필요가 없습니다. 먼저 자신에게 맞는 방식을 파악한 뒤 업그레이드 여부를 결정하세요.
초보자가 먼저 알아야 할 세 가지
- 역할은 모델을 "실행"하는 것뿐입니다. 채팅을 하려면 llama-server나 llama.app, 또는 Ollama나 LM Studio 같은 상위 도구와 함께 써야 합니다. 엔진만 다운로드해서는 채팅이 되지 않습니다.
- 모델은 GGUF 형식이어야 합니다. llama.cpp가 실행하는 것은 GGUF 모델 파일이므로, 어떤 가중치 파일이든 그대로 쓸 수 있는 것은 아닙니다. 다운로드 전에 형식을 확인하세요.
- 1.0.0은 "안정판 약속"이지 "더 빨라짐"이 아닙니다. 속도 향상을 약속하지 않았으므로 성능을 기대하고 업그레이드하지 마세요. 아래 삭제 항목이 자신에게 영향을 미치는지 먼저 확인하세요.
업그레이드 전에 확인할 두 가지 삭제 항목
1.0.0에서는 사용 중단된 공개 함수 35개와 llama_set_warmup, 그리고 defrag_thold와 --defrag-thold 시작 옵션이 삭제되었습니다. 오래된 실행 스크립트를 계속 쓰거나 API를 직접 호출하는 코드를 작성한 적이 있다면, 먼저 이 이름들이 들어 있는지 검색하세요. 발견되면 수정해야 하며, 수정하지 않고 업그레이드하면 그대로 오류가 발생합니다. NextN 추측 디코딩 API는 llama-ext.h에서 메인 헤더 파일 llama.h로 이동했으므로 개발자는 참조를 업데이트해야 합니다. 새 기능으로는 OCP FP8 KV 캐시, 호스트 메모리 MoE 전문가 캐시, 외부 PLE 샤드 로딩이 추가되었고 Kimi-K3.1-Pro 등 새 아키텍처도 지원합니다. llama-server에는 OpenAI 호환 /v1/audio/speech 엔드포인트가 추가되었고 CORS, DNS 리바인딩 등 보안 문제도 수정되었습니다.
초보자를 위한 세 가지 시작 방법
- 가장 쉬운 방법: 미리 빌드된 바이너리나 llama.app을 사용하는 것입니다. 1.0.0 프리빌드는 Linux, macOS, Windows, Android, iOS를 지원하고 Docker, Homebrew, conda-forge 등에서도 구할 수 있어 직접 컴파일할 필요가 없습니다.
- 서비스로 쓰고 싶다면: llama-server를 실행하세요. OpenAI 호환 인터페이스가 제공되므로 자신의 채팅 화면과 연결할 수 있습니다.
- 직접 수정하고 싶다면: GitHub의 ggml-org llama.cpp 저장소에서 소스를 가져와 컴파일하세요. 개발자를 위한 방법이며 일반 사용자에게는 필요하지 않습니다.
1.0.0은 막 출시되었고 오래된 바인딩과 스크립트가 따라잡는 데는 시간이 걸리므로, 프로덕션 환경에서는 업그레이드를 서두르지 말고 테스트 머신에서 먼저 동작을 확인한 뒤 바꾸세요. 웹 UI도 꽤 많이 바뀌었습니다. 사이드바를 접을 수 있고 채팅을 그룹으로 묶을 수 있습니다. 화면이 바뀌었다고 사용법이 전부 바뀐 것은 아니므로, 먼저 익숙한 위치에서 메뉴를 찾고, 찾지 못하면 새 레이아웃을 살펴보세요.
