Ternary Bonsai 2는 PrismML이 기기 내 실행을 겨냥해 만든 삼진 가중치 모델 시리즈다. 2026년 10월 15일, PrismML은 보도자료를 통해 이 시리즈에 2B, 4B, 9B 세 모델을 추가한다고 발표했다. 세 모델 모두 Qwen3.5를 기반으로 만들어졌고, 시리즈는 이제 2B부터 27B까지 네 가지 크기로 구성된다. 세 모델은 이날부터 Apache 2.0 라이선스로 무료 다운로드할 수 있다.
삼진 가중치로 용량을 10분의 1 수준으로
일반 모델의 전체 정밀도 가중치는 매개변수 하나당 16비트를 쓴다. Bonsai 2의 가중치는 -1, 0, +1 세 값만으로 표현된다. 그 결과 용량이 크게 줄어든다. 2B 모델은 0.43GB, 4B는 0.95GB, 9B도 2.00GB에 불과해, 모두 각 전체 정밀도 버전의 9분의 1에도 못 미친다. 이는 PrismML이 올해 초 스마트 안경에서 1비트 비전 모델을 돌려 보인 노선의 연장으로, 이 사이트도 1비트 소형 모델의 Snapdragon 안경 탑재 소식을 전한 바 있다. 작다는 것의 이점은 저장 공간 절약만이 아니다. 가중치가 작을수록 메모리 대역폭 부담이 줄어, 일반 CPU와 엣지 GPU도 지연을 낮출 여지가 생긴다.
속도는 기기가 말한다
PrismML이 공개한 수치에 따르면, RTX 4090이나 MacBook M5 Pro 같은 하드웨어에서 Bonsai 2는 대응하는 전체 정밀도 모델보다 에너지 효율이 최대 약 3배, 처리량이 최대 약 5배에 이르고, 9B는 초당 최대 124토큰, 2B는 초당 최대 276토큰을 낸다. iPhone 18 Pro Max에서는 9B가 초당 34토큰, 2B가 120토큰으로 동작한다. 능력 면에서 회사는 19개 벤치마크에서 신형 모델들이 코딩, 수학, 지시 수행 과제에서 전체 정밀도 대응 모델과 동등하거나 앞섰고, 비전, 에이전트와 도구 호출, 지식과 추론 과제에서는 전체 정밀도 Qwen3.5 점수의 90% 이상을 유지했다고 밝혔다. 모두 업체 자체 측정 기준인 만큼, 실제 과제 성능은 자기 데이터로 직접 검증해야 한다.
누가 내려받아 써볼 만한가
휴대폰, 안경, 노트북에서 오프라인 어시스턴트를 만들려는 팀에게 이 세 모델은 '매개변수는 작지 않은데 용량은 아주 작은' 드문 선택지다. 네트워크 연결 없이, 데이터를 클라우드로 보내지 않고, 도구 호출만으로 짧은 과제 사슬을 처리할 수 있다. 반대로 이미 GPU 서버가 있고 극한의 품질을 노리는 환경이라면, 삼진 압축으로 아끼는 용량의 의미는 크지 않고 전체 정밀도 대형 모델이 여전히 더 안전한 선택이다. 온디바이스 에이전트 경쟁의 초점은 '돌아가느냐'에서 '이렇게 작은 용량에 얼마나 많은 능력을 담느냐'로 옮겨가고 있고, Bonsai 2는 그 크기표를 한 단계 더 아래로 내렸다.
