Perplexity Decider v1.2는 2026년 10월 17일 가장 놓치기 쉬운 공개였다. Perplexity는 Hugging Face에서 이 의사결정 모델의 모델 카드를 업데이트했고, Vercel은 같은 시기에 Decider V1.2 27B와 Decider Flash V1.2 4B를 AI Gateway에 올렸으며, Perplexity CEO Aravind Srinivas는 같은 날 Flash 버전이 메모리 16GB M4 Mac에서 온디바이스로 돌아간다고 게시했다. 챗봇과는 완전히 다른 길을 가는 모델로, 답글을 쓰지도 코드를 만들지도 않고 미리 정해진 판단 문제에 확률을 붙여 답할 뿐이다.
돌려주는 답은 세 가지뿐, 모두 확률이 붙는다
의사결정 모델의 사용법은 먼저 자료(state라고 부르며 텍스트, 구조화 기록, 이미지가 가능하다)를 건네고 정형 질문을 하나 이상 던지는 것이다. 예/아니오 질문에는 0에서 1 사이의 '예' 확률을, 선택형 질문에는 제시한 선택지마다 확률을 매겨 가장 가능성 높은 것을 고르며, 채점형 질문에는 정의한 순서 척도에 따라 단계별 확률을 돌려준다. 애플리케이션은 그 숫자로 결정한다. 문의를 어느 팀에 보낼지, 상품 사진에 파손이 보이는지, 애매한 판단을 사람 검토로 넘길지. 글자를 하나씩 생성하지 않기 때문에 분류, 라우팅, 라벨링처럼 물량이 많은 공정에서는 계산 방식 자체가 달라진다.
v1.2의 핵심 변화: 관련된 질문은 한 번에 물을 수 있다
이 버전은 Qwen3.8-27B를 미세 조정한 것으로, 자료에 약 160만 화소까지의 이미지를 넣을 수 있다. 새로운 방식은 자료 하나와 질문 여러 개를 한 번의 요청에 넣고 질문마다 전용 읽기 표시를 달아, 관련 질문들이 맥락을 공유하게 하면서 계산량은 대략 질문 하나 수준으로 유지하는 것이다. Perplexity 자체 벤치마크인 Decision Index 0.3에서 여러 질문을 묶은 구성의 종합 점수는 68.09로 이전 버전 62.30보다 올랐고, 시각 판단 항목은 73.22에서 77.43으로 상승했다. 다만 할인해서 봐야 할 점이 있다. 이 벤치마크는 Perplexity가 직접 유지하고 실행하며, 이번 버전의 학습 데이터에는 그 벤치마크 몇 개의 공식 학습 분할이 포함됐다. 상승분 중 판단력 향상과 시험 익숙함이 각각 얼마인지는 제3자 재측정이 필요하다. Perplexity 스스로도 서로 무관한 후보들의 채점은 요청을 나눠야 한다고 주의를 준다. 함께 넣으면 서로 영향을 주기 때문이다.
Flash 버전은 판단 단계를 기기 안으로 옮기려 한다
같은 시리즈의 Flash 버전은 4B로, 처리량이 많은 라벨링, 필터링, 라우팅이 목표다. Vercel의 등록 설명 역시 27B는 섬세한 판단과 복잡한 척도에, Flash는 기준이 명확한 대량 작업에 배정한다. Srinivas의 온디바이스 주장이 성립하면 분류와 1차 선별의 일부는 자료를 클라우드로 보내지 않아도 되며, 개인정보에 민감하고 물량이 많은 장면에서는 실질적인 선택지가 된다. 다만 지금은 경영자의 공개 발언일 뿐 온디바이스 속도와 정확도 수치는 공개되지 않았으니, 이를 전제로 아키텍처를 설계할 단계는 아니다.
27B 버전을 직접 운영하려면 문턱도 먼저 계산해야 한다. BF16 가중치에 약 52GiB의 GPU 메모리가 필요하고 작업 메모리가 추가로 들며, Python 3.12 이상과 CUDA GPU가 요구된다. 기존 서비스에 가볍게 끼워 넣을 작은 부품이 아니다. 더 단단한 해석은 이렇다. Jev가 등장한 지 몇 주 만에 의사결정 모델 경쟁에는 Perplexity, Cloudflare, OpenAI 등이 줄을 섰다. v1.2의 볼거리는 점수 자체가 아니라 '판단'이 독립적이고 저렴하며 기기 안에서 처리할 수도 있는 단계로 분리되고 있다는 점이다. 예/아니오 문제를 대량으로 안고 있는 업무라면 시험을 시작할 때가 됐다.
