PrismML의 1비트 모델이 2026년 9월 24일 무대에 올랐다. 퀄컴은 Snapdragon Summit에서 눈길을 끄는 데모를 선보였다. AI 연구소 PrismML의 1비트 대형언어모델 'Bonsai'가 Snapdragon AR1 Gen 1 플랫폼 기반 AI 스마트글라스에서 구동되는 모습이었다. 처리는 모두 기기 내에서 끝나고 클라우드를 오갈 필요가 없다. PrismML은 9월 23일 공식 발표를 통해 이를 공개했다.
안경이라는 형태는 '온디바이스 AI'가 지금까지 마주한 가장 어려운 관문일지 모른다. 스마트폰에는 배터리와 발열 여유가 있지만 안경에는 없다. 일상용 안경에 들어갈 연산 자원과 전력 예산은 극히 제한적이다. PrismML의 데모가 답한 질문은 이것이다. 20억 파라미터의 비전언어 모델이 정말 안경다리 안에 들어갈 수 있는가.
Bonsai는 도대체 무엇인가
PrismML은 캘리포니아공과대학 연구자들이 창업한 AI 연구소로, UC버클리의 Ion Stoica가 자문을 맡고 있다. 간판 기술은 1비트 양자화다. 대형 모델을 4분의 1 크기로 압축하면서도 표준 벤치마크에서는 성능이 거의 떨어지지 않는다.
이번에 안경에 탑재된 것은 시각과 언어에 특화해 조정한 20억 파라미터 모델이다. 데모 장면은 이렇다. 안경을 통해 테이블 위 커피잔을 보며 "이게 뭐야?"라고 물으면 모델이 본 영상을 바탕으로 실시간으로 답한다. 클라우드를 거치지 않는다. 낮은 지연시간과 오프라인 동작이 가장 큰 강점이다.
PrismML의 목표는 명확하다. 오픈 웨이트 온디바이스 AI로 기기가 이미 가진 연산 자원을 남김없이 쓰는 것. 이면의 메시지도 명확하다. 폐쇄형 대형 기업의 프라이버시 약속을 믿느니, 데이터를 애초에 기기 밖으로 내보내지 않는 편이 낫다는 것이다.
왜 '로컬에서 실행된다'는 말이 핵심인가
스마트글라스는 '로컬 실행'에 가장 민감한 기기 형태일지 모른다. 카메라가 담는 것은 착용자의 1인칭 시점이다. 집, 사무실, 아이들, 화면 속 문서들. 매 프레임을 클라우드에 올려야 이해받을 수 있다면 사용자가 내줘야 할 신뢰 비용은 막대하다.
로컬 실행은 이 계산을 바꾼다. 영상은 기기 내에서 이해되고, 답변은 기기 내에서 생성된다. 원본 영상이 안경을 떠날 필요가 없다. 프라이버시에 민감한 사용자에게 이는 "나를 믿어달라"와 "믿지 않아도 된다"의 차이다. 전력 소모와 지연 개선은 덤이다. 네트워크 왕복이 줄면 응답은 빨라지고 배터리도 오래 간다.
바로 여기에 1비트 같은 극한 압축 기술의 쓰임새가 있다. AR1 Gen 1은 원래 저전력 웨어러블용으로 설계된 플랫폼이다. 4분의 1로 압축된 모델과 결합하면서 "쓸 만한 지능"이 처음으로 안경에 들어갈 가능성이 열렸다.
데모와 제품 사이에는 아직 진짜 안경 하나가 빠져 있다
찬물을 끼얹자. PrismML 모델을 탑재한 스마트글라스 제품은 현재 단 하나도 발표되지 않았다. 이번 공개는 칩 제조사 서밋에서의 기술 시연이다. "돌아간다"는 증명이지 "살 수 있다"는 증명이 아니다.
이 구분은 중요하다. 온디바이스 AI의 역사에는 눈부신 데모로 끝나고 양산에 이르지 못한 사례가 적지 않다. 전력은 통과했는데 발열이 안 됐다. 발열은 됐는데 연속 2시간 만에 배터리가 나갔다. 배터리는 됐는데 일상 쓰기에는 모델 성능이 부족했다. Bonsai의 "거의 성능 저하 없음"은 압축 전 자신과의 비교일 뿐, 복잡한 작업에서 클라우드 모델을 대체할 수 있다는 뜻이 아니다.
하지만 방향은 맞다. 20억 파라미터의 비전언어 모델이 안경에 들어갈 수 있다면 AI 어시스턴트는 더 이상 스마트폰 화면에 갇히지 않는다. 남은 것은 단 하나의 질문뿐이다. 어느 안경 제조사가 먼저 양산 기기에 탑재할 용기를 내고, 배터리 지속시간과 발열이라는 두 개의 필수 문제에 답할 것인가.
