ToolNavs 유용한 AI 도구 찾기
도구 제출 로그인
돌아가기 AI 정보
Julia 1: 144M 파라미터 소형 모델, AI 분류·라우팅 전용

Julia 1: 144M 파라미터 소형 모델, AI 분류·라우팅 전용

AI 정보 • Admin • • 3 회 조회

Julia 1은 브라질의 작은 연구실 Supersonic Labs가 2026년 9월 26일에 공개한 의사결정 모델입니다. 파라미터 수는 1억 4,430만 개에 불과하며, CPU에서의 텍스트 분류와 라우팅을 위해 설계됐습니다. 가중치 파일은 550.5 MiB이며, 코드와 가중치 모두 Hugging Face에 올라와 있고 Apache 2.0 라이선스로 오픈소스화됐습니다. 텍스트를 생성하지 않고 선택만 합니다——이것을 이해하는 첫 번째 관문입니다.

개념부터 바로잡자: 답을 쓰는 게 아니라 고른다

Julia 1의 입력은 '컨텍스트 + 질문 + 후보 답변 집합'이고, 출력은 후보 중 하나를 고르는 것입니다. 맞는 일은 구체적입니다. 텍스트 분류, 요청 라우팅, 순서형 스코어링, 예/아니오 판단. 기반은 다국어 mmBERT-small 인코더입니다. 주의할 점은 대규모 생성 모델이 아니라는 것——글을 쓰게 하는 건 도구를 잘못 고른 겁니다.

공식 숫자 읽는 법: 소규모 파일럿이지, 실전 증거가 아니다

연구실은 몇 가지 소규모 파일럿 결과를 공개했습니다. Banking77에서는 100개 샘플, 72개 라벨을 쇼트리스트로 좁힌 뒤 정답 64건. 공식이 함께 제시한 비교 수치는 87%입니다. 뉴스 분류는 100건 중 4개 라벨에서 94건 정답, 감성 분류는 100건 중 6개 라벨에서 86건 정답. 분명히 해두자면, 이는 기업이 자체 보고한 소규모 샘플 파일럿이지 실전 환경의 증거가 아닙니다. 측정 조건이 다른 수치를 직접 맞붙여서는 안 됩니다. 반면 디바이스 실측은 발이 땅에 닿아 있습니다. Apple M4, Intel i5-1235U 노트북, 삼성 태블릿에서 구동됐고, 태블릿에서는 CPU 실행으로 초당 약 5회의 의사결정을 수행했습니다. 공식 설명에 따르면 사용 가능한 가속 경로가 CPU로 폴백된 상태라, 이는 배포 데모로 받아들여야 합니다. 연구실은 클라우드 GPU 학습과 실험의 총비용이 약 540헤알(약 104달러)이었다고도 밝혔습니다.

경계와 함정: 써보기 전에 확인할 것

가장 경계해야 할 것은 Banking77의 64% 대 87% 비교입니다. 공식 측정 조건은 '쇼트리스트로 라벨을 좁힌 뒤'이며, 두 수치의 테스트 조건은 동등하지 않습니다. 직접 비교하면 오해를 부릅니다. 도입을 검토하는 쪽은 자사의 라벨 체계로 반드시 실측하고, 발표 문구의 숫자에 끌려다니지 말아야 합니다. 위치를 다시 확인합니다. 이것은 의사결정 모델이지 생성 모델이 아닙니다. 생성이나 추론에 쓰는 건 도구 선택의 실수입니다. 소규모 파일럿 성적을 그대로 실전 환경에 외삽하는 것도 금물입니다.

에이전트 시대에는 저렴한 '라우팅 층'도 필요하다

에이전트 시대에 필요한 것은 더 큰 생성 모델만이 아닙니다. 저렴한 '라우팅 층'도 필요합니다. 분류할 때마다, 라우팅을 판단할 때마다 클라우드의 대형 모델을 호출한다면 비용도 지연 시간도 감당할 수 없습니다. Julia 1 같은 소형 모델은 바로 그 일을 합니다. 고빈도·저위험 판단을 로컬에 두고 소형 모델로 해결하는 것. Supersonic Labs의 포지셔닝은 솔직합니다. '사람들이 이미 가진 하드웨어에서 돌아가는 실용적인 AI'를 만드는 것. 104달러로 학습한 모델이 태블릿에서 초당 5회의 의사결정을 수행한다. 이 이야기의 핵심은 벤치마크 경쟁이 아니라, AI를 일반인이 이미 가진 디바이스에 올리는 데 있습니다.

추천 도구

더보기