TypeSafe AI가 개발한 Jev가 OpenRouter에 출시되었습니다. GPT나 Claude와 같은 대형 텍스트 생성 모델과 달리, Jev는 최초의 공개된 System One 모델로 정의됩니다: 애플리케이션 상태와 구조화된 질문을 입력하고, 확률적 유형론적 결정을 직접 반환하며, '답변을 작성'하는 것이 아니라 소프트웨어가 직접 판단을 실행하도록 하는 것이 목표입니다.
JEV는 텍스트를 생성하지 않고 단지 의사결정만 합니다
전통적인 LLM 출력은 본질적으로 토큰 문자열입니다. JSON이 요청되더라도 개발자들은 여전히 프롬프트, 구문 분석, 스키마 검증, 예외 출력을 처리해야 합니다. Jev는 자유 텍스트 생성을 포기하고, 모델 출력을 프로그램 내에서 미리 정의된 타입으로 제한하기로 결정했습니다.
TypeSafe는 이를 "비구조화된 상태가 들어오고, 확률적 결정을 타입으로 처리한다"로 요약합니다. 각 결정은 확률과 신뢰도 수준도 반환하며, 개발자는 임계값을 설정할 수 있습니다: 높은 신뢰도에서는 자동 실행, 낮은 신뢰도에서는 수동 처리.
시스템 원은 기계 고유 AI 대상입니다
System One이라는 이름은 'System 1'(빠른 판단력)이라는 개념에서 유래했습니다. TypeSafe는 채팅 모델이 주로 인간-AI 통신에 최적화되어 있으며, 소프트웨어 자동화에 진정으로 필요한 것은 아름다운 텍스트가 아니라 분류, 라우팅, 점수 매김, 추출, 분기 결정이라고 판단합니다.
따라서 Jev는 AI 기능을 갖춘 함수 호출에 더 가깝습니다. TypeSafe가 자체 개발한 RLCD(보정 의사결정을 위한 강화 학습) 훈련 방법을 사용하여 확률을 실제 정확도와 더 잘 맞추는 것을 목표로 합니다.
속도와 비용이 가장 큰 판매 포인트입니다
OpenRouter는 현재 Jev 최신 버전과 Jev 1.13을 제공하며, 32K 컨텍스트를 지원하고 입력 가격은 백만 토큰당 $0.042이고, 출력은 별도로 청구되지 않습니다. OpenRouter는 라우팅 및 분류와 같은 내부 소프트웨어 의사결정 노드에 적합한 구조화된 의사결정 모델로 자리매김합니다.
TypeSafe의 내부 워크플로우 테스트에 따르면 Jev는 System One 유형 작업에서 최대 193.6배의 속도 향상과 444.6배의 비용 절감을 달성할 수 있습니다. 하지만 이 수치는 공급업체 기반 평가에서 나온 것이며, 팀은 일부 워크플로우와 테스트 방법에 편향이 있을 수 있음을 인정합니다.
JEV가 진정으로 흥미로운 이유는 저렴한 채팅 모델을 만드는 것이 아니라, "AI 모델은 언어를 생성해야 한다"는 기본 전제에 도전하는 것입니다. 전형화된 의사결정 모델이 안정적으로 운영 환경에 진입할 수 있다면, AI 응용 분야의 다음 경쟁 단계는 프롬프트 엔지니어링에서 코드 내에서 신뢰할 수 있는 의사결정 구성 요소를 모델로 만드는 것으로 이동할 수 있습니다.
