AI 모델 평가
문항만 바꿔도 같은 모델의 순위가 몇 계단씩 움직입니다. 리더보드는 성적표가 아니라 출제자 시점에서 잘라낸 한 조각일 뿐입니다. 벤치마크 구성, 채점기 설계, 점수 부풀리기를 막는 방법을 다룹니다.
문항만 바꿔도 같은 모델의 순위가 몇 계단씩 움직입니다. 리더보드는 성적표가 아니라 출제자 시점에서 잘라낸 한 조각일 뿐입니다. 벤치마크 구성, 채점기 설계, 점수 부풀리기를 막는 방법을 다룹니다.
NVIDIA Kumo Tabular는 NVIDIA가 2026년 9월 29일 Hugging Face 공식 블로그를 통해 공개한 오픈 표 데이터 기반 모델로, 표 데이터의 분류·회귀 예측에 특화되어 있다. 내세우는 바는 명확하다. 레이블이 있는 표를 주면 한 번의 순전파로...
Databricks는 '신모델 출시'를 사흘 만에 결론 내는 파이프라인으로 만들었다. 출시 당일 1만2000명 전 직원이 사용할 수 있고, 사흘 뒤 실측 데이터로 정식 채택 여부를 결정한다. Databricks는 2026년 9월 28일 공식 블로그에 이 내부 프로세스를...
GPT-6 Luna(Max)가 에이전트 작업 1회당 비용을 5센트까지 낮췄다. 9월 28일 Arena 공식 계정은 이 경량 모델이 Agent Arena 순위에 진입해 23위를 차지했다고 발표했다. 순개선(net improvement)은 +1.6%로, 8000건의 실제 ...
Claude Opus 5.5(High)가 9월 28일 Agent Arena 순위에 공식 진입하며 데뷔와 동시에 2위를 차지했다. 순개선(net improvement) 점수는 +12.15%로, 같은 Anthropic의 Fable 5.1(Max)에만 뒤졌다. Anthrop...
Holo4가 등장했다. 2026년 9월 28일, 파리 AI 기업 H Company가 차세대 컴퓨터 조작 에이전트 모델 Holo4를 공개했다. 27B 밀집형과 35B-A3B 혼합 전문가(MoE) 두 가지 크기로, 가중치는 Hugging Face에 동시 공개됐으며(BF16...
Julia 1은 브라질의 작은 연구실 Supersonic Labs가 2026년 9월 26일에 공개한 의사결정 모델입니다. 파라미터 수는 1억 4,430만 개에 불과하며, CPU에서의 텍스트 분류와 라우팅을 위해 설계됐습니다. 가중치 파일은 550.5 MiB이며, 코드와...
Exa Agent Ultra는 AI 검색 기업 Exa가 2026년 9월 26일에 공개한 Agent API의 최상위 'effort(노력 수준)' 옵션입니다. effort 파라미터를 ultra로 설정하면 에이전트는 '끝까지 파헤쳐야 하는' 작업에 최대 연산 자원을 투입합니...
창업 3개월 차 Simate, 첫 피지컬 AI 모델로 RoboDojo 1위 차지 Simate가 기세 좋게 등장했다. 9월 26일 중국 테크 미디어 양자위(量子位) 보도에 따르면, 창업한 지 불과 3개월 된 Simate(Silicon Mate)가 첫 범용 피지컬 AI 시...