Jetson AGX Thor는 휴머노이드 로봇과 피지컬 AI를 위해 NVIDIA가 만든 가장 강력한 Jetson 개발자 키트이며, 현재 가격은 5,499달러다. 3,499달러였던 출시 가격은 이미 과거가 되었다. 데스크톱에서 대규모 모델을 실행하는 워크스테이션으로 집에 들이려는 생각이라면 이 계산은 대개 맞지 않는다. 로봇에 모델을 탑재해 실제로 구동해야 한다면 진지하게 고려해 볼 만하다.
5,499달러로 얻는 것
이 개발자 키트의 연산 성능은 2,070 FP4 TFLOPS이며, 128GB 메모리를 갖추고 전력은 40~130W 사이에서 조절할 수 있다. Jetson T5000 모듈을 내장하고 있으며, 데스크톱에서 대규모 모델을 실행하는 것이 아니라 연산 능력을 로봇 안에 넣어 모델을 구동하기 위한 제품이다. 키트에는 1TB SSD가 포함되고 JetPack 7이 미리 설치되어 있으며, 대상 조작, 내비게이션, 복잡한 지시 수행 등 로봇 작업을 겨냥하고 로봇의 각종 센서를 연결하기 쉬운 고속 센서 인터페이스를 갖추고 있다.
문턱과 대가
Thor를 사려면 먼저 두 가지 문턱을 넘어야 한다. 첫째는 가격이다. 5,499달러는 출시 가격보다 2,000달러 비싸며, 이 차액을 예산에 반영해야 하고 옛 가격으로 계획을 세워서는 안 된다. 둘째는 구매 경로다. NVIDIA 제품 페이지에는 가격이 표시되어 있지 않고 파트너를 통해 구매하라고 안내되어 있어, 실제로는 유통업체에 견적을 문의하고 주문해야 한다. 게다가 로봇 인터페이스와 Arm 아키텍처는 배포 시나리오를 위해 준비된 것이므로, 데스크톱에서 모델만 실행하려는 사람은 쓰지 않을 부분에도 비용을 지불하게 되며, 전력과 발열도 로봇이나 엣지 기기의 조건에 맞춰 계획해야 한다.
맞는 사람, 맞지 않는 사람
Thor는 로봇, 비주얼 AI, 엣지 배포를 하는 개발자에게 맞는다. 모델과 시스템을 검증하기 위해 기계 안에 넣을 수 있는 고성능 개발 보드가 필요한 사람이다. 데스크톱에서 대규모 모델을 로컬로 실행하는 것만 생각하고, 바로 쓸 수 있는 워크스테이션 경험을 원하는 사람에게는 맞지 않는다. 같은 예산으로는 데스크톱 용도에 더 잘 맞는 선택지가 있다. 더 작은 후속 모듈을 기다리고 싶은 사람은 공식의 후속 소식을 지켜보는 것도 방법이다.
