GPU 세대부터 컴퓨트 공급까지, 엔비디아의 AI 행보를 칩·추론 최적화·클라우드 협력으로 따라간다.
2026년 8월 21일, RadixArk SGLang 팀과 Ant Ling 인프라 팀은 LMSYS 공식 블로그를 통해 Ling-3.0-flash의 단일 요청 디코딩 최적화 결과를 발표했습니다. 4개의 NVIDIA Blackwell GPU, TP4, bf16, 동시성이 ...
C ur s or 官方称，这项底层优化带来 1.84 倍推理吞吐提升，同时让输出结果更接近 FP32 参考值;相关改进也已用于 Composer 的训练流程，以加快模型迭代和版本发布。 C urs or 는 Mo E 의 디 코 딩 을 다시 작성 했습니다 이 업데이트 의 핵심 은 단순히 모...
구글과의 협력과 업계 내 경쟁 환경에 대해 언급하며, NVIDIA는 인공지능 분야에서 구글의 진전에 대해 기쁘게 생각하며, 앞으로도 구글에 관련 컴퓨팅파워 제품과 플랫폼 지원을 계속 제공할 것이라고 강조했습니다. NVIDIA는 자사 플랫폼이 현재 생성형 AI 물결에서 ...
OpenAI와 NVIDIA는 OpenAI의 차세대 AI 인프라를 위해 수백만 개의 GPU로 구성된 최소 10GW 규모의 NVIDIA 시스템을 구축하기 위한 전략적 협력을 발표했습니다. 이 인프라는 후속 모델 학습 및 실행에 사용될 예정입니다. NVIDIA는 이를 지원하...
1. ChatRTX란 무엇인가요 ? 간단히 말해서 ChatRTX는 NVIDIA에서 출시한 기본 RAG 채팅 애플리케이션 으로 , 문서, 메모, 사진 및 기타 콘텐츠의 데이터베이스를 구축하고 대규모 언어 모델과 협력하여 답변을 검색하고 향상시킵니다. TensorRT-LL...
