DeepSeekV3.2FP8 양자화 및 텐서 병렬성

DeepSeek-V3.2 출시: 효율적인 추론과 범용 에이전트 역량, 그리고 적은 주의력으로 활용 가능

1. Abstract DeepSeek-V3.2는 V3.2-Exp를 기반으로 한 공식 출시 버전으로, 추론 효율성과 출력 길이 최적화에 중점을 두고, DSA 희소 주의 메커니즘을 활용해 장기 컨텍스트 성능을 향상시킵니다. DeepSeek-V3.2-Speciale는 극도의...