기본 사항

트랜스포머란 무엇인가요? 왜 거의 모든 대형 모델이 그 위에 만들어지는 걸까요?

트랜스포머는 신경망 아키텍처입니다. 이름이 중요해서가 아니라, '병렬 처리'와 '맥락 모델링'을 잘 수행하기 때문입니다. 오늘날 볼 수 있는 대부분의 대형 언어 모델은 이 모델이나 그 변형들과 떼려야 뗄 수 없습니다. 트랜스포머 이전에는 많은 모델들이 루프 구조에 더 ...