매개변수의 효율적인 미세 조정

LoRA의 미세 조정이란 무엇인가요? 왜 전용 모델을 이렇게 저렴한 비용으로 훈련시킬 수 있나요?

LoRA는 Low-Rank Adaptation의 약자로, 중국어로는 흔히 '低級適'(低級配)라고 불립니다. 이 방법은 매개변수를 미세 조정하는 데 매우 효율적인 방법으로, 대형 모델의 모든 매개변수를 직접 변경하는 대신, 특정 계층 옆에 더 작은 학습 가능한 행렬을 추...