パラメータの効率的な微調整

LoRAのファインチューニングとは何ですか? なぜ専用モデルをこんなに低コストで訓練できるのでしょうか?

LoRAは「低階適応」の略で、中国語では一般的に「低級適」(低級配)と呼ばれます。 パラメータの微調整に非常に効率的な手法であり、大規模モデルのすべてのパラメータを直接変更する代わりに、特定の層の隣に小さな訓練可能な行列を追加することで、モデルが新しいタスクやスタイルを学習できるようにします。 コス...