拡散言語モデル

拡散LLMとは何ですか? なぜいつもトランスフォーマーの自己回帰的な路線に挑戦するために使われるのか

拡散LLMは、「拡散モデル」の核心的な考え方を言語モデルに移し、従来の自己回帰モデルのように1トークンずつ書き込むのではなく、徐々にノイズ除去と補正の方法でテキストを生成するものと理解できます。 最近話題になっているのは、Transformerの路線を完全に置き換えたからではなく、業界が他のテキスト...