拡散モデルの技術を応用した高速テキスト生成手法DiffusionGemma

要点：DiffusionGemmaは、従来の逐次的なトークン生成ではなく、離散拡散モデルを用いてトークンブロックを並列的に精錬する新しい言語モデルです。自律回帰モデル特有の生成速度のボトルネックを解消することを目指しています。