ScaleLong拡散モデル

中山大学などの研究チームが、ScaleLong拡散モデルを提案しました。これは、UNetのロングスキップ接続にスケーリング操作を行うことで、モデルの訓練を安定化させるものです。

彼らは、1/√2スケーリング操作が訓練を加速させる原理を解明し、LS法とCS法を用いて、モデル訓練における不安定性を効果的に軽減しました。

これらのシンプルで効果的な手法は、拡散モデルの安定性に重要な意味を持ちます。