混沌からの彫刻芸術:拡散モデル — SMLD

「混沌から生まれる芸術の彫刻:拡散モデル — SMLD」

想像力は現実を創り出します…

安定拡散から生成された画像

前の記事では、拡散モデルの一般的な構造と非常に人気のあるカテゴリであるDenoising Diffusion Probabilistic Models(DDPM)について説明しました。今回は、拡散プロセスを定式化する完全に異なるが同等のアプローチを見てみましょう。このクラスのモデルはSMLDsと呼ばれ、後ほどより明確になるでしょう。

さあ、旅を始めましょう!

導入

これらのモデルの核心には、確率密度p(x)の(シュタイン)スコア関数である∇ₓlogp(x)があります。

この量は、高密度領域内のランダムサンプルx₀からサンプルxₙに向かう方向を提供します。このプロセスに使用されるアルゴリズムは、ランジュバンサンプリングアルゴリズムと呼ばれます。

DDPMが熱力学から影響を受けたように、SMLDsの基本的なアイデアは物理学に遡ることができます。特に、物理学ではランジュバンダイナミクスとして知られるランジュバンサンプリングは、フランスの物理学者ポール・ランジュバンによって開発された分子システムのダイナミクスの数学的モデリング手法です。

しかし話はここまでにして、この美しいアイデアの実際の数学を見てみましょう!

Score Matching via Langevin Dynamics

この拡散モデルのこのカテゴリの理論的な基礎は、「データ分布の勾配を推定することによる生成モデリング」という画期的な論文で確立されました。ランジュバンサンプリングアルゴリズムによれば、以下の反復プロセスを得ます:

ここで:

zₜ∼ N (0, I)ε > 0x₀∼ p(x₀)(事前分布)。

数学では、これはランジュバンマルコフチェインモンテカルロ(MCMC)として知られています。このプロセスにより、確率分布p(x)からスコア関数のみを使用してサンプリングが可能になります

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

人工知能

「ジャスティン・マクギル、Content at Scaleの創設者兼CEO - インタビューシリーズ」

ジャスティンは2008年以来、起業家、イノベーター、マーケターとして活動しています彼は15年以上にわたりSEOマーケティングを...

人工知能

ジョシュ・フィースト、CogitoのCEO兼共同創業者 - インタビューシリーズ

ジョシュ・フィーストは、CogitoのCEO兼共同創業者であり、感情と会話AIを組み合わせた革新的なプラットフォームを提供するエ...

人工知能

「ElaiのCEO&共同創業者、Vitalii Romanchenkoについてのインタビューシリーズ」

ヴィタリー・ロマンチェンコは、ElaiのCEO兼共同創設者であり、マイク、カメラ、俳優、スタジオの必要なく、個人が一流のビデ...

人工知能

ディープAIの共同創業者兼CEO、ケビン・バラゴナ氏- インタビューシリーズ

ディープAIの創設者であるケビン・バラゴナは、10年以上の経験を持つプロのソフトウェアエンジニア兼製品開発者です彼の目標...

データサイエンス

「Adam Ross Nelsonによる自信のあるデータサイエンスについて」

データサイエンスの中で新たな分野が現れ、研究内容が理解しにくい場合は、専門家や先駆者と話すのが最善です最近、私たちは...

人工知能

ギル・ジェロン、Orca SecurityのCEO&共同創設者-インタビューシリーズ

ギル・ゲロンは、オルカ・セキュリティのCEO兼共同設立者ですギルは20年以上にわたりサイバーセキュリティ製品をリードし、提...