混沌からの彫刻芸術:拡散モデル — SMLD

「混沌から生まれる芸術の彫刻:拡散モデル — SMLD」

想像力は現実を創り出します…

安定拡散から生成された画像

前の記事では、拡散モデルの一般的な構造と非常に人気のあるカテゴリであるDenoising Diffusion Probabilistic Models(DDPM)について説明しました。今回は、拡散プロセスを定式化する完全に異なるが同等のアプローチを見てみましょう。このクラスのモデルはSMLDsと呼ばれ、後ほどより明確になるでしょう。

さあ、旅を始めましょう!

導入

これらのモデルの核心には、確率密度p(x)の(シュタイン)スコア関数である∇ₓlogp(x)があります。

この量は、高密度領域内のランダムサンプルx₀からサンプルxₙに向かう方向を提供します。このプロセスに使用されるアルゴリズムは、ランジュバンサンプリングアルゴリズムと呼ばれます。

DDPMが熱力学から影響を受けたように、SMLDsの基本的なアイデアは物理学に遡ることができます。特に、物理学ではランジュバンダイナミクスとして知られるランジュバンサンプリングは、フランスの物理学者ポール・ランジュバンによって開発された分子システムのダイナミクスの数学的モデリング手法です。

しかし話はここまでにして、この美しいアイデアの実際の数学を見てみましょう!

Score Matching via Langevin Dynamics

この拡散モデルのこのカテゴリの理論的な基礎は、「データ分布の勾配を推定することによる生成モデリング」という画期的な論文で確立されました。ランジュバンサンプリングアルゴリズムによれば、以下の反復プロセスを得ます:

ここで:

zₜ∼ N (0, I)ε > 0x₀∼ p(x₀)(事前分布)。

数学では、これはランジュバンマルコフチェインモンテカルロ(MCMC)として知られています。このプロセスにより、確率分布p(x)からスコア関数のみを使用してサンプリングが可能になります

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

人工知能

「コマンドバーの創設者兼CEO、ジェームズ・エバンスによるインタビューシリーズ」

ジェームズ・エバンズは、CommandBarの創設者兼CEOであり、製品、マーケティング、顧客チームを支援するために設計されたAIパ...

人工知能

ベイリー・カクスマー、ウォータールー大学の博士課程候補 - インタビューシリーズ

カツマー・ベイリーは、ウォータールー大学のコンピュータ科学学部の博士課程の候補者であり、アルバータ大学の新入教員です...

人工知能

「Ntropyの共同創設者兼CEO、ナレ・ヴァルダニアンについて - インタビューシリーズ」

「Ntropyの共同創設者兼CEOであるナレ・ヴァルダニアンは、超人的な精度で100ミリ秒以下で金融取引を解析することを可能にす...

人工知能

ジョナサン・ダムブロット、Cranium AIのCEO兼共同創設者- インタビューシリーズ

ジョナサン・ダムブロットは、Cranium AIのCEO兼共同創業者ですCranium AIは、サイバーセキュリティおよびデータサイエンスチ...

人工知能

ギル・ジェロン、Orca SecurityのCEO&共同創設者-インタビューシリーズ

ギル・ゲロンは、オルカ・セキュリティのCEO兼共同設立者ですギルは20年以上にわたりサイバーセキュリティ製品をリードし、提...

AIニュース

Q&A:ブラジルの政治、アマゾンの人権、AIについてのGabriela Sá Pessoaの見解

ブラジルの社会正義のジャーナリストは、MIT国際研究センターのフェローです