「UTオースティン大学の研究者が、安定した拡散を用いたAI手法「PSLD」を紹介追加のトレーニングなしにすべての線形問題を解決する」
Researchers at UT Austin introduce AI method 'PSLD' using stable diffusion to solve all linear problems without additional training.
逆問題を解決するためには、2つのアプローチのカテゴリがあります。監督学習の手法では、復元モデルがタスクを完了するために訓練され、非監督学習の手法では、生成モデルが学習した事前知識を利用して復元プロセスを誘導します。
生成モデリングの重要な進歩として、拡散モデルの登場があります。拡散モデルの明白な有効性の結果、研究者は逆問題の解決の可能性を探求し始めました。拡散モデルを使用して(線形および非線形の)逆問題を効率的に解決するために、いくつかの近似アルゴリズムが開発されています。これらの手法では、事前学習済みの拡散モデルをデータ分布の柔軟な事前知識として使用します。
Stable Diffusionなどの最先端の基礎モデルは、Latent Diffusion Models(LDMs)によって駆動されています。これらのモデルは、画像、動画、オーディオ、医療のドメイン分布(MRIおよびタンパク質)など、さまざまなデータモダリティにわたるさまざまなアプリケーションを可能にしました。しかし、現在の逆問題解決アルゴリズムは、Latent Diffusion Modelsとは互換性がありません。逆問題に対しては、各タスクごとにベースモデル(Stable Diffusionなど)を使用するためにファインチューニングを行う必要があります。
- UCバークレーの研究者たちは、FastRLAPを提案していますこれは、深層強化学習(Deep RL)と自律練習を通じて高速運転を学ぶためのシステムです
- マサチューセッツ州ローウェル大学の研究者たちは、高ランクのトレーニングに低ランクの更新を使用する新しいAIメソッドであるReLoRAを提案しています
- オックスフォードの研究者たちは、「Farm3D」というAIフレームワークを提案していますこのフレームワークは、2D拡散を蒸留して学習し、ビデオゲームなどのリアルタイムアプリケーションで利用できる関節のある3Dアニマルを生成することができます
テキサス大学オースティン校の研究チームによる最近の研究では、事前学習済みのLatent Diffusion Modelsを使用して一般的な逆問題を解決するための最初のフレームワークを提案しています。追加の勾配更新ステップにより、デコーディング-エンコーディングマップが損失のないサンプルレイテントに向かうように拡散プロセスを誘導します。これはDPSの拡張のための彼らの核心概念です。彼らのアルゴリズムであるPosterior Sampling with Latent Diffusion(PSLD)は、広範な問題に対してアクセス可能な基礎モデルの力を利用して、ファインチューニングなしで従来の手法を上回りました。
研究者たちは、PSLDアプローチを最先端のDPSアルゴリズムと比較して、ランダムインペインティング、ボックスインペインティング、ノイズ除去、ガウシアンデブラー、モーションデブラー、任意のマスキング、およびスーパーレゾリューションなど、さまざまな画像の復元および強化タスクで評価しました。彼らの分析には、LAIONデータセットで訓練されたStable Diffusionが使用されました。結果は最先端のパフォーマンスを示しました。
研究者たちはまた、このデータセットとその基礎モデルの固有のバイアスによってアルゴリズムが無意識に影響を受ける可能性にも気付きました。提案された手法は、どのLDMにも互換性があります。研究チームは、これらの問題が改良されたデータセットで訓練された新しい基礎モデルによって解決されると考えています。また、非線形逆問題の解決に対して潜在ベースの基礎モデルを適用することはまだ調査されていないことを強調しています。アプローチがDPSの近似に基づいているため、これが一般化されることを期待しています。
We will continue to update VoAGI; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles
- コロンビア大学とDeepMindの研究者が、GPATというトランスフォーマーベースのモデルアーキテクチャを紹介しましたこのモデルは、各パーツの形状が目標の形状にどのように対応しているかを推測し、パーツのポーズを正確に予測します
- 大規模な生体分子動力学のためのディープラーニング:ハーバード大学の研究では、さまざまなシステム上で大規模で事前に学習されたアレグロモデルをスケーリングしています
- 「大規模言語モデルは本当にそのすべての層が必要なのか? このAI研究がモデルの効率を明らかにする:大規模言語モデルにおける必須コンポーネントの追求」
- 新しいAI研究がREVを紹介:AI研究における画期的な変革 – 自由文テキストの合理的な情報に関する新しい情報理論的指標の評価
- GoogleのAI研究者がPic2Wordを紹介:ゼロショット合成画像検索(ZS-CIR)への新しいアプローチ
- Google Researchが、凍結された大規模言語モデル(LLM)を用いたマルチモーダル生成のための自己符号化器(SPAE)を紹介します
- 「AIが家庭用ロボットの計画時間を半分に減らすのを手助けします」