Search Results 凸

ゲーム業界の皆様へ！もう奇妙な鏡は不要です、Mirror-NeRFが登場しました！

NeRF（ニューラル・ラディアンス・フィールド）は、RNNとCNNの組み合わせを使用して、形状、材質、テクスチャなどの物体の物理的特性を捉えます。異なる照明条件下で物体のリアルなイメージを生成することができます。高解像度のイメージを生成する能力により、医学、ロボット工学、エンターテイメントなどで非常に有用であることが証明されています。鏡が現実世界に普遍的に存在する場面の3D再構築とレンダリングは、長年の課題でした。NeRFを使用した鏡の再構築の不一致に対処するため、浙江大学の研究者たちは、ミラー-NeRFを紹介しています。ミラー-NeRFは、ミラー内の反射を正しくレンダリングするために、反射確率を提出し、Whitted Ray Tracingの光輸送モデルに従って光線を追跡することにより、統一された放射輝度場における反射を実現します。 NeRF、RefNeRF、NeRFReNの3つの方法は、以前に学習した反射を補完することで、新しい視点からミラーの反射を生成しました。ただし、訓練中に見たことのない反射を信頼性を持って推測することや、シーンに新たに導入されたアイテムやミラーに対して反射を合成することには制約があります。新しく導入されたミラー-NeRF技術は、物理的なレイトレーシングをニューラルレンダリングプロセスに統合することにより、ミラー内の反射を正確に描画し、さまざまなシーンの変更アプリケーションに役立つことができます。合計で5つの合成データセットと4つの実データセットが作成され、ピーク信号対雑音比（PSNR）、構造類似性指数（SSIM）、学習済み知覚画像パッチ類似度（LPIPS）のメトリックを用いた新しい視点合成の定量的比較が行われました。ミラーの凹凸した表面が反射の品質に大きな影響を与えるため、最適化プロセスにはいくつかの正則化項も導入されました。すべての正則化項を有効にした場合、最も高い画像品質でミラー内の正確な反射を得ることに成功しました。研究結果は、NeRF、Ref-NeRF、NeRFReNが、色に高周波変動があるオブジェクトの反射を生成するのに苦労していることを示しています。例えば、ミーティングルームのミラーの歪んだ掛け絵、オフィスとラウンジのミラーのぼやけたカーテン、衣料品店のミラーの「曇った」洋服などです。一方、新しい手法は反射された光線を追跡することで、オブジェクトの詳細な反射をレンダリングします。ミラーを使った作業には大きな進展がありますが、まだ屈折をフレームワークに組み込むことはできていません。結論として、このブレークスルーはゲームおよび映画業界に新たな可能性を約束しています。アーティストは、複雑なビジュアル効果を作成し、ミラー操作を利用したり、例えばミラー内の反射を異なるシーンで置き換えたりすることを望むかもしれません。マルチビューの一貫性を持ったミラー内の新しいシーンのフォトリアリスティックなビューを合成することができます。

「カオスから秩序へ：データクラスタリングを活用した意思決定の向上」

「オンラインストアは、購買パターン、購入日、年齢、収入などの要素に基づいて顧客をクラスタリングするために、この方法を使用していますこれにより、ストアは自身の顧客層を理解することができます…」

学習率のチューニングにうんざりしていますか？DoGに会ってみてください：堅牢な理論的保証に裏打ちされたシンプルでパラメータフリーの最適化手法

テルアビブ大学の研究者は、学習率パラメータを必要とせず、経験的な量のみに依存する調整フリーの動的SGDステップサイズ公式である「Distance over Gradients（DoG）」を提案しています。彼らは理論的に、DoG公式のわずかな変動が局所的にバウンドした確率的勾配の収束をもたらすことを示しています。確率的プロセスには最適化されたパラメータが必要であり、学習率は依然として困難です。従来の成功した手法には、先行研究から適切な学習率を選択する方法が含まれます。適応的勾配法のような手法では、学習率パラメータを調整する必要があります。パラメータフリーの最適化では、問題の事前知識なしにほぼ最適な収束率を達成するためにアルゴリズムが設計されています。テルアビブ大学の研究者は、CarmonとHinderの重要な知見を取り入れ、パラメータフリーのステップサイズスケジュールを開発しました。彼らはDoGを反復することで、DoGが対数的な収束率を達成する確率が高いことを示しています。ただし、DoGは常に安定しているわけではありません。その反復は最適化から遠ざかることもあります。そこで、彼らはDoGの変種である「T-DoG」を使用し、ステップサイズを対数的な因子で小さくします。これにより、収束が保証される高い確率を得ます。彼らの結果は、SGDと比較して、コサインステップサイズスケジュールとチューニングベースの学習を使用する場合、DoGは稀に相対誤差の改善率が5%を超えることはほとんどありませんが、凸問題の場合、誤差の相対差は1%以下であり、驚くべきことです。彼らの理論はまた、DoGが感度の広範な範囲で一貫して実行されることを予測しています。研究者はまた、近代的な自然言語理解（NLU）におけるDoGの効率をテストするために、調整されたトランスフォーマーランゲージモデルを使用しました。研究者はまた、下流タスクとしてImageNetを使用した主なファインチューニングテストベッドで限定的な実験を行いました。これらはスケールが大きくなるにつれてチューニングがよりコストがかかります。彼らはCLIPモデルをファインチューニングし、それをDoGとL-DoGと比較しました。両方のアルゴリズムは著しく悪い結果を示しました。これは反復予算が不十分なためです。研究者は、多項式平均化を使用してモデルをゼロからトレーニングする実験も行いました。DoGは、適応勾配法と比較して、運動量0.9と学習率0.1の条件で優れたパフォーマンスを発揮します。他のチューニングフリーメソッドと比較して、DoGとL-DoGはほとんどのタスクでより優れたパフォーマンスを提供します。 DoGの結果は有望ですが、これらのアルゴリズムにはさらなる追加作業が必要です。運動量、事前パラメータ学習率、学習率のアニーリングなど、確立された技術をDoGと組み合わせる必要があります。これは理論的にも実験的にも困難です。彼らの実験は、バッチ正規化との関連性を示唆しており、頑健なトレーニング方法にもつながる可能性があります。最後に、彼らの理論と実験は、DoGが現在の学習率チューニングに費やされている膨大な計算を、ほぼパフォーマンスにコストをかけずに節約する可能性を示唆しています。

「ICML 2023でのGoogle」

Cat Armatoさんによる投稿、Googleのプログラムマネージャー Googleは、言語、音楽、視覚処理、アルゴリズム開発などの領域で、機械学習（ML）の研究に積極的に取り組んでいます。私たちはMLシステムを構築し、言語、音楽、視覚処理、アルゴリズム開発など、さまざまな分野の深い科学的および技術的な課題を解決しています。私たちは、ツールやデータセットのオープンソース化、研究成果の公開、学会への積極的な参加を通じて、より協力的なエコシステムを広範なML研究コミュニティと構築することを目指しています。 Googleは、40回目の国際機械学習会議（ICML 2023）のダイヤモンドスポンサーとして誇りに思っています。この年次の一流学会は、この週にハワイのホノルルで開催されています。ML研究のリーダーであるGoogleは、今年の学会で120以上の採択論文を持ち、ワークショップやチュートリアルに積極的に参加しています。Googleは、LatinX in AIとWomen in Machine Learningの両ワークショップのプラチナスポンサーでもあることを誇りに思っています。私たちは、広範なML研究コミュニティとのパートナーシップを拡大し、私たちの幅広いML研究の一部を共有することを楽しみにしています。 ICML 2023に登録しましたか？私たちは、Googleブースを訪れて、この分野で最も興味深い課題の一部を解決するために行われるエキサイティングな取り組み、創造性、楽しさについてさらに詳しく知ることを願っています。 GoogleAIのTwitterアカウントを訪れて、Googleブースの活動（デモやQ&Aセッションなど）について詳しく知ることができます。Google DeepMindのブログでは、ICML 2023での技術的な活動について学ぶことができます。以下をご覧いただき、ICML 2023で発表されるGoogleの研究についてさらに詳しくお知りください（Googleの関連性は太字で表示されます）。理事会および組織委員会理事会メンバーには、Corinna Cortes、Hugo Larochelleが含まれます。チュートリアルの議長には、Hanie Sedghiが含まれます。 Google…

スタンフォード大学の研究者が、言語モデルの事前トレーニングのための拡張可能な二次最適化手法であるSophiaを紹介しました

言語モデルのトレーニングには高い初期コストがかかるため、最適化プロセスの非自明な改善は、トレーニングプロセスの完了に必要な時間とお金を劇的に削減するでしょう。Adamとその派生物は長い間最先端の技術でしたが、2次（ヘシアンベース）の最適化アルゴリズムは、ステップごとのオーバーヘッドが大きいため、ほとんど使用されていませんでした。研究者によって提案された2次順序クリップストキャスティック最適化アルゴリズムSophiaでは、軽量な対角ヘシアンの見積もりが2次最適化の事前条件として提案されています。SophiaはAdamよりも2倍速くLLMを解決できる新しい最適化アルゴリズムです。アップデートの後に要素ごとのクリップが行われ、それは勾配の平均を取り、推定ヘシアンの平均で除算することによって見つかります。クリッピングは最悪のケースのアップデートのサイズを制限し、軌跡の非凸性とヘシアンの急速な変化の影響を軽減します。いくつかの新しいコードを追加することで、$2Mの予算を$1Mの範囲まで削減することができるかもしれません（スケーリングの法則が適用されると仮定）。平均のステップごとの時間とメモリのオーバーヘッドは低く、Sophiaは数億2500万から7億7000万のサイズのGPT-2モデルで言語をモデリングする際に、ステップ数、総計算量、壁時計の時間の面でAdamの速度を2倍にします。研究者は、Sophiaが言語モデリングタスクの基礎となるパラメータの変動に対応できることを示しています。ランタイムの制約は損失の条件数に依存しません。主な特徴 SophiaはPyTorchで簡単に実装できます。グラジェーションの前に対角ヘシアンの軽量な推定を事前条件として必要とします（最初の画像の疑似コードを参照）。 Sophiaは予練状態の安定性にも役立ちます。AdamやLionと比べて、勾配クリッピングがあまり頻繁に起こりません。また、焦点温度がレイヤーインデックスに応じて変化する再パラメータ化トリックは不要です。 Sophiaは、鋭いサイズ（大きなヘシアン）の更新を平坦な次元（小さなヘシアン）よりも重くペナルティを与えることで、すべてのパラメータ次元で一貫した損失の減少を確保します。2次元空間では、Adamは収束が遅くなります。この取り組みの重要な側面これは、限られたリソースでも、学術界がLLMの事前トレーニングを調査し、新しい効果的なアルゴリズムを開発できることを示しています。最適化の前の授業の内容を再確認するだけでなく、研究者は研究プロセス全体で理論的な推論を広範に利用しました。明日リリース予定のコードでは、研究者は一般的に受け入れられているLRの定義のわずかに変更されたバージョンを使用しました。タイピングには便利ですが、論文のLRの定義はコンピュータコードには向いていないかもしれません。

「GPT-4の能力と限界を探索する」

「GPT-4の公開：データサイエンスへの影響を解読し、その強みと限界を探る」

Artificial Intelligence

化学プロセス開発のためのモデルフリー強化学習

「プロセス開発、設計、最適化、制御は、化学工学やプロセス工学の主な業務の一部です具体的には、最適なレシピや適切な…」

デザインスピードがリードを取る：Trek BicycleはNVIDIA GPUを使用して開発された自転車でツール・ド・フランスに参戦する

NVIDIA RTXは、デザインに新たなサイクルをもたらしています。Trek Bicycleは、GPUを使用してデザインコンセプトを具現化しています。世界最大の自転車メーカーの一つであるウィスコンシン州に本社を置く同社は、最高品質の職人技を持つ自転車を作り出すことを目指しています。新たなパートナーである国際小売チェーンのLidlと共同で、Trek Bicycleはサイクリングチームも所有しており、現在はLidl-Trekと呼ばれています。このチームは、Trek BicycleのフラッグシップラインナップであるEmonda、Madone、Speed Conceptを使用して、年次のツール・ド・フランスステージレースに出場しています。チームの多くのアクセサリーや装備、例えばホイールやロードレースヘルメットも、Trekで設計されました。自転車のデザインには複雑な物理学が関与しており、主な課題は空力効率と快適性、走行品質のバランスを取ることです。この課題に対処するために、TrekのチームはNVIDIA A100 Tensor Core GPUを使用して高精度の計算流体力学（CFD）シミュレーションを実行し、快適に乗れて滑らかに操作できる自転車の空力性能において新たな基準を確立しています。デザイナーやエンジニアは、Dell PrecisionワークステーションでNVIDIA RTXテクノロジーを使用してワークフローをさらに向上させています。これには、NVIDIA RTX A5500 GPUを搭載したDell Precision 7920や、RTX A6000 GPUを搭載したデュアルのDell Precision 7920も含まれています。…

大規模データ分析のエンジンとしてのゲーム理論

現代のAIシステムは、画像内のオブジェクトを認識したり、タンパク質の3D構造を予測したりするタスクに取り組む際、熱心な学生が試験の準備をするようなアプローチを取ります多くの例題に基づいてトレーニングを行うことで、彼らは時間とともにミスを最小限に抑え、成功を達成しますしかし、これは孤独な取り組みであり、既知の学習の形態の一つに過ぎません学習はまた、他の人々との相互作用や遊びによっても行われます非常に複雑な問題を一人で解決できる個人は稀です問題解決をゲームのような特性で行うことにより、以前のDeepMindの取り組みではAIエージェントがCapture the Flagをプレイしたり、Starcraftでグランドマスターレベルを達成したりすることが可能になりましたこれは、ゲーム理論に基づいたこのような視点が他の基本的な機械学習の問題を解決するのに役立つのではないかと考えさせられます

research

ロボット用の物理シミュレータを公開する

歩く時、足が地面に触れます書く時、指がペンに触れます物理的な接触が世界との相互作用を可能にしますしかし、このような普通の出来事でも、接触は驚くほど複雑な現象です2つの物体の界面で微小なスケールで起こる接触は、柔らかい場合もあれば硬い場合もあり、弾力的な場合もあればスポンジ状の場合もあり、滑りやすい場合もあれば粘り気のある場合もあります私たちの指先には4つの異なるタイプの触覚センサーがあるのも不思議ではありませんこの微妙な複雑さが、ロボット研究の重要な要素である物理的接触のシミュレーションを難しい課題にしています

Company

Learn more about Search Results 凸 - Page 3