Search Results OPT

In this translation, Notes is translated to メモ (memo), CLIP remains as CLIP, Connecting is translated to 連結 (renketsu), Text is translated to テキスト (tekisuto), and Images is translated to 画像 (gazo).

上記論文の著者たちは、最小限またはほとんど監督を必要とせずに、さまざまなタスクに使用できる画像の良い表現（特徴）を生成することを目指しています画像によって生成された使い勝手の良い特徴...

黄さんの法則に留意する：エンジニアたちがどのように速度向上を進めているかを示すビデオ

話の中で、NVIDIAのチーフサイエンティストであるビル・ダリー氏が、モーアの法則時代後のコンピュータパフォーマンスの提供方法における大きな変革を説明しました。オンラインでご覧いただけます。彼は、新しいプロセッサは、新鮮な要素の発明と検証に工夫と努力が必要であり、チップとシステムエンジニアの毎年の集まりであるHot Chipsでの最近の基調講演で述べています。それは、エンジニアが本質的にはますます小型かつ高速なチップの物理に頼る一世代前とは根本的に異なります。 NVIDIA Researchのリーダーであるダリー氏が率いる300人以上のチームは、過去10年間に単一のGPUパフォーマンスでAI推論を1000倍向上させるのに貢献しました（以下のグラフを参照）。その驚異的な増加は、NVIDIAの創設者兼CEOであるジェンセン・ファン氏にちなんでIEEE Spectrumが最初に「ファンの法則」と名付け、後にウォールストリートジャーナルのコラムによって一般化されました。この進歩は、年々桁違いに成長している大規模な言語モデル（生成AIに使用される）の驚異的な上昇に対応したものです。「それは私たちにとってハードウェア業界でのペースメーカーとなっているものです」とダリー氏は述べました。彼の話の中で、ダリー氏は1000倍の利益をもたらした要素について詳細に説明しました。その中で最も大きなものである16倍の利益は、コンピュータが計算を行う際に使用する数値をよりシンプルに表現する方法を見つけることから生まれました。新しい数学最新のNVIDIA Hopperアーキテクチャーは、Transformer Engineを使用し、8ビットおよび16ビットの浮動小数点および整数演算の動的な組み合わせを行います。これは、今日の生成AIモデルのニーズに合わせてカスタマイズされています。ダリー氏は、新しい数学がもたらすパフォーマンスの向上とエネルギーの節約について詳細を示しました。別途、彼のチームは、GPUが自身の作業をどのように組織するかを伝える高度な命令を作成することによって12.5倍の飛躍を達成しました。これらの複雑なコマンドは、より少ないエネルギーでより多くの作業を実行するのに役立ちます。結果として、コンピュータは「専用アクセラレータと同じ効率性を持ちながら、GPUのすべてのプログラム可能性を保持することができる」と彼は述べました。さらに、NVIDIA Ampereアーキテクチャーには、AIモデルの重みを単純化する革新的な方法である構造的疎結合性が追加されました。この技術により、さらに2倍のパフォーマンス向上がもたらされ、将来的な進歩も約束されています。ダリー氏は、システム内のGPU間のNVLink相互接続とシステム間のNVIDIAネットワーキングが、単一のGPUパフォーマンスの1000倍の利益をもたらすことを説明しました。タダ飯はないただし、ダリー氏は、10年間にわたってNVIDIAが28nmから5nmの半導体ノードにGPUを移行したとしても、その技術は総利益のうち2.5倍しか占めていないと指摘しています。これは、コンピュータデザインがモーアの法則の下で一世代前に行われたときの大きな変化です。モーアの法則は、チップがますます小型かつ高速になるにつれ、パフォーマンスが2年ごとに倍増するという観察結果でした。…

驚愕のブレイクスルー：オープンエンドAIエージェントバルジャーが自律的に「マインクラフト」をプレイ

NVIDIAシニアAI科学者ジム・ファンにとって、ビデオゲームのMinecraftはオープンエンドのAIエージェントの研究において「完璧な原始スープ」となりました。最新のAI Podcastエピソードでは、ホストのノア・クラビッツが、大規模な言語モデルを使用してAIエージェントを作成する方法についてファンと対談しました。具体的には、Chat GPT-4を使用して構築されたAIボットであるVoyagerを作成するために使用しています。このVoyagerは、自律的にMinecraftをプレイすることができます。ファンによれば、AIエージェントは「積極的に行動を起こし、その後世界を知覚し、行動の結果を見て、自己を改善する」という特性を持っています。多くの現在のAIエージェントは、ゲームをできるだけ早くクリアするか、質問に答えるという特定の目標を達成するようにプログラムされています。彼らは特定の出力を目指して自律的に作業することができますが、より広範な意思決定の機構を欠いています。ファンは、「任意の自然言語のプロンプトによって、オープンエンドで創造的なことをする真にオープンエンドのエージェント」を持つことは可能かどうか疑問に思いました。しかし、この可能性をテストするための柔軟なプレイグラウンドが必要でした。彼は言います。「だから、私たちはMinecraftがオープンエンドのエージェントが出現するためのほぼ完璧な原始スープであることに気付いたのです。なぜなら、それは環境を非常にうまく設定しているからです」と。結局のところ、Minecraftはプレイヤーに生き残り、自由に探索するという具体的な目標を設定していません。それがファンのプロジェクトであるMineDojoの出発点となり、最終的にAIボットのVoyagerの作成につながりました。ファンは説明します。「Voyagerは、Chat GPT-4のパワーを活用してJavascriptでコードを書き、ゲーム内で実行します。GPT-4は出力を見て、JavaScriptのエラーや環境からのフィードバックがあれば、自己反映を行い、コードをデバッグしようとします」。このボットは失敗から学び、正しく実装されたプログラムをスキルライブラリに保存して将来の利用のために保持し、「生涯学習」を可能にします。ゲーム内では、Voyagerは必要に応じて環境に基づいて自律的に数時間探索を行い、モンスターと戦い、食べ物を見つけるためのスキルを開発しています。ファンは言います。「これらの行動はすべて、Voyagerのセットアップ、スキルライブラリ、およびコーディングメカニズムから発生したものです。これらの行動のいずれも事前にプログラムされていませんでした」。彼はその後、LLMの台頭と軌跡について一般的に話しました。彼はソフトウェア、ゲーム、ロボット工学などでの強力な応用と、AIの安全性に関するますます重要な議論を予想しています。ファンは、LLMに関与して働きたいと思っている人々に対して、「何かをやってみる」と勧めています。オンラインリソースを使用したり、初心者向けのCPUベースのAIモデルを試したりすることを意味します。 The AI PodcastNVIDIAのジム・ファンが大規模な言語モデルとその産業への影響について語る – Ep. 204 おすすめ記事 Jules…

The AI Podcast

「5つの手順でGoogle Cloud Platformを始める」

「アカウントのセットアップからモデルの展開まで、データサイエンスと機械学習のためのGoogle Cloud Platformの必須要素を、実践的なプロジェクトの例を交えて探索してください」

Data Engineering

「5つのステップでPyTorchを始めましょう」

このチュートリアルは、PyTorchとその高レベルのラッパー、PyTorch Lightningを使用した機械学習の詳細な紹介を提供しますこの記事では、インストールから高度なトピックまでの重要なステップをカバーし、実践的なアプローチでニューラルネットワークの構築とトレーニングを行う方法を強調して、Lightningを使用する利点を重視します