「MLCommonsがAIモデルを実行するための新しいベンチマーク速度テストを公開しました」

MLCommonsがAIモデルの新しいベンチマーク速度テストを公開

月曜日に、AIベンチマークグループであるMLCommonsが、最高のハードウェアがAIモデルをどれだけ速く実行できるかを決定する新しいテストの結果を発表しました。Reutersによると、このテストのトップパフォーマーはNvidiaのチップでした。

このテストは、大規模な言語モデルを対象とし、競合するIntelのチップがベンチマーク結果で2位になりました。対象となるモデルベンチマークは、MLPerfベンチマークと呼ばれています。これはCNNの記事を要約することができる60億のパラメータを持つLLMに基づいています。

Nvidiaは、自社のフラッグシップチップ8個のビルドを使用してトップの座を獲得しました。しかし、このチップメーカーの巨大企業が市場を席巻しているため、そのパフォーマンスは驚きではありません。Nvidiaの加速コンピューティングマーケティングディレクター、デイブ・サルバトールは結果について、「私たちがボード全体でリーダーシップのパフォーマンスを提供していることが分かりますし、再び、すべてのワークロードでそのリーダーシップのパフォーマンスを提供していることが分かります」とコメントしています。

• 「Würstchenの紹介：画像生成のための高速拡散」
• LLMOps：ハミルトンとのプロダクションプロンプトエンジニアリングパターン
• 「今秋のAiXビジネスサミットの第一弾スピーカーを発表します」

2位はIntelでした。IntelはGaudi2チップを使用してランナーアップの座を獲得しました。これらのチップは、最近買収したHabanaという会社によって製造されています。この買収は2019年に行われ、そのチップはNvidiaのビルドよりも約10％遅かったです。

テスト中にGaudi2のパフォーマンスについて話す際、Habanaの最高執行責任者であるエイタン・メディナは「推論の結果について非常に誇りに思っています。Gaudi2の価格パフォーマンスの利点を示しています」と述べています。

IntelはReutersとのインタビューで、自社のビルドがNvidiaのものよりも安価であることにコメントしました。彼らの主張によると、その価格は競合他社の前世代の100システムとほぼ同じです。しかし、ハードウェアをテストするのはIntelとNvidiaだけではありませんでした。

テスト中、Googleは自社のチップビルドをプレビューしました。これは8月に発表されましたが、半導体業界は、わずかな数の名前によって支配されているにもかかわらず、いくつかの新興の競合他社を持っていることを示しています。これは、市場シェアが二桁の成長を見せると予想されるため、理にかなっています。

Fortune Business Insightsによると、半導体の市場シェアは2029年までに1兆ドルを超える可能性があります。これは、新しい電子デバイスへの需要、AIパワードツール、IoT技術の成長などによって推進されています。

 

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!