Search Results Databricks

「NVIDIAのグレース・ホッパー・スーパーチップがMLPerfの推論ベンチマークを席巻する」

MLPerf業界ベンチマークに初登場したNVIDIA GH200 Grace Hopperスーパーチップは、すべてのデータセンターインファレンステストを実行し、NVIDIA H100 Tensor Core GPUのリーディングパフォーマンスを拡張しました。全体的な結果は、NVIDIA AIプラットフォームの卓越したパフォーマンスと多機能性を示しており、クラウドからネットワークのエッジまでの幅広い領域で活躍しています。別途、NVIDIAは性能、エネルギー効率、総所有コストの向上をユーザーにもたらすインファレンスソフトウェアを発表しました。 GH200スーパーチップがMLPerfで輝く GH200は、Hopper GPUとGrace CPUを1つのスーパーチップに結合しています。この組み合わせにより、より多くのメモリ、帯域幅、およびCPUとGPUの間で自動的に電力を切り替えてパフォーマンスを最適化する能力が提供されます。また、8つのH100 GPUを搭載したNVIDIA HGX H100システムは、今回のMLPerfインファレンステストのすべての項目で最も高いスループットを実現しました。 Grace HopperスーパーチップとH100 GPUは、コンピュータビジョン、音声認識、医療画像などのMLPerfのデータセンターテスト全般でリードし、推薦システムや生成AIにおける大規模言語モデル（LLM）など、より要求の厳しいユースケースでも優れたパフォーマンスを発揮しました。全体的に、これらの結果は、2018年のMLPerfベンチマークの開始以来、NVIDIAがAIトレーニングとインファレンスのパフォーマンスリーダーシップを証明し続ける記録を続けています。最新のMLPerfラウンドでは、推薦システムのテストが更新され、AIモデルのサイズの大まかな指標である6兆パラメータを持つGPT-Jの最初のインファレンスベンチマークが実施されました。…

「なぜデータパイプラインには閉ループフィードバック制御が必要なのか」

クラウド上でデータチームがスケールアップするにつれて、データプラットフォームチームは、彼らが責任を持つワークロードがビジネス目標を満たしていることを確保する必要がありますデータエンジニアが数十人いる規模での実施...

「アフリカと中東で5人の生成型AIイノベーターに会おう」

起業家たちは、西アフリカの西海岸からアラビア砂漠の東端まで、生成的AIを育てています。 Gen AIは、コーヒ・ゲンフィとニー・オサエが15年前にガーナの首都アクラで高校で出会って以来、孵化し続けている大きな計画の最新バージョンです。「私たちはここ数年、最新のAIの波を見てきました」とオサエは言います。彼は大学で機械学習に情熱を抱き、ソフトウェアエンジニアとなりました。スタートアップMazzumaのニー・オサエ（左）とコーヒ・ゲンフィそこで、昨年末、彼らは既に1億5,000万ドル以上の取引を処理しているモバイル決済スタートアップのMazzumaを拡大し、MazzumaGPTを追加しました。この大型言語モデル(LLM)は、2つの人気のあるブロックチェーン言語でトレーニングされており、開発者が迅速にスマートコントラクトの草案を作成するのに役立ちます。国際データ企業が来年には190億ドルに達すると予測しているWeb3市場です。数千のヒット LLMの初月には、1750億のパラメータを持つモデルが70か国から400人の開発者によって使用されました。パラメータはモデルのサイズと強度の目安です。 https://blogs.nvidia.com/wp-content/uploads/2023/08/MazzumaGPT-Chainlink.mp4 これは、2018年にアフリカのトップ30の起業家のリストに入った二人にとって最新の成功です。「成長率が高く、人口が多いため、この地域には大きな機会があります」とゲンフィは言います。彼は19歳の時に最初の会社を始めました。それはAppleデバイスの転売業でした。オサエは、ガーナAI協会の創設者兼会長としてその可能性を育てています。「私たちは他の地域よりも進歩を飛び越える軌道に乗っていると思います」と彼は言います。 LLMはアラビア語を話す約2年前、北東に6,000マイル離れた場所で、もう一組の起業家がドバイのペルシャ湾のエミレートで生成的AIビジネスを立ち上げました。ドバイには世界最高のビルであるブルジュ・ハリファがあります。ヤコフ・リブシッツは、AI研究者であるエリ・ブラギンスキーが友人の家族のつながりで持ちかけたMetaDialogのアイデアを持っていました。このスタートアップは、アラビア語と英語の両方をサポートする最初のLLMを構築しました。これは世界最大のアラビア語/英語データセットの1つでトレーニングされた70億のパラメータを持っています。「私たちはそれをBabyと呼んでいます。それに誇りを持っており、現在はさらに大きな400億パラメータのモデルを構築しています」とブラギンスキーは言います。 https://blogs.nvidia.com/wp-content/uploads/2023/08/MetaDialog-Baby-demo-final.mp4 「私たちのBaby LLMは現在、この地域で最大の政府に統合されており、それを使用したいと考えている他の3つの政府とも話し合っています」とリブシッツは言います。 13平方マイルに3,000万人以上の人々が暮らすドバイは、地域の活気ある拠点です。「中東の政府がAIや先進技術について考える方法は非常に大胆です。彼らは速く進みたいので、異なる言語でカスタムモデルをトレーニングし、GITEXカンファレンスでそれらを発表する予定です」とリブシッツは言います。彼はロシア、イスラエル、アメリカに住んでからドバイに移りました。 2月、サウジアラビアは国の経済を多様化するために24億ドルのスタートアップ資金を発表しました。企業はカスタムLLMを求めています…