Search Results ( link

カスタムGPTの構築：教訓とヒント

去る2023年11月6日の火曜日、サム・アルトマン（OpenAIのCEO）は、自然言語を使用して個人専用のChatGPTを作成できるようにするGPTのリリースを発表しました多くの人々と同様に、私も興奮しました…

「新しいNVIDIA H100、H200 Tensor Core GPUインスタンスがMicrosoft Azureに導入され、AIワークロードを高速化します」

ナビディアは、最新のAIインフラストラクチャーを構築するためにマイクロソフトとの協力を続けています。マイクロソフトは、要求の厳しいAIワークロードを加速するために、Microsoft Azureに追加のH100ベースの仮想マシンを導入しています。本日のシアトルで開催されたIgniteカンファレンスで、マイクロソフトは、Azure向けの新しいNC H100 v5 VMシリーズを発表しました。これは、業界初のNVIDIA H100 NVL GPU搭載のクラウドインスタンスです。このオファリングは、NVIDIA NVLinkを介して接続された2枚のPCIeベースのH100 GPUを組み合わせ、AIコンピュートのほぼ4ペタフロップと188GBの高速HBM3メモリを提供します。NVIDIA H100 NVL GPUは、前世代よりもGPT-3 175Bで最大12倍のパフォーマンスを発揮し、推論およびメインストリームトレーニングワークロードに最適です。さらに、マイクロソフトは、来年にAzureフリートにNVIDIA H200 Tensor Core GPUを追加する計画を発表しました。これにより、大規模なモデルの推論に遅延を増やさずに対応することが可能となります。この新しいオファリングは、LLMsや生成AIモデルなど、最大のAIワークロードを加速するために特別に設計されています。 H200 GPUは、最新世代のHBM3eメモリを使用し、メモリ容量と帯域幅の両方で劇的な向上を実現しています。H100と比較して、この新しいGPUはHBM3eメモリを141GB提供し（1.8倍増加）、ピークメモリ帯域幅は4.8TB/s（1.4倍増加）です。クラウドコンピューティングが機密化される…