「GoogleがCloud TPU v5pとAIハイパーコンピューターを発表：AI処理能力の飛躍」

「Google、Cloud TPU v5pとAIハイパーコンピューターを発表：AI処理能力の驚異的な進化」

Googleは、AIハイパーコンピュータと呼ばれる画期的なスーパーコンピューターアーキテクチャと共に、テンサープロセッシングユニットのリリースで波紋を広げました。これらの革新的なリリースは、リソース管理ツールのダイナミックワークロードスケジューラーとともに、組織のAIタスクの処理における重要な前進を示しています。

直近の11月にリリースされたv5eに継ぎ、Googleの最もパワフルなTPUであるCloud TPU v5pは、従来の設計とは異なり、性能志向のデザインを採用しており、処理能力の大幅な向上を約束しています。ポッドごとに8,960個のチップを装備し、チップ間のインターコネクションスピードは4,800 Gbpsを誇ります。このバージョンは、前のTPU v4と比べて倍のFLOPSと高帯域幅メモリ（HBM）の3倍の印象的な増加を提供します。

パフォーマンスへの注力が大きな成果をもたらし、Cloud TPU v5pは、大規模なLLMモデルのトレーニング時にTPU v4と比べて驚異的な2.8倍の速度向上を実証しています。さらに、第2世代のSparseCoresを活用することで、v5pは前任者に比べて組み込み密なモデルのトレーニング速度が1.9倍速くなります。

• 「素晴らしいAIアプリケーションのクイックでエレガントなデモを作成する」
• 「パリを拠点とするスタートアップであり、OpenAIの競合他社であるMistral AIの評価額は20億ドルです」
• 「ジェミニ発表ビデオでグーグルが誤解を招いていると非難される」

一方、AIハイパーコンピューターは、スーパーコンピューターアーキテクチャの革新的な存在となっています。最適化されたパフォーマンスハードウェア、オープンソースソフトウェア、主要な機械学習フレームワーク、そして適応的な消費モデルを組み合わせています。AIハイパーコンピューターは、単一のコンポーネントの補強ではなく、協力的なシステム設計を活用して、トレーニング、微調整、そしてサービスのドメイン全体でAIの効率と生産性を向上させています。

この高度なアーキテクチャは、超大規模なデータセンターインフラストラクチャをベースに、厳密に最適化された計算、ストレージ、ネットワークデザインを特徴としています。さらに、JAX、TensorFlow、PyTorchなどの機械学習フレームワークをサポートするオープンソースソフトウェアを介して関連するハードウェアへのアクセスも提供しています。この統合は、Multislice TrainingやMultihost Inferencingなどのソフトウェアと、Google Kubernetes Engine（GKE）やGoogle Compute Engineとの深い統合にも及びます。

AIハイパーコンピューターを特筆するのは、AIタスクに特化した柔軟な消費モデルです。革新的なダイナミックワークロードスケジューラーやCommitted Use Discounts（CUD）、オンデマンド、スポットなどの伝統的な消費モデルを導入しています。このリソース管理およびタスクスケジューリングプラットフォームは、Cloud TPUとNvidia GPUをサポートし、ユーザーの支出を最適化するために必要なすべてのアクセラレーターのスケジュールを効率化します。

このモデルでは、Flex Startオプションを使用すると、モデルの微調整、実験、短いトレーニングセッション、オフライン推論、バッチタスクに最適です。実行の準備としてGPUおよびTPUの容量を要求するための費用効果の高い手段を提供します。また、カレンダーモードでは、特定の開始時刻を予約することができ、トレーニングや実験的なタスクにおいて正確な開始時刻と7日または14日にわたる期間を必要とする場合に対応します。これらは、最大8週先まで購入可能です。

GoogleのCloud TPU v5p、AIハイパーコンピューター、そしてダイナミックワークロードスケジューラーの発表は、AIの処理能力の飛躍的な進歩を象徴し、AIタスクのパフォーマンス向上、最適化アーキテクチャ、柔軟な消費モデルの新時代を切り開くことを約束しています。これらのイノベーションは、様々な産業における画期的な進展をもたらすことを約束しています。

記事：Google Unveils Cloud TPU v5p and AI Hypercomputer: A Leap in AI Processing Power（MarkTechPost）

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!