Search Results RAPIDS

Intel Sapphire Rapidsを使用してPyTorch Transformersを高速化する – パート2

最近の投稿では、第4世代のIntel Xeon CPU（コードネーム：Sapphire Rapids）とその新しいAdvanced Matrix Extensions（AMX）命令セットについて紹介しました。Amazon EC2上で動作するSapphire Rapidsサーバーのクラスタと、Intel Extension for PyTorchなどのIntelライブラリを組み合わせることで、スケールでの効率的な分散トレーニングを実現し、前世代のXeon（Ice Lake）に比べて8倍の高速化とほぼ線形スケーリングを達成する方法を紹介しました。この投稿では、推論に焦点を当てます。PyTorchで実装された人気のあるHuggingFaceトランスフォーマーと共に、Ice Lakeサーバーでの短いおよび長いNLPトークンシーケンスのパフォーマンスを測定します。そして、Sapphire RapidsサーバーとHugging Face Optimum Intelの最新バージョンを使用して同じことを行います。Hugging Face Optimum Intelは、Intelプラットフォームのハードウェアアクセラレーションに特化したオープンソースのライブラリです。さあ、始めましょう！ CPUベースの推論を検討すべき理由 CPUまたはGPUで深層学習の推論を実行するかどうかを決定する際には、いくつかの要素を考慮する必要があります。最も重要な要素は、モデルのサイズです。一般に、より大きなモデルはGPUによって提供される追加の計算能力からより多くの利益を得ることができますが、より小さいモデルはCPU上で効率的に実行することができます。…

RAPIDS：簡単にMLモデルを加速するためにGPUを使用する

はじめに人工知能（AI）がますます成長するにつれて、より高速かつ効率的な計算能力の需要が高まっています。機械学習（ML）モデルは計算量が多く、モデルのトレーニングには時間がかかることがあります。しかし、GPUの並列処理能力を使用することで、トレーニングプロセスを大幅に加速することができます。データサイエンティストはより速く反復し、より多くのモデルで実験し、より短い時間でより良い性能のモデルを構築することができます。使用できるライブラリはいくつかあります。今日は、GPUの知識がなくてもMLモデルの加速化にGPUを使用する簡単な解決策であるRAPIDSについて学びます。学習目標この記事では、以下のことについて学びます： RAPIDS.aiの概要 RAPIDS.aiに含まれるライブラリこれらのライブラリの使用方法インストールとシステム要件この記事は、Data Science Blogathonの一部として公開されました。 RAPIDS.AI RAPIDSは、GPU上で完全にデータサイエンスパイプラインを実行するためのオープンソースのソフトウェアライブラリとAPIのスイートです。RAPIDSは、最も人気のあるPyDataライブラリと一致する使い慣れたAPIを持ちながら、優れたパフォーマンスと速度を提供します。これは、NVIDIA CUDAとApache Arrowで開発されており、その非凡なパフォーマンスの理由です。 RAPIDS.AIはどのように動作するのですか？ RAPIDSは、GPUを使用した機械学習を利用してデータサイエンスおよび分析ワークフローのスピードを向上させます。GPU最適化されたコアデータフレームを持っており、データベースと機械学習アプリケーションの構築を支援し、Pythonに似た設計となっています。RAPIDSは、データサイエンスパイプラインを完全にGPU上で実行するためのライブラリのコレクションを提供します。これは、2017年にGPU Open Analytics Initiative（GoAI）と機械学習コミュニティのパートナーによって作成され、Apache Arrowのカラムメモリプラットフォームに基づいたGPUデータフレームを使用して、エンドツーエンドのデータサイエンスおよび分析ワークフローをGPU上で加速するためのものです。RAPIDSには、機械学習アルゴリズムと統合されるDataframe APIも含まれています。データの移動量を減らした高速データアクセス…

あちこち行って… RAPIDSの物語

このブログ投稿では、RapidsAI cuDFを使用して、十分なデータを取得するための課題と、バイアスがかかったデータセットによって課せられる制限について探求します

Machine learning

GPUを活用した特徴量エンジニアリングにおいてRAPIDS cuDFを使用する

Google Colabと統合し、データフレームの作成と特徴量エンジニアリングにおいて、cuDFにPandasを置き換えることでパフォーマンスを向上させる

Data science

「AIは詐欺検出にどのように使われていますか？」

西部劇にはガンスリンガー、銀行強盗、賞金が存在しましたが、今日のデジタルフロンティアではアイデンティティ盗難、クレジットカード詐欺、チャージバックが広まっています。金融詐欺による収益は、数十億ドル規模の犯罪企業となっています。詐欺師の手に渡る「生成AI」は、これをさらに収益化することを約束します。世界的には、2026年までにクレジットカードによる損失は430億ドルに達する見込みです。これはニルソン・レポートによるものです。金融詐欺は、ハッキングされたデータをダークウェブから収集してクレジットカードの盗難に利用するなど、さまざまな手法で行われます。「生成AI」を用いて個人情報をフィッシングする場合もあり、仮想通貨、デジタルウォレット、法定通貨間での資金洗浄も行われています。デジタルの裏世界にはさまざまな金融詐欺が潜んでいます。対応するために、金融サービス企業は詐欺検出にAIを活用しています。なぜなら、これらのデジタル犯罪の多くはリアルタイムで停止し、消費者や金融企業がすぐに損失を止める必要があるからです。では、詐欺検出にはAIはどのように活用されているのでしょうか？詐欺検出のためのAIは、顧客の行動と関連、アカウントのパターンや詐欺特性に合致する行動の異常を検出するために、複数の機械学習モデルを使用しています。生成AIは詐欺の共同パイロットとして活用できる金融サービスの多くはテキストと数字を扱うものです。生成AIや大規模言語モデル(LLMs)は、意味と文脈を学習する能力を持ち、新しいレベルの出力と生産性を約束するため、産業全体に破壊的な能力をもたらします。金融サービス企業は、生成AIを活用してより賢明かつ能力の高いチャットボットを開発し、詐欺検出を改善することができます。一方で、悪意のある者は巧妙な生成AIのプロンプトを使用してAIのガードレールを回避し、詐欺に利用することができます。また、LLMsは人間のような文章を生成することができ、詐欺師はタイプミスや文法の誤りのない文脈に沿ったメールを作成することができます。さまざまなバリエーションのフィッシングメールを素早く作成することができるため、生成AIは詐欺行為を実行するための優れた共同パイロットとなります。詐欺GPTなど、生成AIをサイバー犯罪に悪用するためのダークウェブツールもあります。生成AIは声認証セキュリティにおける金融被害にも悪用されることがあります。一部の銀行は声認証を使用してユーザーを認証しています。攻撃者がボイスサンプルを入手することができれば、ディープフェイク技術を使用して銀行の顧客の声をクローンすることができ、このシステムを破ろうとします。声データは、スパムの電話で集めることができます。チャットボットの詐欺は、LLMsやその他の技術を使用して人間の行動をシミュレートすることに対する懸念があります。これらはインポスター詐欺や金融詐欺に応用されるディープフェイクビデオと音声クローンのためのものです。米国連邦取引委員会はこの問題に対して懸念を表明しています。生成AIは不正使用と詐欺検出にどのように取り組んでいるのか？詐欺審査には強力な新しいツールがあります。マニュアル詐欺審査を担当する従業員は、ポリシードキュメントからの情報を活用するために、バックエンドでRAGを実行するLLMベースのアシスタントのサポートを受けることができます。これにより、詐欺事件がどのようなものかを迅速に判断し、プロセスを大幅に加速することができます。 LLMsは、顧客の次の取引を予測するために採用されており、支払い企業は事前にリスクを評価し、詐欺取引をブロックすることができます。生成AIはまた、トランザクション詐欺を撲滅するために精度を向上させ、レポートを生成し、調査を減らし、コンプライアンスリスクを軽減するのに役立ちます。不正防止のための生成AIの重要な応用例の1つとして、「合成データ」の生成があります。合成データは、詐欺検出モデルのトレーニングに使用するデータレコードの数を増やし、詐欺師が最新の手法を認識するための例のバラエティと洗練度を高めることができます。 NVIDIAは、生成AIを活用してワークフローを構築し、情報検索のために自然言語プロンプトを使用するチャットボットと仮想エージェントを作成するためのツールを提供しています。 NVIDIAのAIワークフローを活用することで、様々なユースケースに対して正確な応答を生成するためのエンタープライズグレードの機能を迅速に構築し、展開することができます。これには、ファウンデーションモデル、NVIDIA NeMoフレームワーク、NVIDIA Triton Inference Server、GPUアクセラレートベクトルデータベースが使用され、RAGによって強化されたチャットボットが展開されます。安全性に焦点を当てた産業では、悪用されにくいように生成AIを保護するための取り組みが行われています。NVIDIAはNeMoガードレールをリリースし、OpenAIのChatGPTなどのLLMsによって動作するインテリジェントアプリケーションが正確で適切、トピックに即して安全であることを確保するために役立てています。…

「『メジャーな第2波』をAIが探知、NVIDIAのCEOがiliadグループ幹部とのファイヤーサイドチャットで語る」というテキストです

新たなAIインフラストラクチャーの世代がスタートアップ企業を大いに後押しする予定だと、NVIDIAの創設者兼CEOであるジェンセン・ホアン氏が金曜日にiliadグループの副CEOオード・デュラン氏との会話の中で述べました。この後押しがまさにタイミングよく行われるのです。「私たちは現在、大きな第2の波を目の当たりにしています」とホアン氏は、パリで行われたScalewayのai-PULSEカンファレンスでのバーチャル登壇において、1,000人以上のオーディエンスの前で語りました。ホアン氏は、この力を推進する2つの要素を説明しました。まず、ヨーロッパや各国が主権を持ったAIを構築する必要性の認識があるとホアン氏は述べました。次に、ホアン氏は「AIの採用が異なる産業で行われている」と説明し、生成AIが世界中に広がっていると述べました。「ですので、私たちは言語におけるブレークスルーがデジタルバイオロジーや製造業、ロボットにおいても見られることを予想しています」とホアン氏は述べ、これによりヨーロッパのデジタルバイオロジーと医療産業において大きな機会が生まれる可能性があると指摘しました。「もちろん、ヨーロッパはいくつかの最大の産業製造会社の本拠地でもあります」とも述べました。フランスのAIリーダーシップへの賞賛デュランド氏は、ヨーロッパのAIエコシステム、特にフランスにおけるホアン氏の考えについて尋ねました。フランス政府が数百万ユーロをAIの研究開発に投資しているフランスにおけるAIに関して言及しつつ、「ヨーロッパは常にAIの専門知識に富んでいた」とホアン氏は述べ、NVIDIAがヨーロッパで4,000のスタートアップ企業と協力しており、そのうち400以上がフランスの企業であることを指摘しました。ミストラル、キュビットファーマシューティカルズ、プールサイドAIを挙げ、その例を示しました。「同時に、計算インフラストラクチャーを正しく進めていく必要があります」とホアン氏は述べました。ホアン氏は「これがScalewayがフランスおよびヨーロッパにおけるAIの発展に非常に重要な理由です」と述べました。ホアン氏はAIの地域的成長におけるデータの重要性を強調し、企業が地域固有のデータでAIをトレーニングする価値にますます気付いていることに触れました。各地域の独自の文化や産業のニュアンスを反映したAIシステムは、ヨーロッパやその他の地域で注目を集めています。 NVIDIAとScaleway：ヨーロッパのAI革命を牽引する iliadグループの子会社であるScalewayは、ヨーロッパにおける第2の波を立ち上げるためにその役割を果たしており、1,016のNVIDIA H100 Tensor Core GPUを搭載したAIスーパーコンピュータクラスタにアクセスするためのクラウドクレジットを提供しています。 Scalewayは地域のクラウドサービスプロバイダーとして、ヨーロッパのデータ保護法にアクセスとコンプライアンスを確保する主権的なインフラストラクチャーも提供しており、ヨーロッパに拠点を持つ企業にとって重要です。「NVIDIA Inceptionプログラム」の地域メンバーは、その開発支援を受けることができるだけでなく、「Scalewayマーケットプレイス」で「NVIDIA AI Enterpriseソフトウェア」にもアクセスできるとホアン氏は述べました。ソフトウェアには、「NVIDIA NeMoフレームワーク」とLLM（Large Language Models）の構築に使用する事前学習モデル、「加速データサイエンス用のNVIDIA RAPIDS」、推論を高速化する「NVIDIA…

「NVIDIAとScalewayがヨーロッパのスタートアップと企業の開発を加速」

欧州のスタートアップエコシステムは、生成AIのための高速計算力を強化しています。 NVIDIAとクラウドサービスプロバイダ（CSP）のScalewayは、欧州のスタートアップに対して大規模な言語モデル（LLMs）と生成AIの開発を加速させるためのGPU、NVIDIA AI Enterpriseソフトウェア、およびサービスへのアクセスを提供するために協力しています。フランスの通信サービスプロバイダiliad Groupの子会社であるScalewayは、クラウドクレジットを提供し、1,016のNVIDIA H100 Tensor Core GPUを搭載したAIスーパーコンピュータクラスタへのアクセスを提供しています。Scalewayは地域のCSPとして、EUのデータ保護法に準拠した主権インフラストラクチャを提供しており、欧州に展開するビジネスにとって重要なアクセスとコンプライアンスを保証しています。主権クラウド、生成AI クラウドコンピューティングでデータとメタデータの保存方法を規制する法律に準拠することは重要です。たとえば、欧州でビジネスを行う場合、米国の企業は外国の敵対者または組織からのデータへのアクセスを防ぐためにEUの主権に関する規制に準拠する必要があります。準拠しないと、データの脆弱性、金銭的なペナルティ、法的な結果が生じる可能性があります。 Scalewayのような地域のCSPは、主権インフラストラクチャを持つことで、企業が欧州でビジネスをするための戦略的な道を提供しています。Scalewayが運営するiliad Groupのデータセンターは、ヘルスケア、公共安全、ガバナンス、公共サービス活動などの重要な側面をカバーするコンプライアンス認証によって強化されています。主権加速計算の提供 NVIDIAは、Scalewayと協力してEUでの主権加速計算へのアクセスを拡大し、企業がAIアプリケーションを展開し、迅速にスケールアップすることを可能にしています。 NVIDIA Inceptionプログラムを通じて、ScalewayのNVIDIA加速インフラストラクチャの主権クラウドコンピューティング能力を既に利用しているスタートアップには、Hugging Faceなどが含まれます。 Inceptionは、技術的な指導、トレーニング、割引、ネットワーキングの機会を提供する無料のグローバルプログラムです。 NVIDIA InceptionのメンバーであるHugging Faceは、ニューヨークに拠点を置き、フランスでの運用も行っており、開発者がAIモデルを構築、展開、トレーニングするためのツールとリソースを提供しています。…

2024年に注目すべきAIを活用したヘルスケア業界のトップ8企業

2024年における人工知能（AI）が医療を変革する方法を、リーディングカンパニー8社が牽引する様子を探検してくださいAIが医療業界を変え続ける過程での最先端の革新に触れ、患者ケア、医用画像、病理学などでの画期的なイノベーションを発見してください

Tech

「NVIDIAの人工知能がOracle Cloud Marketplaceで利用可能に」

ジェネラティブAIモデルのトレーニングがさらに容易になりました。 NVIDIA DGX Cloud AIスーパーコンピューティングプラットフォームとNVIDIA AI Enterpriseソフトウェアは、Oracle Cloud Marketplaceで利用可能になりました。これにより、Oracle Cloud Infrastructureのお客様は、高性能なアクセラレーテッドコンピューティングとソフトウェアにアクセスし、数回のクリックで安全で安定したサポート付きの本番用AIを実行することが可能になります。業界初のこの追加により、エンドツーエンドの開発とOracle Cloud上での展開のための新たな機能がもたらされます。企業はOracle Cloud MarketplaceからDGX Cloudでモデルをトレーニングし、その後NVIDIA AI Enterpriseを使用してOCIでアプリケーションを展開することができます。 Oracle CloudとNVIDIAがAI時代への進出を支える世界中の数千の企業が、自社のビジネスを推進するアプリケーションにOCIを信頼しています。その顧客は、医療、科学研究、金融サービス、通信など、さまざまな業界のリーダーを含んでいます。 Oracle Cloud Marketplaceは、顧客に柔軟な利用モデルと簡単な請求を提供するソリューションのカタログです。DGX…

「VirtuSwapがAmazon SageMaker StudioのカスタムコンテナとAWS GPUインスタンスを使用して、Pandasベースの取引シミュレーションを加速する方法」

「この投稿は、VirtuSwapのディマ・ザドロジニーとフアド・ババエフとの共同執筆ですVirtuSwapは、ブロックチェーン上の資産の非中央集権型取引のための革新的なテクノロジーを開発しているスタートアップ企業ですVirtuSwapのテクノロジーは、直接のペアが存在しない資産のより効率的な取引を提供します直接のペアの不在により、コストのかかる間接的な取引が生じます...」

Learn more about Search Results RAPIDS