Search Results GLaM

なぜGPUはAIに適しているのか

GPUは人工知能の希少な地球の金属、さらには金そのものとも呼ばれています。それは、今日の生成的AI時代において基盤となる存在であるためです。それは3つの技術的理由と数多くのストーリーによって説明され、それぞれの理由には多くの側面がありますが、大まかに言えば次のようなものです。 GPUは並列処理を使用します。 GPUシステムはスーパーコンピュータの高さにまでスケールアップします。 AIのためのGPUソフトウェアスタックは幅広く深いです。その結果、GPUはCPUよりも高速かつエネルギー効率が優れており、AIのトレーニングおよび推論においても優れたパフォーマンスを提供し、高速計算を使用するさまざまなアプリケーションにおいても利益をもたらします。スタンフォード大学のヒューマンセンタードAIグループの最近のレポートによれば、GPUのパフォーマンスは「2003年以来約7000倍」向上し、価格性能比は「5600倍」増加していると報告されています。 2023年のレポートは、GPUのパフォーマンスと価格性能の急激な上昇を捉えています。レポートはまた、AIの進展を測定し予測する独立系の研究グループであるエポックの分析も引用しています。「GPUは、機械学習ワークロードを高速化するための主要なコンピューティングプラットフォームであり、過去5年間のほとんど（もしくはすべて）の最大のモデルがGPU上でトレーニングされています… それにより、AIの最近の進歩に重要な貢献をしています」とエポックはサイトで述べています。また、米国政府のためにAI技術を評価した2020年の研究も同様の結論を導いています。「製造および運用コストを含めた場合、最先端のAIチップは生産性と運用コストをリーディングノードCPUよりも1〜3桁高いと予想されます」と述べています。「NVIDIAのGPUは、過去10年間にAI推論のパフォーマンスを1000倍向上させました」と同社の首席科学者であるビル・デーリー氏は、半導体およびシステムエンジニアの年次集会であるHot Chipsの基調講演で述べています。 ChatGPTがニュースを広める ChatGPTは、GPUがAIにとって優れたものであることを強力に示した例です。数千のNVIDIA GPUでトレーニングされ、実行される大規模な言語モデル（LLM）は、1億人以上の人々が利用する生成的AIサービスを提供しています。その2018年のリリース以来、AIの業界標準ベンチマークであるMLPerfは、NVIDIA GPUのトレーニングおよび推論のリーディングパフォーマンスを詳細に示しています。例えば、NVIDIA Grace Hopper Superchipsは最新の推論テストで圧倒的な成績を収めました。そのテスト以降にリリースされたNVIDIA TensorRT-LLM推論ソフトウェアは、パフォーマンスを最大8倍向上させ、エネルギー使用量と総所有コストを5倍以上削減します。実際、NVIDIA…

自分自身のレンズでウェルアーキテクチャなIDPソリューションを構築する – パート6：持続可能性

「インテリジェント文書処理（IDP）プロジェクトでは、光学式文字認識（OCR）と自然言語処理（NLP）を組み合わせて、文書を自動的に読み取り理解することが一般的です顧客はあらゆる業界でIDPワークロードをAWS上で実行し、KYCフォーム、税務書類、請求書、保険請求書、配送報告書、在庫報告書などのユースケースを自動化することでビジネス価値を提供しています[...]」

十代の夢：コンピュータ科学の専攻を志す高校生がメイク・ア・ウィッシュの訪問でNVIDIAの人生を体験する

多くのミーティング、電話、研究所の訪問が詰まったカレンダーは、多くの人にとっては典型的な仕事の一日のように思えるかもしれませんが、NVIDIAで働くことについて何が起こるかを体験することが最大の願いだったルカ・ロフランコにとっては夢が叶った瞬間でした。カナダのトロント近くの故郷からやって来た18歳のロフランコは、重篤な病気を持つ子供たちのために人生を変える願いを叶える非営利団体であるメイクア・ウイッシュの支援を受けて、サンタクララのキャンパスで一日過ごすことができました。この願いは、ホジキンリンパ腫を患っているロフランコのためのものであり、これはNVIDIAが過去10年間に参加した5番目の願いです。 NVIDIAチームは当日の予定を秘密にしておき、デモルームやロボット工学研究室の見学、大学採用チームとのチャット、自動運転車での乗車、NVIDIAの創設者兼CEOジェンセン・ホアンとのビデオ通話などでロフランコを驚かせました。コンピュータサイエンス専攻を目指す彼は、母親のカサンドラが共有するように「NVIDIAは彼のディズニーランドです」と言っています。 NVIDIAの自動車ガレージ長年のNVIDIAファン 8歳の時に最初のコンピュータサイエンスの夏キャンプに参加した後、ロフランコはAutodesk Mayaで3Dモデリング、Pythonでのプログラミング、そして3Dプリントを学びました。彼の興味は徐々にテクノロジーに広がり、すぐに自分自身のゲーミングマシンを組み立てるようになりました。彼曰く、すぐにNVIDIAがお気に入りのテクノロジ企業になり、実際にコンピュータ数値制御機械を使ってNVIDIAのロゴを木の一枚から彫り出しました。彼はゲームでNVIDIA GeForce RTX 3070やGeForce GTX 1080 Ti GPUを使用することを楽しんでいます。しかし、LofrancoがNVIDIAに引かれた最大の理由は、その製品ではなくそのカルチャーでした。「皆が同じ結果を見るために努力し、それを実現するために集まっています」と彼は言います。「すべてが協力のために設計されています」。 NVIDIAのギアを着たLofranco VIPエクスペリエンス Lofrancoが訪れる前に、NVIDIAチームは彼にお土産の箱を送りました。それにはフーディー、帽子、カスタムNVIDIAバッジが含まれていました。キャンパスに到着すると、NVIDIAのボランティアたちが彼を歓迎し、キャンパスツアーに連れて行きました。その後、医療、自動車、AI、クラウドサービスプロバイダ、大規模言語モデルに焦点を当てたNVIDIAチームとの会議がありました。次に、ロフランコの「メーカー」好奇心を満たすためにロボット工学研究室を訪れました。彼はNVIDIA DGX StationやNVIDIA…

NVIDIA Life

大規模な言語モデルをマスターするための包括的な資源リスト

大規模言語モデル（LLM）は、さまざまなアプリケーションの重要な一部となりましたこの記事では、LLMの世界に飛び込みたいと思う人々のための豊富な情報源のリストを提供しています

language models

ユレカ：大規模な言語モデルをコーディングすることによる人間レベルの報酬設計

近年、大型言語モデルの進化によって、これらのLLMフレームワークが連続的な高レベルの意思決定タスクのための意味的なプランナーとして優れている理由が驚くほど明らかになっていますしかし、開発者は依然として複雑な低レベルの操作タスクの学習にLLMフレームワークの全ての潜在能力を活用することに苦戦していると感じています現在の大型言語モデルには、効率性がありますが、[…]が必要です

『Generative AIがサイバーセキュリティを強化する3つの方法』

人間のアナリストは、サイバーセキュリティ攻撃の速度と複雑さに対して効果的に防御することができなくなっています。データの量が手作業でスクリーニングするには単に大きすぎます。ジェネラティブAIは、私たちの時代で最も変革的なツールであり、デジタルの柔術のようなものです。これにより、データの脅威が企業を圧倒する力を、彼らの防御を強化する力に変えることができます。ビジネスリーダーはこの機会を待ち望んでいるようです。最近の調査では、CEOたちはサイバーセキュリティを彼らのトップ3の懸念事項の一つとして挙げ、競争上の優位性を提供する主導技術としてジェネラティブAIを見ています。ジェネラティブAIはリスクと利益の両方をもたらします。以前のブログでは、エンタープライズAIのセキュリティ確保のプロセスを開始するための6つの手順を説明しました。以下はジェネラティブAIがサイバーセキュリティを強化する3つの方法です。開発者から始めるまず、開発者にセキュリティの共同パイロットを与えましょう。セキュリティは全員が関与するものですが、セキュリティの専門家ではない人もいます。そのため、これは最も戦略的な始まりの場所の一つです。セキュリティを強化する最善の方法は、開発者がソフトウェアを作成するフロントエンドです。セキュリティの専門家としてトレーニングされたAIパワードのアシスタントは、開発者が彼らのコードがセキュリティのベストプラクティスに従っていることを確認するのに役立ちます。 AIソフトウェアアシスタントは、以前に審査されたコードを入力することで毎日賢くなることができます。それは前の作業から学び、開発者をベストプラクティスにガイドするのに役立ちます。ユーザーに利益をもたらすため、NVIDIAはこのような共同パイロットやチャットボットを構築するワークフローを作成しています。この特定のワークフローは、NVIDIA NeMoからのコンポーネントを使用し、大規模な言語モデルの構築とカスタマイズのためのフレームワークです。ユーザーが独自のモデルをカスタマイズするか、商業サービスを使用するかに関係なく、セキュリティアシスタントはサイバーセキュリティにジェネラティブAIを適用するための最初のステップに過ぎません。脆弱性を分析するエージェント次に、ジェネラティブAIが既知のソフトウェア脆弱性の海を航海するのを助けましょう。いつでも企業は、既知の脆弱性を軽減するために何千ものパッチから選択する必要があります。それはすべてのコードが数十、数千の異なるソフトウェアブランチやオープンソースプロジェクトにルートがあるためです。脆弱性分析に特化したLLMは、会社が最初に実装すべきパッチを優先順位付けするのに役立ちます。それは、会社が使用しているソフトウェアライブラリや、対応している機能やAPIに関するポリシーを読み取るための特に強力なセキュリティアシスタントです。このコンセプトをテストするために、NVIDIAは脆弱性に対してソフトウェアコンテナを分析するためのパイプラインを構築しました。このエージェントは高い精度でパッチが必要なエリアを特定し、人間のアナリストの作業を最大4倍高速化しました。結論は明確です。脆弱性分析において、ジェネラティブAIを最初の応答者として従事させる時が来ています。データギャップを埋める最後に、ジェネラティブAIを利用して、サイバーセキュリティのデータギャップを埋めるためにLLMを使用しましょう。ユーザーはデータ侵害について情報を共有することは滅多にありません。それにより、攻撃を予測するのが困難になります。そこで登場するのがLLMです。ジェネラティブAIモデルは、これまでに見たことのない攻撃パターンをシミュレートするための合成データを作成できます。このような合成データは、トレーニングデータのギャップを埋めることもできますので、機械学習システムが攻撃に対してどのように防御するかを学ぶことができます。安全なシミュレーションを行う…

「Amazon SageMaker JumpStartを使用して、Generative AIとRAGを活用して安全なエンタープライズアプリケーションを構築する」

この投稿では、AWS Amplifyを使用してセキュアなエンタープライズアプリケーションを構築し、Amazon SageMaker JumpStart基盤モデル、Amazon SageMakerエンドポイント、およびAmazon OpenSearch Serviceを呼び出して、テキストからテキストまたはテキストから画像への変換、およびRetrieval Augmented Generation（RAG）の作成方法を説明しますこの投稿を参考にして、AWSサービスを使用してジェネレーティブAI領域のセキュアなエンタープライズアプリケーションを構築するために利用できます

学生と機関のためのChatGPTプラグインで学習を向上させる

イントロダクション ChatGPTは、最も高度な会話型AIモデルの一つとして急速に注目を集めており、多様なトピックにわたって人間らしいテキストを生成する能力でユーザーを魅了しています。無料版のChatGPTは人気がありますが、学生や機関向けのChatGPTプラグインを利用することで、ユーザーは自分の体験をカスタマイズし、ウェブを閲覧し、特定の産業や興味に合わせた専門知識モジュールにアクセスすることができます。 ChatGPTプラグインは、大学や機関で学生の教育体験を向上させるためのプラットフォームを提供します。これらのプラグインは、専門ツールやリソースを取り入れることで、チャットボットの応答を特定の学術的要求に合わせることができます。プラグインによって、メインモデルの機能が拡張され、言語翻訳サービス、特定の科目に関する洞察、または難解な数学の問題の解決などが可能となります。さらに、学習の好みも異なるため、新しい改良された学習方法を促進することができます。学習目標 ChatGPTプラグインの基本的な利用例を理解する。学生や教育機関向けの人気で影響力のあるChatGPTプラグインのキュレートされたリストに深入りする。学生が新しい概念を学び、問題を理解し、分析し、解決するためにこれらのプラグインを使用できる現実世界の利用例を分析する。 ChatGPTプラグインを使用したデータ分析のためのコードベースの入力と出力生成に深入りする。この記事は、データサイエンスブログマラソンの一環として公開されました。生成型AIとChatGPTプラグイン生成型AIは、与えられた入力から新しい出力を生成することで、デジタルでの作成、分析、および対話を革新しました。ChatGPTは、一貫した文脈に基づいた応答を生成する能力で人気のあるプラットフォームとなっていますが、プラグインの統合により、より専門的な機能、他のソフトウェアとのシームレスな統合、そして教育機関や学生を含むさまざまな産業に対応したユーザーエクスペリエンスを提供することができます。学生向け人気のあるChatGPTプラグイン学生向けの人気のあるChatGPTプラグインの一部は以下の通りです：ダイアグラム：ChatGPT-4のダイアグラムプラグインは、ダイアグラムを使った視覚的な説明を容易にします。Mermaid、GraphViz、PlantUMLなどの異なる構文をサポートしています。ユーザーは説明や既存のダイアグラムへの変更を処理することができます。 ScholarAI：ScholarAIは、査読付きの学術論文や研究論文にアクセスするために使用できるプラグインです。このプラグインを使用することで、学生は関連する査読付きの研究を迅速にクエリでき、科学的な研究の改善や洞察を得るための信頼性のあるデータを確保することができます。 PDFでチャット：チャットウィズPDFは、ChatGPTを通じてインターネットからPDFファイルにアクセスし、クエリを行うことができるユーティリティです。この堅牢なユーティリティを使用すると、リンクを指定するだけでPDFから洞察を得るプロセスが簡素化されます。学生は文書の内容から質問をしたり、特定の詳細を求めることができます。ウルフラム：ウルフラムプラグインは、ChatGPTの機能を強化し、計算ツール、数学関数、整理された情報、最新のデータ、視覚化機能に接続することで、数学の処理やデータの計算を含むさまざまな操作を行うことができます。これは、ダイアグラムなどの入力ダイアグラムから取得したデータを使用して数学を読み取り、処理、計算するといった操作と組み合わせることも可能です。ビデオインサイト：ビデオインサイトプラグインは、リアルタイムでビデオコンテンツを分析し、価値ある洞察を得るのに役立ちます。学生は、長い講義ビデオからキーポイントの復習や要約を迅速に行い、メモを作成するためにこのプラグインを使用することができます。オープンレクチャー：オープンレクチャープラグインは、大学レベルのコンテンツや講義にアクセスするために使用することができます。ポケットに大学の講義、書籍、学習ノートのデジタルアーカイブを所有することを目的としています。コードインタプリタ：コードインタプリタは、AIチャットボットのデータのアップロード、コードの記述と編集、さまざまな操作と分析を行う能力を向上させるマルチ機能プラグインです。ChatGPTにデータの分析、チャートの作成、ファイルの編集、数学の計算を依頼することができます。データ分析などに使用することもできます。ダイアグラムプラグイン Diagram Pluginとその使用方法について詳しく見てみましょう。Diagram Pluginは、複雑なアイデアやプロセスを表現するための可視化を作成するために使用できます。その機能を活用することで、学生はそれらを説明してデジタルダイアグラムを描くことができます。…

「Huggy Lingo：Hugging Face Hubで言語メタデータを改善するための機械学習の利用」

Huggy Lingo: Hugging Face Hubで言語メタデータを改善するために機械学習を使用する要約: 私たちは機械学習を使用して、言語メタデータのないHubデータセットの言語を検出し、このメタデータを追加するために司書ボットがプルリクエストを行っています。 Hugging Face Hubは、コミュニティが機械学習モデル、データセット、アプリケーションを共有するリポジトリとなっています。データセットの数が増えるにつれて、メタデータは自分のユースケースに適したリソースを見つけるための重要なツールとなっています。このブログ投稿では、Hugging Face Hubでホストされるデータセットのメタデータを改善するために機械学習を使用したいくつかの初期実験を共有します。 Hub上のデータセットの言語メタデータ Hugging Face Hubには現在約50,000の公開データセットがあります。データセットで使用される言語に関するメタデータは、データセットカードの先頭にあるYAMLフィールドを使用して指定することができます。すべての公開データセットは、メタデータ内の言語タグを使用して1,716の一意の言語を指定しています。ただし、指定される言語のいくつかは、異なる方法で指定されることになります。たとえば、IMDBデータセットでは、YAMLメタデータにen（英語を示す）が指定されています。 IMDBデータセットのYAMLメタデータのセクション英語がHub上のデータセットで遥かに最も一般的な言語であることは驚くべきことではありません。Hub上のデータセットの約19%が言語をenとしてリストしています（enのバリエーションを含めない場合であり、実際の割合はおそらくはるかに高いでしょう）。 Hugging Face Hub上のデータセットの頻度とパーセンテージ頻度英語を除外した場合、言語の分布はどのようになりますか？いくつかの支配的な言語のグループがあり、その後は言語が出現する頻度が比較的滑らかに減少していることがわかります。…

dbtのインクリメンタル – 正しい方法

「GlamCornerの私のチームが、従来のMySQLデータベースからPostgresデータベース上のELTに移行し、変換とモデリングのレイヤーとしてdbtを使用し始めたとき、私たちは喜びました私たちはdbtを設定しました...」

Learn more about Search Results GLaM - Page 2