Search Results GitHub

DeepSpeedを使用してPyTorchを加速し、Intel Habana GaudiベースのDL1 EC2インスタンスを使用して大規模言語モデルをトレーニングします

数十億のパラメータを持つ大規模言語モデル（LLM）をトレーニングすることは、課題が多いですモデルのアーキテクチャを設計するだけでなく、研究者は、混合精度サポート、勾配蓄積、およびチェックポイントなどの分散トレーニングの最新のトレーニング技術を設定する必要があります大規模モデルでは、単一の...に使用可能なメモリが少ないため、トレーニングセットアップはさらに難しくなります

Amazon Lex、Langchain、およびSageMaker Jumpstartを使用した会話型エクスペリエンスにおける生成AIの探求：イントロダクション

現代の快速な世界では、顧客はビジネスから迅速かつ効率的なサービスを期待していますただし、問い合わせの量が対応する人的リソースを超える場合、優れた顧客サービスを提供することは著しく困難になることがありますしかし、生成的人工知能（生成的 AI）の進歩により、ビジネスはこの課題に対処しながら、個人化された効率的な顧客サービスを提供することができます

オープンソースのAmazon SageMaker Distributionで始めましょう

データサイエンティストは、依存関係を管理し、安全である機械学習（ML）およびデータサイエンスのワークロードのための一貫した再現可能な環境が必要ですAWS Deep Learning Containersは、TensorFlow、PyTorch、MXNetなどの一般的なフレームワークでモデルのトレーニングやサービングを行うためのプレビルドされたDockerイメージを既に提供していますこの体験を改善するために、私たちはパブリックベータを発表しました[…]

GraphStormによる高速グラフ機械学習：企業規模のグラフ問題を解決するための新しい方法

GraphStorm 0.1のオープンソースリリースを発表できることをうれしく思いますGraphStormは、複雑な企業規模のグラフに対して、グラフ機械学習（ML）ソリューションを構築、トレーニング、展開するためのローコードエンタープライズフレームワークであり、数ヶ月ではなく数日で構築することができますGraphStormを使用すると、数十億の関係や相互作用の構造を直接考慮したソリューションを構築できます

Amazon SageMakerでTritonを使用してMLモデルをホストする：ONNXモデル

ONNX（Open Neural Network Exchange）は、多くのプロバイダーによって広くサポートされている深層学習モデルを表現するためのオープンソースの標準ですONNXは、機械学習（ML）モデルを実行するために必要なメモリと計算を削減するための最適化および量子化モデルのツールを提供しますONNXの最大の利点の1つは、標準化された形式を提供することです[…]

Amazon SageMakerを使用してOpenChatkitモデルを利用したカスタムチャットボットアプリケーションを構築する

オープンソースの大規模言語モデル（LLM）は、研究者、開発者、そして組織がこれらのモデルにアクセスしてイノベーションや実験を促進できるようになり、人気が高まっていますこれにより、オープンソースコミュニティからの協力が促進され、LLMの開発や改良に貢献することができますオープンソースのLLMは、モデルアーキテクチャ、トレーニングプロセス、トレーニングデータに透明性を提供し、研究者がモデルを理解することができます[…]

Amazon SageMaker で大規模なモデル推論 DLC を使用して Falcon-40B をデプロイする

先週、テクノロジー・イノベーション・インスティチュート（TII）は、オープンソースの基礎的な大規模言語モデル（LLM）であるTII Falcon LLMを発表しましたFalconは、Amazon SageMakerで1兆トークンでトレーニングされ、ハグイングフェイスのランキングでトップクラスのパフォーマンス（執筆時点での第1位）を誇り、llama-65Bなどの他のLLMよりも比較的軽量でホストするのに費用がかからないとされています[…]

Amazon SageMakerを使用した生成型AIモデルにおいて、Forethoughtがコストを66％以上削減する方法

この記事は、Forethought Technologies, Inc.のエンジニアリングディレクターであるJad Chamounと、同社のシニアMLエンジニアであるSalina Wuと共同執筆されましたForethoughtは、顧客サービスのための先進的な生成AIスイートで、その中核には革新的なSupportGPT™技術があり、顧客サポートライフサイクルを変革し、軽減率を高めるために機械学習を利用しています

AWS Inferentia2は、AWS Inferentia1をベースにしており、スループットが4倍に向上し、レイテンシが10倍低減されています

機械学習モデル（MLモデル）のサイズ、特に生成AIにとって、大規模言語モデル（LLM）やファウンデーションモデル（FM）のサイズは年々急速に増加しており、これらのモデルにはより高速で強力なアクセラレータが必要ですAWS Inferentia2は、LLMや生成AIの推論のコストを下げつつ、より高いパフォーマンスを提供するように設計されましたこの[...]

データ体験の再発明：生成的AIと現代的なデータアーキテクチャを使用して、洞察を解き放つ

現代的なデータアーキテクチャを実装することで、異なるソースからのデータを統合するためのスケーラブルな方法が提供されますインフラストラクチャではなくビジネスドメインによってデータを組織化することにより、各ドメインは自分たちのニーズに合ったツールを選択することができます絶え間ない革新を続けながら、ジェネレーティブAIソリューションによって現代的なデータアーキテクチャの価値を最大化することができます自然言語の機能は、[…]

Learn more about Search Results GitHub - Page 138