Learn more about Search Results LMI DLCs
- You may be interested
- 2023年の最高のAIテキスト生成ツール
- 「安全で安心なAIに対する取り組みに基づ...
- 「2024年に注目すべきトップ10のソフトウ...
- 魅力的な生成型AIの進化
- 「Databricks SQL Serverless + DBT のテ...
- 「限られたトレーニングデータでも、機械...
- 「大規模な言語モデルを使ったフェイクニ...
- 「LLMsとRAGを組み合わせることによる拡張」
- Amazon Transcribeは、100以上の言語に対...
- ジェネラティブAIとプロンプトエンジニア...
- 「10個の最高のAIヘッドショットジェネレ...
- 人工知能の言語スキルを評価する：ChatGPT...
- 「OpenAIの研究者たちは、敵対的なトレー...
- 「AIツールのためのベスト5のブラックフラ...
- 「Amazon Textract、Amazon Bedrock、およ...
新しいAmazon SageMakerコンテナでLLMの推論パフォーマンスを強化する
今日、Amazon SageMakerは、大規模モデル推論（LMI）Deep Learning Containers(DLCs)の新バージョン（0.25.0）をリリースし、NVIDIAのTensorRT-LLMライブラリのサポートを追加しましたこれらのアップグレードにより、SageMaker上で最先端のツールを簡単に使用して大規模言語モデル（LLMs）を最適化し、価格パフォーマンスの利点を得ることができます - Amazon SageMaker LMI TensorRT-LLM DLCは、レイテンシを33%削減します[...]
Amazon SageMaker で大規模なモデル推論 DLC を使用して Falcon-40B をデプロイする
先週、テクノロジー・イノベーション・インスティチュート（TII）は、オープンソースの基礎的な大規模言語モデル（LLM）であるTII Falcon LLMを発表しましたFalconは、Amazon SageMakerで1兆トークンでトレーニングされ、ハグイングフェイスのランキングでトップクラスのパフォーマンス（執筆時点での第1位）を誇り、llama-65Bなどの他のLLMよりも比較的軽量でホストするのに費用がかからないとされています[…]
Find the right Blockchain Investment for you
Web 3.0 is coming, whether buy Coins, NFTs or just Coding, everyone can participate.