Search Results 使用方法

ローカルLLM推論を10倍速く実行する（244 TOK/s） PyTorch II

「LLaMA-7Bを使用して、PytorchはCPUによって制約されるパフォーマンスの問題を分析しましたそれはオーバーヘッドがより効率的にするための最初のターゲットであることを意味しますそして、コンパイラが登場しますより大きな領域をコンパイルすることによって...」

GenAIの製品：速く進んで失敗する

2022年の秋、私はクールなプロジェクトに取り組んでいましたはい、あなたは正解です-企業固有のデータでLLMsを調整していましたしかし、それにもかかわらず、ChatGPTがリリースされ、世界中で話題となりましたそして、何が…

「RAGを紹介しますデータソースから自然言語を使用してRAGパイプラインを作成するStreamlitアプリ」

GPTはNLPタスクにおいて人工知能の分野で際立っています。ただし、GPTを使用して構築および展開されるパイプラインは長く複雑なものになることがあります。ここでRAGの役割が見られます。 RAGはStreamlitによって開発されたアプリで、GPTパイプラインの作成と展開のプロセスを簡素化します。使いやすいインターフェースを提供し、ユーザーは自分のジョブと望ましいRAGシステムのパラメーターを指定できます。その後、必要なコードを生成したRAGによってパイプラインが自動的に展開されます。最良の部分は、RAGには完全に新しいバージョンであるRAGs v2が存在することです。RAGs v2は最初のリリースから大幅にアップグレードされ、より使いやすく柔軟なChatGPTの構築とカスタマイズの体験を提供しています。ユーザーは簡単に複数のRAGパイプラインを作成、保存、管理でき、各パイプラインは異なるデータセットやシステムプロンプトでカスタマイズできます。さらに、未使用のパイプラインを削除するオプションもあり、全体的な利便性が向上しています。リンティングとCIツールの統合により開発品質が向上しました。RAGs v2は、構築とそれぞれのRAGパイプライン内で利用するためのさまざまな大規模言語モデル（LLM）をサポートしています。さらに、ファイルやウェブページを読み込む機能も備えており、機能がさらに拡張されています。詳細な説明動画がありますので、この高度なツールの簡単な設定と使用方法をご覧いただけます。以下はアプリの3つの主要なセクションです：ホームページで「ビルダーエージェント」にRAGパイプラインの作成を指示します。ここでは、「ビルダーエージェント」によって作成されたRAG設定が記載されています。この領域では、生成された設定を自由に更新または変更できるユーザーインターフェースが提供されています。 RAGエージェントは通常のチャットボットインターフェースを使用して生成されます。データに基づいて質問することができます。 RAGsの使い方 RAGsの簡単な使い方は以下の通りです： RAGsを実行する：RAGsを実行するには、次のコマンドを実行します： pip install rags RAGsをインストールした後、以下のコマンドを実行してRAGパイプラインを構築できます： rags create-pipeline Streamlitアプリが起動し、ジョブと望ましいRAGシステムの仕様を選択できます。作成が完了したら、以下のコマンドを実行してRAGパイプラインを展開できます： rags deploy このコマンドでRAGパイプラインをウェブサーバーで起動できます。RAGパイプラインが起動している間は、以下のコマンドを使用してクエリを実行できます：…

マイクロソフトの研究者がConfidential Consortium Framework (CCF)を紹介：セキュアな状態を持つCIAアプリケーションを開発するための汎用AIフレームワーク

「CIA Trinity（CIAトリニティ）」は、よく知られた情報セキュリティフレームワークであり、データの機密性、整合性の保護、高い可用性の3つの属性で構成されています。各属性から始めて、研究チームは信頼性の高い多者参加アプリケーションを信頼できないインフラストラクチャ上で実行することに焦点を当てています。個人データのプライバシーを保護する責任は組織にあります。この責務は法律によってますます規制されるようになり、実施しない場合の影響は、たとえばGDPRの場合には売上高の4%になる可能性があります。企業は知的財産を保護したり、競争力を獲得したり、秘密を守る必要がある場合でも、データを秘密に保つことを望む場合があります。実行中の秘密はより難しいですが、静止状態と飛行中の暗号化は試された方法です。さらに、秘密は単独では部分的にしか解決されません。むしろ、任意のデータを保護する問題をキーの保護にまで縮小し、そのキーは一連の確立されたガイドラインに従って制御、保管、発行される必要があります。これは整合性の保護です。組織は、自らの管理下のデータを違法または偶発的な変更から保護し、データの機密性を維持するという二重の責任を負います。データにアクセスするコードの整合性の維持は、データの秘密を維持するために頻繁に必要とされます。コードの整合性と透明性を組み合わせることで、データを共有するパーティーは情報の意図した使用方法に合意することができます。たとえば、銀行は政府のために要求を処理することで反マネーロンダリング法に従うことができますが、顧客の完全な情報は提供しません。クラウドコンピューティングの広範な普及により、アプリケーションに低い参入障壁とコストの比例的な拡張性を提供するため、これらのシステムの信頼できる計算基盤（TCB）は時間の経過とともに拡大しています。信頼できないクラウドインフラストラクチャを使用する場合、リモートでデータの整合性と機密性を確保することはより困難です。そのため、健康、金融、または政府に関連するような非常に敏感なアプリケーションは、パブリッククラウドに移行することができません。この困難な状況を考慮すると、次の研究課題にはまだ回答が必要です：クラウドプロバイダを多者参加アプリケーションのTCBから排除しつつ、開発者がクラウドの計算とストレージリソースを活用できるようにすることは可能でしょうか？多者参加シナリオの需要が増える中で、互いに完全に信頼しないパーティー間でデータシステムを統合することは特に重要です。多くのソースからのデータを統合し、それを協力して利用して価値を向上させ、新しいユースケースを作成することができます。ただし、機密性と整合性には制約があり、研究チームは複数の異なる参加者のニーズとアクセス権限を考慮する必要があります。現代のデジタルインフラストラクチャがますます重要になっているため、アプリケーションは信頼性があり、高い可用性が求められます。デジタルインフラストラクチャは、必要な一貫性とコストトレードオフであっても、100%の利用可能性を保証することはできませんので、通常の運用中に予想される障害に対して堅牢である必要があります。研究チームは、非常に実用的でありながら倫理的に優れたアプローチを取る必要があります。これには、信頼できないクラウドインフラストラクチャや多者参加の信頼できないガバナンスなど、様々な状態保持アプリケーションや現代の展開シナリオをサポートするCIAアプリケーションの作成が含まれます。マイクロソフト、KU Leuven、ケンブリッジ大学の研究チームは、この研究のConfidential Consortium Framework（CCF）を提案しています。CCFは、分散トラストと集中クラウドコンピューティングを統合しています。リモートで証明可能な機密性と整合性により、CCFはクラウドベースの信頼性の高い実行環境を利用しています。さらに、トランザクションキーバリューストアとステートマシンレプリケーションは、高い可用性と監査を実現するために不変の台帳と組み合わせられています。CCFの柔軟性により、開発者は高度に調整可能な監視のために独自の多者参加ガバナンスアーキテクチャを使用し、アプリケーションロジックを適用することができます。クラウドコンピューティングや多者参加協力において、この研究チームはデータの機密性、整合性の保護、高い可用性などを探求する多くの研究チームの1つです。CCFは、多くの先行システムとは異なり、孤立した安全な実行ソリューション（代わりに二次的なストレージシステムに依存）または孤立したデータストレージソリューション（台帳、データベース、またはキーバリューストアの形式）のいずれかを提供するのではなく、実行とストレージの両方を可能にするエンドツーエンドのソリューションを提供します。CCFは、信頼できる計算基盤、柔軟性のあるプログラミングアプローチ、セキュリティと使いやすさのバランスを備えています。さらに、CCFは、スナップショット、ライブコード更新、再構成、災害復旧、インデックスなどの機能に依存するAzure Managed CCFやAzure Confidential Ledgerなどのサービスを通じて本番環境で信頼されています。これは、汎用で自己完結型の設計の重要性を強調しています。

開発者の生産性向上：DeloitteのAmazon SageMaker Canvasを用いたノーコード/ローコード機械学習の活用方法

今日のデータ駆動型の世界では、機械学習（ML）モデルを素早く構築し展開する能力がますます重要になっていますしかし、MLモデルの構築には時間と労力、特殊な専門知識が必要ですデータの収集やクリーニングから特徴エンジニアリング、モデルの構築、調整、展開まで、MLプロジェクトは開発者にとって数か月かかることがよくありますそして経験豊富なデータ[...]

LLMsにおけるブラックボックスの問題：課題と新興解決策

「大規模言語モデル（LLM）の複雑さにダイブし、解釈可能性の課題やAIの高度な機能と透明性のバランスの重要性に焦点を当てた、詳細な記事をご覧ください」

Pythonでのデータサイエンスの線形代数講座

数学の一分野である線形代数は、データサイエンスにおいて非常に役立ちます線形代数を使うことで、大量のデータに数学的な操作を行うことができます機械学習で使用されるほとんどのアルゴリズムも線形代数を使用しています

「Amazon SageMakerを使用して、クラシカルなMLおよびLLMsを簡単にパッケージ化してデプロイする方法、パート2：SageMaker Studioでのインタラクティブなユーザーエクスペリエンス」

Amazon SageMakerは、開発者やデータサイエンティストが機械学習（ML）モデルを効率的かつ簡単に構築、トレーニング、展開することができる、完全に管理されたサービスですSageMakerを使用すると、APIコールを通じてモデルを直接本番環境に展開することが簡単になりますモデルはコンテナにパッケージ化され、堅牢でスケーラブルな展開が可能ですSageMakerは以下の機能を提供します[…]

レオナルドAI：Midjourneyの新たな競合相手

レオナルドAIは、ミッドジャーニーがこれまで築いてきた地位に挑戦する注目すべき代替手段として徐々に浮上しています

APIワールド2023：API、AI、および秘密のセキュリティを結集する

「API World 2023は、ベストプラクティスの洞察を共有し、すべての資産を考慮すること、そしてAPI駆動型の世界におけるAIとAPIセキュリティの重要性についてでした」

Learn more about Search Results 使用方法 - Page 6