Search Results ML

「光に基づくMLシステムは、より強力で効率的なLLMを生み出す可能性がある」

研究チームが光を利用した機械学習システムを開発しましたこのシステムは、ChatGPTのシステムを超える性能と効率を持ちながら、より少ないエネルギーを消費します

StreamlitとMongoDB：クラウドでのデータの保存

Streamlitは、公開アプリを無料で彼らのクラウドにデプロイすることができますが、ローカルで作成したファイルやデータベースは、アプリが終了すると存在しなくなりますこれは、あなたが望む振る舞いでないかもしれません

この無料のeBookでMLOpsの基礎を学びましょう

この無料のebookを今すぐダウンロードして、MLOpsの基礎を学びましょう

MLOps

LLMOPS vs MLOPS AI開発における最良の選択肢を選ぶ

はじめに人工知能（AI）の開発が急速に進化する中で、効率的な運用手法の統合が重要となっています。このニーズに対応するために、LLMOPSとMLOPSという2つの重要な手法が登場しました。これらの手法は、類似した目標を共有しているものの、異なる利点と課題を持っています。本記事では、LLMOPSとMLOPSについて詳しく説明し、それぞれの定義、比較、および実装戦略についての洞察を提供し、AI開発において最適な道を選択するための情報を提供します。 LLMOpsとは何ですか？ LLMOpsは、「Language Model Operations」の頭字語であり、GPT-3.5などの言語モデルの効率的な開発と展開を目指した専門の手法とワークフローを指します。これらの手法には、データの前処理、モデルのトレーニング、微調整、展開など、さまざまな活動が含まれています。LLMOpsは、言語モデル固有の課題を認識し、運用戦略をそれに合わせて調整します。 MLOpsとは何ですか？ MLOpsは、「Machine Learning Operations」の頭字語であり、ソフトウェアエンジニアリングの手法と機械学習のワークフローを統合し、AIモデルの展開とメンテナンスを容易にする包括的なアプローチです。MLOpsは、トレーニング、テスト、展開、監視など、機械学習モデルのライフサイクル全体で一貫性のある自動化されたパイプラインの作成に重点を置いています。また、以下も参照してください：End-to-End MLOps Architecture and Workflow（エンド・トゥ・エンドのMLOpsアーキテクチャとワークフロー） LLMOPS vs MLOPS：利点と課題 LLMOpsとMLOpsはそれぞれ独自の利点と課題を持っています。各手法の主な利点と課題について探ってみましょう。 LLMOPSの利点言語モデルに特化： LLMOPSは、言語モデルに特化しています。言語データの複雑さを認識し、言語モデルからより優れたパフォーマンスを引き出すための最適化された手法を採用しています。これにより、より正確で文脈に即した出力が得られます。これは、自然言語理解や生成のタスクにおいて重要です。効率的なトレーニング： LLMOPSの焦点は言語モデルにあるため、より効率的なトレーニングプロセスが可能です。言語ドメインに特化した技術や前処理方法は、トレーニング時間を大幅に短縮することができます。これにより、開発サイクルが加速し、より迅速な実験とモデルの改善が可能となります。…

「Declarai、FastAPI、およびStreamlitを使用してLLMチャットアプリケーションを展開する」

2022年10月、私が大規模言語モデル（LLM）の実験を始めたとき、最初の傾向はテキストの補完、分類、NER、およびその他のNLP関連の領域を探索することでしたしかし、...

「Amazon Redshift」からのデータを使用して、Amazon SageMaker Feature Storeで大規模なML機能を構築します

Amazon Redshiftは、一日にエクサバイトのデータを分析するために数万人の顧客に利用されている、最も人気のあるクラウドデータウェアハウスです多くのプラクティショナーは、Amazon SageMakerを使用して、完全に管理されたMLサービスであるAmazon Redshiftデータセットを規模拡大して機械学習（ML）を行うために、オフラインで機能を開発する要件を持っています

LangChain + Streamlit + Llama ローカルマシンに会話型AIをもたらす

「オープンソースのLLMsとLangChainを統合して、無料の生成型質問応答を実現します（APIキーは必要ありません）」

MLOps

MLOpsとは何ですか

MLOpsは、機械学習（ML）モデルを信頼性と効率を持って本番環境に展開し、保守するための一連の手法と技術ですしたがって、MLOpsは機械学習、DevOps、および...の交差点です

「Cheetorと会ってください：幅広い種類の交互に織り交ぜられたビジョン言語の指示を効果的に処理し、最先端のゼロショットパフォーマンスを達成する、Transformerベースのマルチモーダルな大規模言語モデル（MLLMs）」

教示的なスタイルで言語タスクのグループに対する指示のチューニングを通じて、大規模言語モデル（LLM）は最近、さまざまな活動のための汎用モデルとして優れた能力を示しています。指示のチューニングにより、単一の指示応答形式でさまざまなタスクを微調整することで、LLMは新しいタスク指示に対するゼロショットの汎化能力を大幅に開放します。さまざまな実世界のアプリケーションにおける長年の目標を持つこの結果は、テキストのみの指示に従うモデルをマルチモーダルに拡張するための新たな研究の波を刺激しました。この目的を達成するために、FlamingoとBLIP-2は、視覚入力を理解するための凍結されたビジュアルエンコーダをLLMに備えています。モデルの指示に従う能力は、LLaVA、MiniGPT-4、InstructBLIPのフォローアップによるマルチモーダルな指示に従うデータセットの微調整によりさらに強化されています。このような指示に従うアシスタントの利用可能性は、主にビジョン言語指示に重点を置いたマルチモーダルな大規模言語モデル（MLLM）によって制約されています。これらのモデルは、視覚的な文脈として単一の画像のみを含むビジョン言語指示に主に焦点を当て、指示のバリエーションが限られています。対照的に、人々は現実の生活で関連するメッセージとビジュアルのシリーズを通じて自分のニーズを表現することがよくあります。例えば、人々はオープンドメインの問い合わせに対応するために、さまざまな情報源（視覚的に魅力的なウェブサイト、教科書、クラスのスライドなど）を参照するモデルが必要になる場合があります。異なる写真とテキストが意味的に関連している交互に使用されるビジョン言語指示は、これらの参照および問い合わせを表します。浙江大学、シンガポール国立大学、南洋理工大学の研究者は、統一された指示応答形式でバリエーション豊かな指示を持つ31のタスクの包括的な大規模ベンチマークであるI4（意味的に関連し、交互に配置された画像テキスト指示に従う）を開発しました。このベンチマークは、20の異なるシナリオをカバーし、交互に配置されたビジョン言語指示の研究を支援するために設計されています。I4には3つの重要な特徴があります。 (1) 指示はすべて、ストーリーボードや図解付きの教科書など、相互に関連する画像と言葉の連続で構成されています。これは交互に配置されたビジョン言語コンテキストとして知られています。 (2) 複雑な指示が多くあります。タスクは、会話に基づく具体的な活動から監視写真の不整合を特定すること、コミックのためのスピーチ予測までさまざまです。 (3) ベンチマークは、漫画、商業イメージ、ドライビング映像、レシピの指示など、さまざまな指示に従うシナリオをカバーしており、提案されたベンチマークを使用して現代のMLLMを体系的に評価し、これらの複雑なマルチモーダル指示を実行するための支援が必要であることが明らかになりました。彼らは、視覚的なプロンプトジェネレータ（VPG）が複雑な指示の理解においてMLLMにとって重要であると主張します。現在のMLLMは主に、より多様で高品質な指示チューニングデータを作成するための洗練された方法を構築することに重点を置いていますが、いくつかのVPG（線形射影、リサンプラー、Q-formerなど）を使用して、ビジョンのバックボーン（ViTなど）に含まれる豊富な画像情報から関連する視覚的な手がかりを抽出し、LLMが視覚入力を理解するように修正します。凍結されたLLMに対して視覚的な手がかりに基づいたキャプションを提供するように挑戦することで、彼らはVPGを数百万の画像キャプションペアに対してトレーニングします。効率的ではありますが、ウェブクロールされたキャプションは通常、画像の前景の一部しか記述しません。そのため、VPGは通常のキャプションの明白な情報の抽出のみを教授されているため、一部の活動に必要な正確な情報を抽出できない場合があります。さらに、I4では、タスクがコンテキスト内の他の画像に関連する特定の視覚的な詳細に注目するようにVPGを要求するため、この問題は悪化します。彼らは軽量のControllable Knowledge Re-Injection（CLORI）モジュールを提案しています。このモジュールは、既存のMLLMにおけるVPGの重要な問題を解決するために、LLMの洗練された推論能力を使用してVPG（つまり、Q-former）を制御するために使用されます。より具体的には、彼らはQ-formerを使用して、言語モデルからタスクに依存しない視覚的な手がかりを提供し、LLMに画像に関する重要な情報を与えます。彼らはまず、言語モデルからタスク固有の条件を構築し、Q-formerを制御し、画像から特定の情報を条件付きで抽出します。これらの条件は、LLMに取り込まれます。内部のクロスアテンションマップを使用して、まずQ-formerが無視した画像の領域を特定します。その後、ChatGPTとSAMを使用して編集対象を識別し、適切な編集説明を生成します。次に、編集指示に従って元の画像に局所的な調整を行い、ブレンドされた拡散を使用してカウンターファクト画像を作成します。その後、作成されたカウンターファクト画像と元の画像の微小な違いを説明するために、画像間の識別的な事前トレーニングタスクが開発されます。CLORIモジュールは、変更されたビットが最も無視されている場所から選択されるため、カウンターファクト画像とタスク指示に基づいて、抜け落ちた視覚情報を抽出する必要があります。彼らは、調整可能な知識再注入により、さまざまな複雑なビジョン言語指示から包括的な意味を効果的に作成できる、TransformerベースのMLLMであるCheetorを提案しています。軽量なCLORIモジュールは、100万を切る画像テキストペアで効率的にチューニングできます。巨大なマルチモーダル指示調整データを必要とせず、単一のA100 GPUで数時間で完了することができます。彼らのモデルは、計算やデータの効率性を保ちながら、以前のMLLMよりもI4ベンチマークで優れたパフォーマンスを発揮します。さらに、彼らはMMEベンチマークを使用してCheetorを評価し、そのモデルは優れた結果を示します。以下は彼らの貢献の要約です：（1）彼らは、31のチャレンジからなる干渉するビジョン言語指示の包括的なベンチマークであるI4を構築します。これは幅広い現実世界の設定をカバーしています。（2）彼らは、最小限に制御された知識再注入（CLORI）モジュールを提供します。これは、LLMが生成した状況に応じて、指示固有の視覚情報をLLMに補完的に再注入します。（3）わずか30,000枚の画像を使用して、彼らはクロスアテンションガイド付きの反事実的な画像トレーニング手法を使用して、CLORIモジュールを効果的に教育します。（4）彼らのCheetorは、高品質のマルチモーダル指示調整データがなくても、7つのA100 GPU時間を要する費用で、I4テストで最先端のパフォーマンスを達成します。

「MLパイプラインアーキテクチャのデザインパターン（10の実世界の例を使用）」

すべての機械学習の実践者が、Jupyter Notebookでモデルをトレーニングすることはプロジェクト全体の一部にすぎないと気づく時が来ます応答性と柔軟性を保ちながら、データを生の形式から予測まで持っていくためのワークフローを準備することが本当の課題ですその時点で、データサイエンティストまたは...

MLOps

Learn more about Search Results ML - Page 13