「大型言語モデルとビジネスの架け橋：LLMops」

「大型言語モデルによるビジネスの未来：LLMops」

LLM（Language Model）の基礎は、OpenAIのGPT-3やその後継のGPT-4などのLLMにあります。これらはAIの一部であるディープラーニングを活用し、3つ以上の層を持つニューラルネットワークを利用しています。これらのモデルは、インターネットテキストの幅広いスペクトラムを含む膨大なデータセットで訓練されています。訓練により、LLMはこれまでに出てきた単語を与えられると、次の単語を予測することを学びます。この能力を基に、LLMは長いシーケンスにわたって、一貫性のある文脈に即したテキストを生成することができます。

潜在的な応用範囲は無限大です。メールの作成、コードの作成、クエリへの回答、創造的な文章の執筆など、様々な分野で利用できます。しかし、大きな力には大きな責任が伴います。プロダクション環境でこれらの巨大なモデルを管理することは簡単ではありません。ここで、LLMOpsが登場し、LLMの信頼性の高い、安全な、効率的な運用を確保するためのベストプラクティス、ツール、プロセスを具現化します。

LLMの統合への道筋には3つの主要なルートがあります：

一般目的のLLMをプロンプトする：
- ChatGPTやBardなどのモデルは、採用のハードルが低く、最小限の初期コストで利用することができますが、長期的な費用もかかる可能性があります。
- ただし、データのプライバシーやセキュリティの影が大きく、特に厳格な規制枠組みを持つFintechやヘルスケアなどの分野では特に注意が必要です。
一般目的のLLMのファインチューニング：
- Llama、Falcon、Mistralなどのオープンソースのモデルを使用することで、組織はこれらのLLMを特定の使用ケースに合わせて調整することができます。その際に必要なのはモデルチューニングリソースのみです。
- この方法はプライバシーやセキュリティの問題に対処していますが、より深いモデル選択、データ準備、ファインチューニング、展開、およびモニタリングを要求します。
- このルートの周期性により、持続的な関与が必要ですが、LoRA（Low-Rank Adaptation）やQ-LoRA（量子化LoRA）などの最近の革新により、ファインチューニングプロセスが効率化され、より人気のある選択肢となりました。
カスタムLLMのトレーニング：
- ゼロからLLMを開発することは、手元のタスクに合わせた比類のない精度を約束します。ただし、AIの専門知識、計算リソース、広範なデータ、時間の投資が必要であり、重要なハードルです。

この3つのうち、一般目的のLLMのファインチューニングは企業にとって最も望ましい選択肢です。新しい基礎モデルの作成には最大1億ドルかかる可能性がありますが、既存のモデルのファインチューニングは10万ドルから100万ドルの範囲内で行うことができます。これらの数値は、計算費用、データの取得とラベリング、エンジニアリングおよびR&Dの費用に由来します。

LLMOpsとMLOpsの対比

機械学習オペレーション（MLOps）は、開発から本番環境への機械学習（ML）モデルの移行に向けた構造化された経路を提供してきました。しかし、大規模言語モデル（LLM）の台頭に伴い、LLMの展開と管理に関連する独特の課題に対応するために、LLMOpsという新しい運用パラダイムが現れました。LLMOpsとMLOpsの違いはいくつかの要素によって起こります：

計算リソース：
- LLMはトレーニングとファインチューニングに大量の計算能力を必要とし、データ並列演算を加速するためにGPUなどの特殊なハードウェアが必要です。
- 推論のコストは、計算費用を抑えるためのモデル圧縮と蒸留技術の重要性をさらに強調しています。
転移学習：
- 従来のMLモデルがスクラッチからトレーニングされることが多いのに対し、LLMは転移学習を重要視しており、事前にトレーニングされたモデルから始めて特定のドメインタスクに合わせてファインチューニングしています。
- これにより、データと計算リソースを節約しながら最先端のパフォーマンスを実現しています。
人間フィードバックループ：
- LLMの反復的な向上は、人間のフィードバックによって大きく推進されています。
- LLMOpsパイプライン内にフィードバックループを組み込むことで、評価を簡素化するだけでなく、ファインチューニングプロセスを促進します。
ハイパーパラメータのチューニング：
- 従来のMLは、ハイパーパラメータのチューニングを通じて精度向上を重視していますが、LLMでは計算要件の削減も重要な要素です。
- バッチサイズや学習率などのパラメータの調整によって、トレーニングの速度とコストを大きく変えることができます。
パフォーマンスメトリクス：
- 従来のMLモデルは、精度、AUC、またはF1スコアなどの明確に定義されたパフォーマンスメトリクスに従っています。一方、LLMはBLEUとROUGEという異なるメトリクスセットを持っています。
- BLEUとROUGEは、機械生成された翻訳や要約の品質を評価するためのメトリクスです。BLEUは主に機械翻訳タスクに使用され、ROUGEはテキスト要約タスクに使用されます。
- BLEUは適合率を測定し、機械生成された要約文に人間の参照要約文の単語がどれだけ含まれているかを示します。ROUGEは再現率を測定し、人間の参照要約文に機械生成された要約文の単語がどれだけ含まれているかを示します。
プロンプトエンジニアリング：
- 正確なプロンプトの工学は、LLMから正確かつ信頼性の高い応答を引き出すために重要です。
  
  https://www.fiddler.ai/llmops
  
  LLMOpsワークフローの理解：詳細な分析
  
  大規模言語モデルの運用、またはLLMOpsは、さまざまなアプリケーションの間でのシームレスな機能と統合を確保するための運用の中核です。ML OpsまたはDevOpsの一種のように見えますが、LLMOpsは大規模言語モデルの要件に対応する独自のニュアンスを持っています。図に示されているLLMOpsワークフローを探求し、各段階を包括的に調査してみましょう。
  1. トレーニングデータ：
    - 言語モデルの本質は、そのトレーニングデータにあります。このステップでは、データセットを収集し、クリーニングし、バランスを取り、適切に注釈を付ける作業が含まれます。データの品質と多様性は、モデルの正確さと柔軟性に大きく影響します。LLMOpsでは、ボリュームだけでなく、モデルの意図した使用ケースとの整合性にも重点が置かれています。
  2. オープンソースファウンデーションモデル：
    - 図は「オープンソースファウンデーションモデル」という言葉を使用しており、これは主要なAI企業によって頻繁にリリースされる事前トレーニング済みモデルを指します。これらのモデルは大規模なデータセットでトレーニングされ、特定のタスクに対して再調整するための優れた出発点となります。
  3. トレーニング/チューニング：
    - ファウンデーションモデルと特定のトレーニングデータを使用して、チューニングが行われます。このステップでは、医療文献に基づいて一般的なテキストモデルを微調整するなど、特殊な目的のためにモデルを洗練させます。LLMOpsでは、過学習を防ぐために厳密なチューニングと一貫したチェックが重要であり、未知のデータに対して良好な汎化を確保することが求められます。
  4. トレーニング済みモデル：
    - チューニング後、デプロイの準備が整ったトレーニング済みモデルが生成されます。このモデルはファウンデーションモデルの改良版で、特定のアプリケーションに特化しています。公開可能な重みとアーキテクチャを持つオープンソースの場合もありますし、組織によっては非公開のプロプライエタリなモデルとなる場合もあります。
  5. デプロイ：
    - デプロイメントでは、モデルを実際のクエリ処理のためにライブ環境に統合します。オンプレミスまたはクラウドプラットフォームでのホスティングに関する意思決定が含まれます。LLMOpsでは、レイテンシや計算コスト、アクセシビリティに関する考慮事項が重要です。また、モデルが多数の同時リクエストに対してスケーラブルに機能することも確認する必要があります。
  6. プロンプト：
    - 言語モデルでは、プロンプトは入力クエリまたは文です。効果的なプロンプトの作成は、モデルの振る舞いを理解することをしばしば必要とし、モデルがこれらのプロンプトを処理する際に望ましい出力を引き出すために重要です。
  7. 埋め込みストアまたはベクトルデータベース：
    - 後処理では、モデルがプレーンテキストの応答以外のものを返すこともあります。高次元のベクトルで表される意味的なコンテンツを表すために埋め込みが必要な高度なアプリケーションもあります。これらの埋め込みはストアとして保存されるか、サービスとして提供されることで、意味情報の高速な検索や比較が可能となり、テキスト生成以上にモデルの能力を豊かに利用することができます。
  8. デプロイされたモデル（セルフホストまたはAPI）：
    - 処理が完了すると、モデルの出力が準備されます。戦略によっては、出力はセルフホスト型のインターフェイスを介してアクセスすることも、APIを介してアクセスすることもできます。前者はホスト組織により多くの制御を提供し、後者はスケーラビリティやサードパーティの開発者に対する簡単な統合を提供します。
  9. 出力：
    - このステージはワークフローの具体的な結果を提供します。モデルはプロンプトを受け取り、処理し、テキストブロック、回答、生成されたストーリー、先述したような埋め込みなど、アプリケーションに応じた出力を返します。
  トップのLLMスタートアップ
  
  Large Language Models Operations（LLMOps）の領域では、専用のプラットフォームやスタートアップが登場しています。以下に、LLMOps領域に関連する2つのスタートアップ/プラットフォームとそれらの説明を示します:
  
  Comet
  
  Cometは、主に大規模な言語モデル開発に特化した機械学習ライフサイクルを効率化します。実験の追跡や本番モデルの管理に便利な機能を提供します。このプラットフォームは、大企業のチームに適したさまざまなデプロイメント戦略を提供しており、プライベートクラウド、ハイブリッド、オンプレミスのセットアップが可能です。
  
  Dify
  
  Difyは、GPT-4などの大規模な言語モデルを使用したAIアプリケーションの開発を支援するオープンソースのLLMOpsプラットフォームです。ユーザーフレンドリーなインターフェースとシームレスなモデルアクセス、コンテキスト埋め込み、コスト管理、データ注釈の機能が特徴です。ユーザーはビジュアルでモデルを簡単に管理し、ドキュメント、ウェブコンテンツ、またはNotionのノートをAIコンテキストとして利用することができます。Difyは、前処理やその他の操作を担当します。
  
  Portkey.ai
  
  Portkey.aiは、言語モデルの運用（LLMOps）を専門とするインドのスタートアップです。Lightspeed Venture Partnersをリードにした最近の300万ドルのシード資金調達を実施し、Portkey.aiはOpenAIやAnthropicなどの主要な大規模言語モデルとの統合を提供しています。彼らのサービスは、生成型AI企業に向けられており、リアルタイムのカナリーテストとモデルの微調整の機能など、LLMオペレーションのスタックの向上に焦点を当てています。