「LangChainが評価しようとしている6つのLLMの問題点」

「LangChainが評価しようとする6つのLLMの課題」

 

 

テクノロジーの絶え間ない進化の中で、大規模言語モデル (LLM) の急増はまさに革命的なものでした。ChatGPTやGoogle BARDなどのツールは、デジタルインタラクションやアプリケーション開発の可能性を見せつけています。

ChatGPTなどのモデルの成功は、これらの高度な言語モデルの能力を活用したいという企業の関心の急増をもたらしました。

• 『ゴーストバスター内部：バークレー大学のAI生成コンテンツ検出の新しい方法』
• Learning to build—Towards AI コミュニティニュースレター第1号
• 「マイクロソフトのAzure AIモデルカタログが革新的な人工知能モデルで拡大」

しかし、LLMの真の力は単独の能力に留まるものではありません。

データや処理能力によって豊かな情報とリソースとの統合が行われると、その潜在能力はさらに高まります。

そして、その統合がLangChainが評価しようとしているものです。

LangChainは、LLMの完全な能力を引き出すために作られた革新的なフレームワークであり、他のシステムやリソースとの円滑な相互作用を可能にしています。これはデータのプロフェッショナルに、今日利用可能な豊富な情報と計算能力を駆使した、知識に富んだアプリケーションの構築を可能にするツールです。

それは単なるツールではなく、テクノロジーランドスケープを変える変革的な力です。

そこで次の質問が浮かび上がります。

LangChainはLLMが何を実現できる領域を再定義するのでしょうか？

一緒に探求していきましょう。

 

LangChainとは？

 

LangChainは、LLMを中心に構築されたオープンソースのフレームワークです。開発者には、LLM駆動型アプリケーションのアーキテクチャを簡素化するツール、コンポーネント、インターフェースが提供されます。

ただし、これはただのツールではありません。

LLMとの作業は、四角い穴に角ばったペグを嵌め込むような感じになることがあります。

以下のような一般的な問題があります。

• プロンプトの構造を標準化する方法。
• LLMの出力が他のモジュールやライブラリで使用できるようにする方法。
• 簡単にLLMモデルの切り替えを行う方法。
• 必要に応じてメモリの記録を保持する方法。
• データの取り扱い方法。

これらの問題は次の質問につながります。

LLMモデルが予想どおりに動作することを確かめながら、どのように複雑なアプリケーションを開発すべきか。

プロンプトは繰り返しの構造とテキストで満ちており、応答は幼児の遊び場のように非構造化されています。これらのモデルのメモリは…言ってしまえば象のような記憶力ではありません。

では、どのようにこれらと一緒に作業すれば良いのでしょうか？

AIやLLMを使用して複雑なアプリケーションを開発しようとすると、完全な頭痛になることがあります。

そして、それが問題解決ツールとしてLangChainが登場する場所です。

LangChainの核となるのは、容易にLLMを統合できる多くの工夫されたコンポーネントです。

LangChainは、強力な大規模言語モデルの能力を拡張することで、興味を引き起こしています。これにより、”推論”プロセスのシミュレーションが可能になり、より複雑なタスクにより正確に対処できるようになります。

開発者にとって、LangChainの魅力は、従来のドラッグアンドドロップやコーディングといった伝統的な方法に頼らず、直接ニーズを表現し、ニーズに合わせたインターフェースを構築できる点にあります。

これはソフトウェア開発者やデータエンジニアが、LLMをシームレスにアプリケーションとデータのワークフローに統合できる能力を強化するためのフレームワークです。

そこで次の質問になります。

 

LangChainはこれらの問題をどのように解決しようとしているのでしょうか？

 

現在のLLMには6つの主要な問題が存在することを把握したので、LangChainがそれらをどのように評価しようとしているかを見てみましょう。

  

 

1. プロンプトは現在非常に複雑です

 

この数ヶ月間、プロンプトの概念がどのように急速に進化してきたかを思い出してみましょう。

最初は、簡単なタスクを説明する単純な文字列から始まりました：

Hey ChatGPT、Pythonで散布図をプロットする方法を教えてもらえますか？

 

しかし、時間の経過とともに、これはあまりにも単純だとわかりました。私たちは、LLMにメインのタスクを理解するために十分なコンテキストを提供していませんでした。

今日では、単にメインのタスクを説明するだけではなく、AIの高レベルの振る舞いや書き方、正確な回答を確実にするための指示を含める必要があります。さらに、モデルにより文脈化された指示を与えるための他の詳細なども含める必要があります。

したがって、今日は最初のプロンプトそのものではなく、次に似たより簡潔なプロンプトを提出することになります：

Hey ChatGPT、あなたはデータサイエンティストです。Pythonを使ってデータの分析と可視化が得意です。Seabornライブラリを使って散布図を生成する方法を教えてもらえますか？

 

分かりましたか？

しかし、ほとんどの方が既に気づいたように、私は異なるタスクを要求することができますが、LLMの高レベルの振る舞いを同じに保ちます。つまり、プロンプトの大部分は同じままでいることができます。

これが、この部分を一度だけ書き、必要なプロンプトに追加できるようにするべき理由です。

LangChainは、プロンプトのためのテンプレートを提供することで、この反復テキストの問題を解決します。

これらのテンプレートは、タスクに必要な特定の詳細（散布図に具体的に要求するなど）とモデルの高レベルな振る舞いを説明するテキストを組み合わせます。

したがって、最終的なプロンプトのテンプレートは次のようになります：

Hey ChatGPT、あなたはデータサイエンティストです。Pythonを使ってデータの分析と可視化が得意です。  を使って  の散布図を生成する方法を教えてもらえますか？

 

2つの主要な入力変数：

• チャートのタイプ
• Pythonライブラリ

 

2. 応答は本質的に非構造化されています

 

私たち人間は、テキストを簡単に解釈できます。そのため、ChatGPTのようなAIパワードのチャットボットとチャットする際には、プレーンテキストを容易に扱うことができます。

しかし、これらの同じAIアルゴリズムをアプリやプログラムで使用する場合、回答はCSVやJSONファイルのような構造化された形式で提供される必要があります。

再び、特定の構造化された出力を要求する洗練されたプロンプトを作成することができますが、その出力が実際に私たちにとって役立つ構造で生成されるかどうかは100%確実ではありません。

ここでLangChainの出力パーサーが活躍します。

このクラスを使用すると、LLMの応答をパースして簡単に使用できる構造化された変数を生成することができます。ChatGPTにJSONで回答するように要求する必要はなくなります。LangChainは出力をパースし、独自のJSONを生成することができるようになったのです。

 

3. LLMにはメモリがない-ただし、一部のアプリケーションには必要かもしれません。

 

企業の質疑応答チャットボットと話しているつもりになってください。必要な内容の詳細な説明を送信し、チャットボットが正しく回答し、2回目のイテレーションの後…すべてが消えてしまいます！

これは、API経由でLLMを呼び出す際に起こることです。GPTまたは他のユーザーインターフェースのチャットボットを使用する場合、AIモデルは次のターンに移る瞬間に会話の一部を忘れてしまいます。

彼らには、あまりまたはほとんどメモリがありません。

これは、混乱したり間違った回答につながる可能性があります。

既に多くの方が推測しているように、LangChainは私たちを助けるために再び準備ができています。

LangChainはmemoryというクラスを提供しています。これにより、モデルのコンテキストを意識したまま、チャット履歴全体または概要を保持して、間違った回答をしないようにすることができます。

 

4. なぜ単一のLLMを選ぶのか、全てを手に入れることができるのに？

 

私たちは皆、OpenAIのGPTモデルがまだLLMの領域にあることを知っています。しかし… メタのLlama、クロード、またはHugging Face Hubのオープンソースモデルなど、他にもたくさんの選択肢があります。

一つの会社の言語モデルにプログラムを設計すると、その会社のツールとルールに縛られてしまいます。

単一のモデルのネイティブAPIを直接使用すると、完全にそれに依存することになります。

GPTでアプリのAI機能を構築した後、MetaのLlamaを使用した方がより優れた機能を追加する必要があることがわかった場合、最初からやり直すことになります…これは全く良いことではありません。

LangChainはLLMクラスと呼ばれるものを提供しています。これは特別なツールであり、アプリ内で異なる言語モデルに簡単に切り替えたり、複数のモデルを同時に使用したりすることができます。

これが直接LangChainで開発するメリットであり、複数のモデルを同時に考慮することができる理由です。

 

5. LLMにデータを渡すのは難しい

 

GPT-4などの言語モデルは、膨大な量のテキストで訓練されています。そのため、自然とテキストで作業します。しかし、データを扱う際には通常苦労します。

なぜでしょうか。　

主に2つの問題があります：

• データを扱う際には、まずそのデータをどのように保持するか、そしてどのデータをモデルに表示するかを効果的に選択する方法を知る必要があります。LangChainは、インデックスと呼ばれるものを使用してこの問題を解決します。これにより、データベースやスプレッドシートなどの異なる場所からデータを取り込んで、AIに送信する準備ができるようにします。

• 一方、そのデータをモデルに与える方法を決定する必要があります。最も簡単な方法は、すべてのデータを直接プロンプトに入れることですが、よりスマートな方法もあります。

この2番目のケースでは、LangChainにはAIにデータを与えるためのさまざまな方法を使用する特別なツールがあります。直接プロンプトにデータセット全体を入れることができるPrompt stuffingや、Map-reduce、Refine、Map-rerankなどの高度なオプションの使用など、データをLLMに送信する方法を容易にします。

 

6. 開発インターフェースの標準化

 

LLMを大規模なシステムやワークフローに組み込むのは常に難しいです。たとえば、データベースからいくつかの情報を取得し、AIに渡し、AIの回答をシステムの別の部分で使用する必要があるかもしれません。

LangChainには、このようなセットアップのための特別な機能があります。

• Chainsは、異なるステップをシンプルな直線的な方法で結びつける文字列のようなものです。
• Agentsはよりスマートであり、AIの言葉に基づいて次に何をするかを選択することができます。

LangChainはまた、開発プロセスを効率化する標準化されたインターフェースを提供することで、これを簡素化しています。これにより、LLMやその他のユーティリティへの呼び出しとチェーンの統合が容易になり、全体的な開発体験が向上します。

 

結論

 

要するに、LangChainは、プロンプトの作成、応答の構造化、およびモデルの統合の複雑さに対処するためのツールと機能のスイートを提供しています。

LangChainは、単なるフレームワーク以上のものであり、データエンジニアリングとLLMの世界においてゲームチェンジャーです。

それはAIの複雑でしばしばカオスな世界と、データアプリケーションに必要な構造化されたシステマチックなアプローチとの橋です。

この探求を終えるにあたり、一つは明らかです：

LangChainは、単にLLMの未来を形作っているだけでなく、技術そのものの未来を形作っているのです。

[Josep Ferrer](https://www.linkedin.com/in/josep-ferrer-sanchez)はバルセロナ出身のアナリティクスエンジニアです。彼は物理工学を専攻し、現在は人間の移動に関連するデータサイエンスの分野で働いています。彼はデータサイエンスとテクノロジーに特化したパートタイムのコンテンツクリエイターでもあります。LinkedIn、Twitter、またはVoAGIで彼に連絡することができます。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!