「LlamaIndex 最新バージョン:Python における基礎から高度なテクニックまで -(パート3)」
LlamaIndex Latest Version Python Basics to Advanced Techniques -(Part 3)
これはLlamaIndexシリーズの第3部です。第2部もお読みいただく必要があります。
このシリーズの第2部では、Document Store、Service Contexts、LLM Predictorなどについて話しました。まだ読んでいない場合は、ぜひご覧ください。
LLM Predictor
LLMPredictorは、テキストの応答(Completion)を取得するための言語モデルの一部です。
以下では、LLMPredictorというクラスが設定されていることがわかります。
list_index.service_context.llm_predictor
<llama_index.llm_predictor.base.LLMPredictor at 0x7f076a4e1db0>
LlamaIndexのLLMクラスは、OpenAIやHugging Face、LangChainなどのLLMモジュールを定義するための統一されたインターフェースを提供します。
・もともとはLangChainのLLMChainクラスのラッパーでしたが、独立したモジュールとして開発されました。
LLM – LlamaIndex 🦙 0.7.9
適切な大規模言語モデル(LLM)を選ぶことは、LLMを構築する際に考慮する必要がある最初のステップの一つです…
gpt-index.readthedocs.io
以下にモジュールのリストがあり、OpenAI以外にもAnthropicやHugging Face、Palmなども利用できます。
Modules – LlamaIndex 🦙 0.7.9
OpenAI Agent + Query Engine Experimental Cookbook
gpt-index.readthedocs.io
以下にLLMPredictorの属性を確認できます。
list_index.service_context.llm_predictor.__dict__
{'_llm': OpenAI(model='text-davinci-003', temperature=0.0, max_tokens=None, additional_kwargs={}, max_retries=10), 'callback_manager': <llama_index.callbacks.base.CallbackManager at 0x1fdbee5b040>}
LLMとしては、OpenAIクラスが使用され、これが主要な処理を担当しています。
type(list_index.service_context.llm_predictor.llm)
llama_index.llms.openai.OpenAI
以下にOpenAIクラスの属性を確認できます。
We will continue to update VoAGI; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles