大規模な言語モデルは本当に行動し思考できるのか？イリノイ大学アーバナ・シャンペーン校の研究者が意思決定の向上のためにLATSを導入

「大規模な言語モデルが本当に行動し思考できるのか？イリノイ大学アーバナ・シャンペーン校の研究者がLATS導入による意思決定の向上を検証」

LLMは、推論や意思決定のタスクにおいて価値のある存在となっています。複雑な問題を連続したステップに分解することで優れたパフォーマンスを発揮しますが、自己整合性や多段階分解といった方法を用いることで更なる改善が可能です。LLMはまた、さまざまなドメインにおける意思決定にも有効ですが、動的な環境への適応には苦労することがよくあります。Monte Carlo tree search (MCTS)などの木構造ベースの探索手法を活用することで、LATSはLLMの能力を探索し代替案を展開し、別個の価値関数のトレーニングの必要性を排除します。

推論と意思決定能力を持つ自律エージェントは、AIの重要な焦点です。従来の強化学習が主流でしたが、LLMはその代替手段となります。LLMは、自然言語処理や複雑な環境を含む推論や適応性のタスクで優れた成績を収めています。ただし、彼らの能力を向上させるためのプロンプト技術では、思慮深い意思決定が不足していることがよくあります。

イリノイ大学の研究者たちは、LATSというフレームワークを紹介し、意思決定、計画、推論のためのLLMの能力を結集させました。LATSは、LLMをエージェント、価値関数、最適化器として再定義します。MCTSを活用して異なる意思決定パスを探索し、外部のフィードバックを統合して適応型の問題解決を行います。実験的評価では、GPT-4やGPT-3.5などのLLMを用い、プログラミングやWeb閲覧など多様なドメインで高得点を獲得しました。

• 「どのようにして、1ビットのウェイトで大規模な言語モデルを効果的に圧縮できるのか？この人工知能の研究では、PB-LLMを提案しています：部分的にバイナリ化されたLLMの潜在能力を探索する」
• プリンストン大学とメタAIの研究者たちは、長い文脈を要約ノードの木に最初に処理する新しい方法、MemWalkerを導入しました
• マイクロソフトの研究者が「SpaceEvo」を紹介：現実世界のデバイスに対して超効率的で量子化されたニューラルネットワークを設計する画期的なゲームチェンジャー

LATSは、プログラミング、HotPotQA、WebShopなどの異なるドメインをカバーした広範な実験的評価を通じて、その多目的性と効果を示しています。GPT-4を用いたプログラミングにおいては、驚異的な94.4%の成功率を達成しました。WebShopでのWeb閲覧では、GPT-3.5を用いて平均スコア75.9を達成し、その多様な応用可能性を示しました。彼らの結果は、LLMを活用した自律的な意思決定を強化するための有望なフレームワークであるLATSを示しています。利用可能な情報源は、フレームワークの効果を紹介し評価することに重点を置いており、潜在的な欠点についての詳細な情報が必要です。

まとめると、本研究では、意思決定を向上させるためにLLMの様々な側面を統合したLATSというフレームワークを紹介しました。LATSは、探索アルゴリズム、外部のフィードバック、経験的な学習を組み込むことで、以前の制約を克服しています。多様なドメインでの実験的評価は、LATSの効果を示し、追加のトレーニングなしでの自律的な意思決定のためのその多用途性を強調しています。LATS内で提案されたシナジーは、汎用性のあるエージェントの開発を推進するための約束を持っています。しかし、LATSフレームワークの自律的な推論と意思決定への応用における制約と改善の余地については、さらなる研究と分析が必要です。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!