Search Results A

「Pythonでリンゴとオレンジを比較する」

果物サラダの例を通じた予算最適化の解説

ETHチューリッヒとマイクロソフトの研究者が、大規模な言語モデルの推論を強化するための人工知能フレームワーク「SCREWS」を紹介しました

大型言語モデル（LLM）は、さまざまな推論タスクで成功しています。意図した目的が達成されることを保証するために、LLMの結果を反復的に調整する必要がある場合があります。なぜなら、出力は最初の試行でのみ正確な場合があるからです。これらの改善技術は、連続する結果（同一のモデル、外部モデル、またはツールからの結果）がパフォーマンスを向上させることを前提としています。しかし、後のバージョンが常に改善される保証はありません。図1に示すように、改善は誤った結果を引き起こす場合もあります。これにより、モデルは選択の技術を使用して以前の結果を選択するように促されます。さらに、以前のイテレーションの改良に関する先行研究では、単一の固定推論技術が頻繁に使用されています。しかし、人間はより適応性があります。図1: 条件付き再サンプリング（または「改善」）が初期応答の適切な変更をもたらす場合があることを示す事例研究の例。変更に代わり、この場合は正しいものである初期応答が選択モジュールによって選ばれるかもしれません。製品マネージャーは、優先順位付けテクニックに切り替える前に、優先順位付けテクニックでアイデアを複数生成するためのブレインストーミング技術を使用することがあります。同様に、試験の準備をする学生は、誘導的な推論を使用して結果を確認するために、帰納的な推論を使用することがあります。したがって、私たちは様々な戦術を試すために改善に対するモジュラーな戦略を提案しています。この論文では、ETH ZurichとMicrosoft Semantic Machinesの研究者が、変更に関する推論のためのモジュラーフレームワークであるSCREWSを紹介しています。サンプリング、条件付き再サンプリング、および選択は、フィギュア2で詳細に紹介されるアーキテクチャの3つのコアコンポーネントです。彼らはそれぞれのモジュールのサブモジュールを固定してSCREWSを実行します（例えば、サンプリングモジュールに「考えの連鎖」を選ぶことができます）。これは特定のタスクと入力シーケンスに対して行われます。図2は、変更に関する推論のためのモジュラースクリューフレームワークの上位レベルの概要を示しています。3つの大きなボックス（または「モジュール」）は、いくつかの選択肢（または「サブモジュール」）を含んでいます。セルフリファイン、リーストトゥモスト、LLMsノウ（主に）、セルフコンシステンシー、セルフインプルーブ、PHP CoT、セルフコレクト、Socratic CoT、プログラムオブ思考など、多くの以前の試みがフレームワークの例として見られます。(…)は、各モジュールに追加される可能性のある追加のサブコンポーネントを示しており、これには、サンプリングモジュールのキャッシュされたメモリやオンライン検索、条件付き再サンプリングに対する微調整モデルや外部検証者、選択モジュールに対する人間またはオラクルに基づく選択などが含まれます。サンプリングの最初の出力は、条件付き再サンプリングに渡され、元のサンプルに基づいて変更を作成するかどうかを判断し、必要に応じて変更を作成します。選択モジュールは、すべてのサンプルと変更から最良のものを選択します。彼らのフレームワークのモジュラーデザインを考慮すると、追加のフレームワーク要素を使用することで、いくつかの新しく提案された自己改良手法を強化することができます。彼らのモデルベースの選択技術と自己改良手法を組み合わせることで、全体的なパフォーマンスを向上させることができます。彼らはChatGPTまたはGPT-4を使用して、マルチホップ質問応答、算術的推論、コードデバッグなどのさまざまな推論タスクでSCREWSを評価しています。標準のサンプルと再サンプリング手順と比較して、彼らの提案された解決策は大幅な改善（10-15%）をもたらします。彼らは異種の再サンプリングの価値を示し、それがモデルの論理にどのように影響を与え、非常に低い総コストでベースラインを大幅に改善することができることを示しています。彼らはまた、モデルベースの選択アプローチの重要性を説明し、それは現代のLLMにおいてモデルが以前のより確かな出力に戻ることを可能にする重要な要素です。

コンセプトグラフの紹介：３Dシーンのためのオープンボキャブラリーグラフ構造表現

視覚シーンに関する情報をキャプチャして符号化することは、コンピュータビジョン、人工知能、またはグラフィックスのコンテキストで、シーン表現と呼ばれます。これには、オブジェクト、その位置、サイズ、色、関係など、シーンに存在する要素と属性の構造化または抽象化された表現の作成が含まれます。ロボットは環境をナビゲートする際に、ボード上のセンサからこれらの表現をオンラインで構築する必要があります。これらの表現は、シーンのボリュームとロボットの動作時間の維持のためにスケーラブルで効率的でなければなりません。オープンライブラリはトレーニングセッションの事前定義されたデータに制限されるべきではなく、推論中に新しいオブジェクトや概念を処理できる必要があります。これには、密な幾何情報の収集やタスク計画のための抽象的な意味情報など、さまざまなタスクの範囲での計画を可能にする柔軟性が要求されます。上記の要件を含めるために、トロント大学、MIT、モントリオール大学の研究者は、ロボットの知覚と計画のための3Dシーン表現手法であるConceptGraphsを提案しています。基礎モデルを使用して3Dシーン表現を取得する従来のプロセスでは、インターネットスケールのトレーニングデータが必要であり、3Dデータセットも比較可能なサイズである必要があります。これらの表現は、冗長な意味特徴ベクトル上のすべてのポイントに基づいており、必要以上のメモリを消費し、大きなシーンにスケーラビリティを制限しています。これらの表現は密であり、マップ上で動的に更新することができないため、分解することが容易ではありません。チームによって開発された手法は、ノード表現を持つグラフ構造でシーンを効率的に記述できます。階層的な3Dシーン表現を構築できるリアルタイムシステムに構築することができます。 ConceptGraphsは、3Dマッピングシステムからの幾何学的データと2D基礎モデルからの意味的データを統合するオブジェクト中心のマッピングシステムです。したがって、画像と言語の基礎モデルによって生成された2D表現を3Dの世界に結びつけるこの試みは、言語によるオブジェクトの位置づけ、3Dの推論、およびナビゲーションなどのオープンな語彙タスクで印象的な結果を示します。 ConceptGraphsは、認識と計画のためのオープンな語彙の3Dシーングラフと構造化された意味抽象を効率的に構築することができます。研究チームはまた、ConceptGraphsを現実世界の車輪式および脚式ロボットプラットフォームに実装し、これらのロボットが抽象的な言語クエリのタスクプランニングを容易に実行できることを実証しました。提供されたRGB-Dフレームを使用して、チームはクラス非依存のセグメンテーションモデルを実行して候補オブジェクトを取得します。幾何学的および意味的な類似度測定を使用して、複数のビューでそれらを関連付け、3Dシーングラフ内にノードをインスタンス化します。次に、各ノードにキャプションを付けるためにLVLMを使用し、隣接ノード間の関係を推論し、シーングラフ内にエッジを構築します。研究者は、将来の研究ではモデルに時間的なダイナミクスを統合し、構造化されていないより複雑な環境でのパフォーマンスを評価する予定です。最後に、彼らのモデルは、密な暗黙的な表現の既存の景観の主要な制限に対処しています。