Search Results A

「Flowsに会いましょう：複雑なAI-Humanの相互作用をモデル化するための革命的なAIフレームワーク」

人工知能の最近の進歩により、コンテキスト内の情報に驚くほど適応することができるため、構造化された推論の多くの機会が生まれました。複数のAIシステムと人間の協力は重要です。戦略的なコンテンツの作成により、LLMは複雑な推論を行い、その能力を向上させることができます。このようなモデルを設計し、研究するためには、主体的で組織的な方法が必要です。EPFLとPSL大学の研究者は、「制御フロー」というフレームワークを提案して、複雑な相互作用をモデル化しています。これらの制御フローは、ますます複雑なタスクを解決するために設計されたツールです。簡単に言えば、これらは自己完結型の計算のブロックです。これらのフローは、複雑さが大幅に低減された任意のネストされた相互作用に再帰的に組み合わせることができます。フローは、AI-AIおよび人間-AIの相互作用を含む任意のコラボレーションを表します。フローは、個々のフローの状態を分離し、メッセージベースの通信を唯一の相互作用方法として指定する高レベルの抽象化を導入します。ReAct、AutoGPT、BabyAGIなどの制御フローの例があります。フローのポテンシャルを示すために、研究者は競技プログラミングの課題を選びました。この課題では、ユーザーが仕様によって定義された問題を解こうとします。彼らは計画フローを含む特定のビルディングブロック（フロー）を設計しました。これにより、AIエージェントはアプローチを戦略的に立てることができます。反省フローでは、AIエージェントが以前の回答を分析し、改善することができます。コラボレーションフローでは、1つのAIエージェントが別のエージェントからフィードバックを求めることができます。コードテストフローでは、コードを実行し、結果に基づいて最適化を行います。これらのビルディングブロックを組み合わせて、複数のコーディングフローを作成し、CodeForcesやLeetCodeから取られた問題を評価しました。GPT-4のような高度なモデルでも、この課題を解くことは困難です。彼らは、GPT-4の解決率が72%に低下することを発見しました。一方、複雑な相互作用の戦略は、AI-AI相互作用のカットオフ後の解決率を20%、人間-AI相互作用を54%改善しました。研究者は、このフレームワークが直感的でシンプルな任意の複雑な相互作用の設計を可能にすると主張しています。この方法をすべての人に利用可能にするために、研究者は「aiFlows」ライブラリをオープンソース化しました。これには、より複雑なフローに簡単に使用、拡張、組み合わせることができるFlowsのリポジトリであるFlow Verseが含まれています。また、デバッグと分析を可能にする詳細なログインフラストラクチャ、フローの実行を調べるための可視化ツールキット、詳細なドキュメントとチュートリアルファイルも提供されています。複雑な相互作用を注意深く設計することで一般化を改善できますが、追加の計算と待ち時間のコストがかかります。彼らのフレームワークは、AIにおける実践的な革新と理論的なイノベーションを支援するための堅牢な基盤となるでしょう。彼らは、将来の研究では、問題解決能力を効率的に向上させるAIシステムの構築を目指しています。

メタAIの研究者たちは、大規模な言語モデルの生成物を批評するための新しいAIモデルを紹介しました

I had trouble accessing your link so I’m going to try to continue without it. 大規模言語モデル（LLM）の能力は、一貫性のある、文脈に即した、意味のあるテキストを生成することがますます複雑になってきました。しかし、これらの進歩にもかかわらず、LLMはしばしば不正確で疑わしい、意味のない結果を提供します。そのため、継続的に評価し改善する技術は、より信頼性の高い言語モデルに向けて役立つでしょう。言語モデルの出力は、LLMの助けを借りて向上させられています。現在の研究の中には、情報検索型の対話タスクに対して自然言語フィードバックを与えるためにユーティリティ関数を訓練するものもあります。一方、他の研究では、指示プロンプトを使用して、さまざまなドメインのモデル生成テキストの多面的評価スコアを作成しています。元の研究では、数学や推論などの複雑なタスクのモデル出力の生成についてのフィードバックを提供せず、出力応答に対して一般的なフィードバックのみを提供していましたが、最近の研究では、研究者がLLMを自己フィードバックするために指示を調整する方法を紹介しています。この研究では、Meta AI Researchの研究者がShepherdという、モデルによって生成された出力を評価するために特別に最適化された言語モデルを紹介しています。彼らは、さまざまな分野にわたってコメントを提供できる強力な批判モデルを開発することを目指していますが、以前の研究と同様の目標を共有しています。彼らのアプローチでは、事実性、論理的な欠陥、一貫性、整合性などの特定の問題を特定することができ、必要に応じて結果を改善するための修正を提案することもできます。図1：Stack ExchangeとHuman Annotationからのトレーニングデータの例具体的には、Shepherdは、深いトピック知識、改善の具体的な提案、広範な判断と推奨事項を含む自然言語のフィードバックを生成することができます。彼らはShepherdを改善し評価するために、2つのユニークなセットの高品質なフィードバックデータセットを開発しました：（1）オンラインフォーラムから収集されたコミュニティフィードバック、より多様な相互作用を捉えるためにキュレーションされたもの、および（2）多くのタスクにわたる生成物を収集した人間による注釈付き入力。図1を参照してください。これらのデータセットの組み合わせでトレーニングされたShepherdは、いくつかの下流タスクでChatGPTモデルを上回る優れたパフォーマンスを発揮しています。コミュニティデータは、人間による注釈付きデータよりも有用で多様です。ただし、コミュニティフィードバックと人間による注釈付きフィードバックデータの効果を詳しく調査した結果、コミュニティフィードバックの方が非公式な傾向があることがわかりました。これらの微妙な違いにより、Shepherdはさまざまなタスクに対してフィードバックを提供することができ、高品質な人間による注釈付きデータを使用してモデルを微調整することでモデルのパフォーマンスを向上させることがわかりました。彼らはShepherdがAlpaca、SelFee、ChatGPTなどの最先端のベースラインと比較し、モデルベースと人間による評価を行いました。彼らはShepherdの批判が他のモデルの批判よりもよく受け入れられることが多いことを発見しました。たとえば、Alpacaはすべてのモデルの回答を補完する傾向があり、不正確なフィードバックが多く生成されます。SelFeeは、モデルの回答を無視したり、すぐにクエリに回答したりして、間違いを特定する可能性のあるフィードバックを提供しないことがよくあります。…