レコメンダーシステムにおけるマルチタスク学習：入門

レコメンダーシステムのマルチタスク学習：入門

すべてを試みるアルゴリズムの背後にある科学とエンジニアリング

マルチタスク学習は、コンピュータビジョンや自然言語処理では定着していますが、現代のレコメンダーシステムでの使用は比較的新しいため、あまり理解されていません。

この記事では、マルチタスクレコメンダーにおける最も重要な設計上の考慮事項と最近の研究の突破口について詳しく説明します。以下をカバーします。

• まず、なぜマルチタスクレコメンダーシステムが必要なのか
• マルチタスク学習の主要な課題であるポジティブとネガティブな転送
• ハードパラメータ共有と専門家モデリング
• 補助的な学習: 主目的の改善のために新しいタスクを追加するアイデア

さあ、始めましょう。

なぜマルチタスクレコメンダーシステムが必要なのか？

マルチタスクレコメンダーシステムの主な利点は、複数のビジネス目標を同時に解決する能力です。たとえば、ビデオレコメンダーシステムでは、クリック数だけでなく、視聴時間、いいね、シェア、コメントなどのユーザーエンゲージメントの形式も最適化したい場合があります。このような場合、複数のシングルタスクモデルよりも単一のマルチタスクモデルの方が計算コストが低く、タスクごとの予測精度も向上することがあります。

• 「インコンテキスト学習について知っておくべきことすべて」
• PaLM-Eをご紹介します：新たな5620億パラメータの具現化された多モーダル言語モデルで、ロボットの操作計画やビジュアルQAなどのタスクを実行します
• 学習曲線の航行：AIの記憶保持との闘い

また、電子商取引のレコメンダーシステムなど、1つのイベント（「購入」など）のみを予測したい場合でも、主目的のパフォーマンスを向上させるために、補助的なタスクを追加することができます。これらの追加タスクを「補助的なタスク」と呼び、この形式の学習を「補助的な学習」と呼びます。電子商取引の例では、「購入」に加えて「カートに追加」や「リストに追加」も学習することは意味があります。これらのイベントはいずれもショッピングの意図を示しているためです。

どのタスクがよく共に学習されるか？

大まかに言えば、第二のタスクを予測することが最初のタスクの予測をサポートする場合と、逆に最初のタスクの予測を悪化させる場合があります。前者の場合を「ポジティブな転送」と呼びます。
後者の場合を「ネガティブな転送」と呼びます。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!