共同グラフニューラルネットワーク

The Evolution of Graph Neural Networks Explained by a Beauty and Fashion Expert)

新しいGNNのアーキテクチャ

グラフニューラルネットワーク（GNN）の大部分は、ノードの状態が集約された近傍メッセージに基づいて更新されるメッセージパッシングのパラダイムに従います。この記事では、共同GNN（Co-GNN）という新しいメッセージパッシングアーキテクチャを紹介します。これは、各ノードが「聞く」「放送する」「聞いて放送する」「孤立する」という選択肢を持つプレーヤーとして見なされるものです。スタンダードなメッセージパッシングは、すべてのノードがすべての隣接ノードに「聞いて放送する」という特殊なケースです。Co-GNNは非同期であり、より表現力があり、オーバースクウォッシングやオーバースムージングなどのスタンダードなメッセージパッシングGNNの一般的な問題に対処できることを示します。

この記事は、Ben Finkelshtein、Ismail Ceylan、およびXingyue Huangと共著し、B. Finkelshtein et al.に基づいています。 協調性のあるグラフニューラルネットワーク（2023）arXiv:2310.01267。

グラフニューラルネットワーク（GNN）は、分子、生物相互作用、ソーシャルネットワークなどのグラフ構造データに対する学習に使用される人気のあるアーキテクチャです。大部分のGNNは、メッセージパッシングのパラダイム[1]に従います。すなわち、各レイヤーでグラフのノードはグラフのエッジを通じて情報を交換します。各ノードの状態は、隣接ノードから送信されたメッセージの順不同の集約操作（通常、合計または平均）を使用して更新されます[2]。

メッセージパッシングのパラダイムは、グラフMLに非常に影響力がありますが、理論的および実践的な制限があります。メッセージパッシンググラフニューラルネットワーク（MPNN）がグラフの同型性テストと形式的に同等であること[3]は、その表現力について理論的な上限を提供します。その結果、追加の情報（位置エンコーディングや構造エンコーディングなど）なしに、非同型のグラフ（以下の例では6サイクルと2つの三角形）を区別することは、メッセージパッシングによって不可能です…

• 大型モデルがビッグデータと出会う：スパークとLLMsの調和
• 「初期ランキング段階への原則的なアプローチ」
• 「共通テーブル式を使ってSQLロジックを向上させる」

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!