AI研究の善循環
'AI研究の善循環' can be translated as Positive Feedback Loop in AI Research.
オープンな役割を表示する: https://www.deepmind.com/careers/jobs?sort=alphabetical
最近、DeepMindの研究科学者であるペタル・ヴェリッコヴィッチさんと話し合いました。ペタルさんは共著者として、論文「The CLRS Algorithmic Reasoning Benchmark」をICML 2022で発表します。開催地はアメリカのメリーランド州ボルチモアです。
DeepMindへの私の道のり…
ケンブリッジ大学での学部課程を通じて、現代の深層学習システムの限界を示すものとして、ゲーム「碁」を巧みにプレイすることができないことは明確な証拠とされていました。私はいつも、そのようなゲームのマスタリングが可能性の領域を超えることができるのかと疑問に思っていました。
しかし、2016年初頭、私が機械学習の博士課程を始めた直後、すべてが変わりました。DeepMindは世界でもトップクラスの碁プレイヤーとの挑戦マッチを行い、私は数日間寝ずに見守りました。DeepMindは勝利し、画期的なゲームプレイ（例えば「Move 37」など）を生み出しました。
それ以降、私はDeepMindを不可能なことを実現できる会社と考えるようになりました。それで、いつかその会社に参加することに努力を集中しました。2019年初頭に博士課程を提出した直後、私はDeepMindの研究科学者としての道を歩み始めました！
私の役割…
私の役割は、学習、研究、コミュニケーション、助言の好循環です。常に新しいことを学ぼうと努めています（最近では、「Category Theory」という計算構造の魅力的な研究方法など）、関連する文献を読み、講演やセミナーを見ます。
それから、これらの学びを活用して、チームメンバーとアイデアを出し合い、この知識を広めて世界に良い影響を与える方法についてブレインストーミングします。これらのセッションからアイデアが生まれ、理論的な分析とプログラミングの組み合わせを活用して仮説を立てて検証します。私たちの手法が成果を上げれば、一般のコミュニティと知見を共有する論文を書くことが通常です。
研究結果を適切に伝えずには意味がありませんし、他の人々が効果的にそれを活用できるようにすることも重要です。そのため、私はICMLなどのカンファレンスで私たちの研究成果を発表したり、講演したり、学生の共同指導をしたりすることに多くの時間を費やしています。これはしばしば新しいつながりを形成し、探索すべき新しい科学的な結果を明らかにすることにつながり、好循環をもう一度始めることにつながります！
ICMLでの取り組み…
私たちは、私たちの論文「The CLRS algorithmic reasoning benchmark」についてスポットライトプレゼンテーションを行います。これにより、急速に進展しているニューラルアルゴリズムの推論分野での取り組みをサポートし、豊かにすることを期待しています。この研究では、グラフニューラルネットワークによって「Introduction to Algorithms」の教科書から30種類の多様なアルゴリズムの実行を課題とします。
最近の多くの研究は、アルゴリズム計算が可能なニューラルネットワークを構築しようとするものであり、通常のニューラルネットワークが持たない推論能力を与えることを目的としています。重要な点として、これらの論文の各々が独自のデータセットを生成するため、進展を追跡するのが困難であり、この分野への参入のハードルが高くなっています。
CLRSベンチマークは、提供されるデータセットジェネレータと公開されているコードを活用して、これらの課題を改善しようとしています。私たちはすでにコミュニティから非常に大きな熱意を感じており、ICMLの間にそれをさらに高めることを望んでいます。
アルゴリズム推論の未来…
アルゴリズム推論に関する私たちの研究の主な夢は、高次元のニューラル実行者内で古典的なアルゴリズムの計算を捉えることです。これにより、これらの実行者を生のまたはノイズのあるデータ表現上に直接展開し、それが設計されていない入力に対して「古典的なアルゴリズム」を適用することができます。
興味深いことは、この方法がデータ効率の良い強化学習を可能にする可能性があることです。強化学習には強力な古典的なアルゴリズムの例がたくさんありますが、ほとんどの場合、それらは特権的な情報へのアクセスが必要であるため、標準的な環境（Atariなど）で適用することはできません。私たちの設計図は、これらのアルゴリズムの計算をニューラル実行者内に捉えることによって、エージェントの内部表現上に直接展開することで、この種の適用を可能にします。私たちはすでにNeurIPS 2021で公開された動作するプロトタイプを持っています。次に何が起こるかを楽しみにしています！
楽しみにしています…
私はICML Workshop on Human-Machine Collaboration and Teamingが楽しみです。これは私の興味のあるトピックです。基本的に、私は人間のドメインエキスパートとのシナジーを通じてAIの最も優れた応用が生まれると信じています。このアプローチは、昨年末にNatureの表紙に掲載されたAIを利用した純粋数学者の直感力を強化するための最近の研究とも非常に一致しています。
ワークショップの主催者は私をパネルディスカッションに招待し、これらの取り組みの広範な意義について議論することを依頼してきました。私は、非常に興味深い共同パネリストのグループと一緒に話す予定です。その中にはトリニティ・カレッジ、ケンブリッジでの学部時代に尊敬していたサー・ティム・ゴーワーズ氏も含まれています。言うまでもなく、このパネルにとても興奮しています！
これからの展望…
私にとって、ICMLのような主要な学会は、私たちの分野における多様性と包括性について考える機会を提供してくれます。ハイブリッドおよび仮想の学会形式により、これまで以上に多くの人々が学会に参加できるようになりましたが、AIを多様で公正かつ包括的な分野にするためには、まだまだ取り組むべき課題があります。AIに関連する介入は私たち全員に影響を与えるものであり、包括的なコミュニティが議論の重要な一部となり続けることを確保する必要があります。
これが私がAfrican Master’s in Machine Intelligence（AMMI）で幾何学的深層学習の講義を行っている理由です。AMMIは、アフリカの優れた新興研究者に対して一流の機械学習教育を提供し、地域内でAI実践者の健全なエコシステムを構築しています。最近、AMMIの学生の中にはDeepMindでのインターンポジションに参加した者もいくらかお会いできましたが、とても嬉しかったです。
私はまた、自分の出身地である東欧地域でのアウトリーチの機会にも非常に情熱を持って取り組んでいます。この地域では、私が科学的な基礎と好奇心を培い、人工知能の概念を習得するために必要なものを与えてくれました。東欧機械学習（EEML）コミュニティは特に印象的です。その活動を通じて、この地域の有望な学生や実践者が世界クラスの研究者とつながり、貴重なキャリアアドバイスを受けることができます。今年、私はEEMLセルビア機械学習ワークショップの主催者の一人として、EEMLを私の故郷であるベオグラードにもたらすのを手伝いました。これが地元のAIコミュニティを強化し、EE地域の将来のAIリーダーを力づける一連のイベントの最初になることを願っています。
空いているポジションを見る：https://www.deepmind.com/careers/jobs?sort=alphabetical
We will continue to update VoAGI; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles
