私たちの原則がAlphaFoldの公開を定義するのにどのように役立ったか

AlphaFoldの公開に私たちの原則がどのように役立ったか

世界との最大のブレイクスルーの共有に関する考察と教訓

知能を解決し、科学を進歩させ、人類の利益に貢献するという私たちの使命を実践することには重要な責任が伴います。社会にポジティブな影響を与えるためには、私たちは研究の倫理的な影響や応用を厳密かつ注意深く評価する必要があります。また、すべての新しい技術には潜在的なリスクがありますので、長期的なリスクと短期的なリスクを真剣に考慮しています。私たちは責任を持って先駆的な活動を行ってきました-特に責任あるガバナンス、研究、および影響に焦点を当てて。

これは、人工知能（AI）の利点を実現し、そのリスクと潜在的な否定的な結果を軽減するための明確な原則を設定することから始まります。先駆的な活動は、共同の努力です。そのため、私たちはGoogleやパートナーシップAI、経済協力開発機構（OECD）などが開発したAIコミュニティの標準に多くの貢献をしてきました。

私たちの運営原則は、広範な利益を優先し、追求しない研究領域と応用分野を定義する上で重要な役割を果たしています。これらの原則はDeepMindの設立以来、私たちの意思決定の中心にあり、AIの景色が変わり成長するにつれて改良されています。これらは、研究主導の科学企業としての役割に適したものであり、GoogleのAI原則と一致しています。

• 次世代のAIリーダーを支援する
• AI教育の追求 – 過去、現在、そして未来
• “`html ChatGPTでグラフ、チャート、ダイアグラムを作成する方法 ChatGPTでグラフ、チャート、ダイアグラムを作成する方法 ChatGPTは、グラフ、チャート、ダイアグラムを作成するための優れたツールです ステップ1：データを準備する まず、作成したいグラフ、チャート、ダイアグラムに必要なデータを準備します ステップ2：適切なライブラリを選択する 次に、使用するプログラミング言語に応じて、適切なグラフ、チャート、ダイアグラムの作成に使用するライブラリを選択します ステップ3：コードを書く 選択したライブラリを使用して、データを基にグラフ、チャート、ダイアグラムを作成するためのコードを書きます ステップ4：グラフを表示する 最後に、作成したグラフを表示します 以上で、ChatGPTを使用してグラフ、チャート、ダイアグラムを作成する方法が完了です “` このHTMLを使って、ChatGPTでグラフ、チャート、ダイアグラムを作成する方法を説明しています

原則から実践へ

書かれた原則はパズルの一部に過ぎません-それらを実践に移すことが重要です。AIの最前線で行われている複雑な研究においては、次のような重要な課題が存在します：将来の潜在的な利益と害を研究者がどのように予測できるのでしょうか？さまざまな視点からより良い倫理的な先見性を開発するにはどうすればよいのでしょうか？そして、負の結果を防ぐために科学の進歩とともに難しい問題をリアルタイムで探求するには何が必要でしょうか？

DeepMindでは、内部ツールキットの作成や社会技術的な問題に関する論文の発表、AI分野全体での熟議と先見の増加を支援する取り組みなど、責任あるガバナンス、研究、および影響についてのスキルとプロセスを多年にわたり開発してきました。DeepMindチームが責任を持って先駆的な活動を行い、害を防ぐために支援するために、私たちの学際的な審査委員会（IRC）は2週間ごとに開催され、DeepMindのプロジェクト、論文、および共同研究を慎重に評価しています。

先駆的な活動は、共同の能力であり、すべてのプロジェクトは私たちの共同のスキルと理解を高める機会です。私たちは多様な分野の専門家をローテーションさせることで、レビュープロセスを慎重に設計しています。機械学習の研究者、倫理学者、安全性専門家がエンジニア、セキュリティ専門家、ポリシープロフェッショナルなどと協力しており、私たちの技術の利点を拡大する方法を定期的に特定し、変更や遅延が必要な研究や応用分野を提案し、さらなる外部の協議が必要なプロジェクトを強調しています。

私たちは多くの進歩を遂げてきましたが、これには未知の領域も含まれています。私たちはすべての場面で正しく行動できるわけではありませんが、継続的な学習と反復にコミットしています。私たちの現在のプロセスを共有することが責任あるAIに取り組む他の人々に役立つことを願っており、引き続き学ぶためのフィードバックをお待ちしています。そのため、私たちはAlphaFoldという最も複雑で報酬の高いプロジェクトからの考察と教訓を詳細に示しています。AlphaFold AIシステムは、タンパク質構造予測の50年の難問を解決しました-そして、昨年一般社会に公開して以来、持続可能性、食料安全保障、薬物発見、基礎的な人間の生物学などの分野で進展を加速させるために科学者たちがそれを使用しているのを見ることができて嬉しく思っています。

‍

‍

タンパク質構造予測に焦点を当てる

私たちの機械学習の研究者、生物学者、エンジニアのチームは、タンパク質の折りたたみ問題をAI学習システムが大きな影響を創出するための非常に特異な機会と見てきました。この分野では、成功または失敗の標準的な基準があり、AIシステムが科学者の仕事を支援するために行う必要があること-タンパク質の三次元構造を予測すること-が明確に定義されています。また、多くの生物学的なシステムと同様に、タンパク質の折りたたみは誰もがその仕組みについてルールを書くには複雑すぎます。しかし、AIシステムはそれらのルールを自ら学ぶことができるかもしれません。

もう一つの重要な要因は、CASP（タンパク質構造予測の重要評価）として知られる2年に一度の評価でした。これはジョン・マウルト教授とクシシュトフ・フィデリス教授によって設立されました。CASPでは、参加者に実験を通じて最近発見された構造を予測することを要求し、非常に堅牢な進捗評価を提供しています。その結果は、野心的な研究と科学的な優れた成果の大きな促進効果をもたらします。

実際の機会とリスクの理解

2020年のCASP評価に向けて準備をしている中で、アルファフォールドは課題解決のために非常に大きな潜在能力を示していることに気付きました。私たちは実際の影響を分析し、以下の疑問を考えました：アルファフォールドは生物学の研究や応用をどのように加速させることができるのか？予期せぬ結果は何か？そして、私たちはどのように責任ある方法で進捗状況を共有することができるのか？

これには、考慮すべき多くの機会とリスクがありましたが、強力な専門知識を持たない分野も含まれていました。そのため、私たちは生物学研究、バイオセキュリティ、バイオ倫理、人権など、30人以上の分野のリーダーから外部の意見を求め、専門知識とバックグラウンドの多様性に重点を置きました。

これらの議論では、多くの一貫したテーマが浮かび上がりました：

1. 広範な利益と損害のリスクのバランス。私たちは、アルファフォールドが将来の進歩や既存の技術とどのように相互作用するかを含め、誤ったか故意の損害のリスクについて慎重な考え方で始めました。外部の専門家との議論を通じて、アルファフォールドがタンパク質を使った損害を劇的に容易にすることはないが、将来の進歩は注意深く評価される必要があるとより明確になりました。多くの専門家は、科学的研究の多くの分野に関連する進歩として、アルファフォールドが自由で広範なアクセスを通じて最大の利益を生み出すと強く主張しました。
2. 信頼性の高い信頼度の測定は責任ある使用には不可欠です。実験生物学者は、アルファフォールドの予測の各部分について、適切にキャリブレーションされた信頼度メトリックを理解し共有することが重要であると説明しました。アルファフォールドの予測のうち信頼度が低いか予測の不確実性が高いと判断されたものを省略することを最初に検討しましたが、私たちが相談した外部の専門家は、これらの予測をリリースに保持することが特に重要であり、この情報を提示するための最も有用で透明性のある方法について助言を提供しました。
3. 公平な利益は予算不足の分野への追加サポートを意味する場合があります。私たちは、科学コミュニティ内の格差を増大させないようにする方法について多くの議論がありました。たとえば、貧しい地域に不釣り合いに影響を与えるいわゆる熱帯病は、しばしば適切な研究資金が与えられていません。私たちは、これらの分野で活動しているグループと積極的に協力し、手助けを優先することを強く推奨されました。

‍

‍

リリースアプローチの確立

上記の意見に基づいて、IRCは複数のニーズに対応するためのアルファフォールドのリリースセットを承認しました。これには以下が含まれます：

• 査読付きの出版物とオープンソースコード。ネイチャー誌に掲載された2つの論文とともに、オープンソースコードを提供することで、研究者がアルファフォールドをより簡単に導入し改良することができるようにしました。その後、Google Colabを追加し、誰でもタンパク質の配列を入力して予測された構造を受け取ることができるようにしました。
• EMBL-EBI（EMBLのヨーロッパバイオインフォマティクス研究所）とのパートナーシップによるタンパク質構造予測の大規模なリリース。公共機関であるEMBL-EBIは、タンパク質構造予測をGoogle検索と同じく簡単に検索できるようにします。初回のリリースでは、人体のすべてのタンパク質の予測形状を含み、最新の更新では科学に知られているほぼすべてのカタログ化されたタンパク質の予測構造を含みます。これは200万以上の構造で、すべてEMBL-EBIのウェブサイトで自由に利用でき、オープンアクセスライセンスで提供されており、これらの構造の解釈に関するウェビナーなどのサポートリソースも提供されています。
• データベースに3Dビジュアライゼーションを組み込む。予測の信頼性が高い部分と低い部分に対して目立つラベリングを行うことで、アルファフォールドの強みと限界についてできるだけ明確にすることを目指しました。また、色覚障害を持つ人々のニーズに配慮するなど、データベースをできるだけアクセスしやすく設計しました。
• 予算不足の分野で研究を行っている研究グループとの深いパートナーシップの構築。これには、シャーガス病とリーシュマニア症の研究を進めているDNDi（貧困疾患治療法）や、環境のプラスチック廃棄物削減に役立つプラスチック分解酵素を開発しているセンターフォーエンザイムイノベーションなどが含まれます。私たちの公共参加チームは、将来のさらなる共同作業をサポートするために、これらのパートナーシップに取り組み続けています。

この取り組みをどのように進めているか

初回リリース以来、190を超える国々から何十万人もの人々がAlphaFoldタンパク質構造データベースを訪れ、AlphaFoldのオープンソースコードを使用してきました。私たちは、AlphaFoldの予測が重要な科学的取り組みを加速させたとの方法についての話を聞くことができ、それらのストーリーを私たちの「アンフォールド（Unfolded）」プロジェクトで共有するために取り組んでいます。AlphaFoldに関連する悪用や損害については、現時点では認識されていませんが、引き続きこれに注意を払っています。

AlphaFoldはDeepMindの他の研究プロジェクトよりも複雑でしたが、私たちは学んだことの一部を活用し、他のリリースに取り入れています。

以下の方法でこの取り組みを進めています：

• プロセスのあらゆる段階で外部の専門家の意見を求める範囲を広げるとともに、参加型の倫理の仕組みをより大規模に探求しています。
• 個々のプロジェクトやブレイクスルーに限らず、生物学におけるAIの理解を広げることで、時間の経過に伴う機会とリスクについてより強い見識を開発しています。
• 現行の構造によって十分にサービスされていない分野のグループとのパートナーシップを拡大する方法を見つけることです。

私たちの研究と同様に、これは絶え間ない学びのプロセスです。広範な利益のためのAIの開発は、DeepMindを超えたコミュニティの取り組みです。

私たちは他の人々とのパートナーシップにおいて、まだ多くの困難な作業が残っていることと、責任を持って先導していくことを心に留める努力をしています。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!