責任ある先駆文化の構築

Building a responsible pioneering culture.

今日開発されている最も影響力のある技術を用いて社会に貢献する方法

世界有数の人工知能研究所の最高執行責任者として、私は私たちの技術が人々の生活にどのような影響を与えるか、そして私たちの努力がポジティブな結果をもたらすようにするためにどのようにするかを考える時間をたくさん過ごしています。これは私の仕事の焦点であり、私が世界の指導者や業界の重要人物と会う際に伝える重要なメッセージです。たとえば、私がスイスのダボスで開催された世界経済フォーラムで主催した「テクノロジーを通じた公平性」に関するパネルディスカッションでもこの焦点がありました。

ダボスで行われている環境、公平性、より良い世界を構築するための重要な議論に触発され、私自身のテクノロジーリーダーとしての旅のいくつかの考えを共有したいと思います。また、DeepMindが真にグローバルコミュニティに利益をもたらす技術を構築するという課題に取り組む方法についてもいくつかの示唆を提供します。

2000年、私はIntelでの仕事から休職し、父親が育ったレバノンの孤児院を訪れました。2か月間、私は孤児院の最初のコンピューターラボに20台のPCを設置し、学生と教師に使用方法を教えるために働きました。この旅は元々私の父親を敬うためのものでした。しかし、技術的なインフラが非常に限られた場所にいることは、私の仕事に対する新しい視点を与えてくれました。Intelで開発している多くの製品が何百万人にアクセスできないということに気づきました。アクセスのギャップが不平等を悪化させているということに痛感しました。コンピューターが問題を解決し、一部の地域で進歩を加速させている一方で、他の地域はますます取り残されているということです。

その最初のレバノンへの旅の後、私は自分のキャリアの優先順位を再評価し始めました。常に画期的な技術の構築に参加したかったのですが、米国に戻った後は、ポジティブで持続的な社会的影響をもたらす技術の構築に焦点を絞りました。それが私を教育とテクノロジーの交差点でさまざまな役割に導いたのです。それには、開発途上国の学生に対して技術へのアクセスを向上させるために取り組む非営利団体であるTeam4Techの共同設立も含まれます。

• YouTubeと協力しています
• 科学者が本当のスーパーヒーローであることを実感する
• 私のDeepMindインターンからメンターへの道のり

2018年にDeepMindのCOOとして入社した理由の一つは、創業者とチームが同じ社会的影響に焦点を当てていることに気づいたからです。実際、DeepMindでは、私たちの日常生活に技術を統合するための私自身の価値観と希望を完璧に表現する用語を提唱しています。それが「責任を持って先駆ける」という言葉です。

私は、技術を扱う人々にとって、責任を持って先駆けることは優先事項であるべきだと信じています。しかし、特に人工知能のような強力で広範な技術に関しては、それがさらなる影響をもたらすことを考慮に入れることが重要です。人工知能はおそらく今日開発されている最も影響力のある技術です。気候変動の対策から疾病の予防と治療まで、人類に数え切れないほどの利益をもたらす可能性があります。しかし、そのポジティブな側面とネガティブな後続的な影響の両方を考慮することが不可欠です。たとえば、採用や警察の文脈における人間の偏見を増幅させないように、AIシステムを慎重かつ緻密に設計する必要があります。

良いニュースは、私たちがAIの構築と使用において自分自身の仮定に常に疑問を投げかけ、誰もが本当に誰にでも利益をもたらす方法でこの技術を構築できるということです。これには議論と討論を促し、学びながら繰り返し改善し、社会的および技術的なセーフガードを備え、多様な視点を探求する必要があります。DeepMindでは、私たちのすべての取り組みは、社会を進め、人類の利益になるように知性を解決するという当社のミッションに基づいています。そして、責任を持って先駆ける文化を構築することは、このミッションを実現するために不可欠です。

責任を持って先駆けるとは、実際にはどのようなものでしょうか？私は、組織内で責任についてのオープンで正直な対話のための空間を作ることから始まると考えています。DeepMindで私たちがこれを行っている場所の一つは、私たちの多様なリーダーシップグループです。このグループは、私たちの研究の潜在的なリスクと社会的な影響について助言を行っています。

私が会社に入社した際に、倫理的なガバナンスを進化させ、このグループを形式化することは私の最初のイニシアチブの一つでした。そして、いくつかのミーティングを行った後に名前も具体的な目標も設定しませんでした。私は、責任の操作的で実践的な側面に焦点を当てるために、期待のない空間から始めたかったのです。そこでは、誰もが自分にとっての責任を率直に話し合うことができる状況を作りたかったのです。これらの対話は、共有のビジョンと相互の信頼を確立するために重要でした。これにより、将来的なよりオープンな議論が可能になりました。

責任を持って先駆けるもう一つの要素は、改善のための改善の考え方と哲学を受け入れることです。私は1990年代にIntelでDVD技術の標準化に取り組むために東京に移り住んだ際に「改善」という言葉を知りました。これは「継続的な改善」と訳される日本語の言葉です。最も簡単な意味で、カイゼンプロセスとは、時間をかけて継続的に行われる小さな改善が、より効率的で理想的なシステムにつながるプロセスです。しかし、プロセスの背後にあるマインドセットが本当に重要です。カイゼンが機能するためには、システムに関わるすべての人々が弱点や改善の機会を見つけることを見守らなければなりません。つまり、誰もが何かが壊れている可能性を認める謙虚さと、それをより良く変えることができるという楽観を持っていなければならないということです。

オンライン学習会社CourseraのCOOとしての私の経験では、私たちはカイゼンの手法を用いてコースの構造を最適化しました。2013年にCourseraに参加した当時、プラットフォーム上のコースは厳しい締め切りがあり、各コースは年に数回しか提供されませんでした。しかし、私たちはすぐにこれでは十分な柔軟性を提供できないことを学びました。そこで、完全なオンデマンドで自己ペースの形式に切り替えました。受講者数は増えましたが、修了率は下がりました。適度な構造がストレスや不便さを引き起こす一方で、あまりにも少ない構造は人々のモチベーションを失わせることがわかったのです。そこで、コースセッションが月に数回開始され、学習者は週ごとのマイルストーンに向かって取り組む形式に再度切り替えました。それには時間と努力がかかりましたが、持続的な改善の結果、人々が学習体験を十分に活用できる解決策を見つけることができました。

上記の例では、私たちのカイゼン手法は、学習者コミュニティからフィードバックを求め、彼らの懸念に耳を傾けたことで大いに効果的でした。これは責任ある先駆者であるためにも非常に重要な要素です。すべての答えを持っていないことを認め、外部の意見に常にアクセスできる関係を構築することです。

DeepMindにとって、それはセキュリティ、プライバシー、バイオエシックス、心理学などの専門家と協議することを意味することもあります。また、私たちの技術に直接影響を受けるさまざまなコミュニティに積極的にアプローチし、彼らの要望やニーズについて議論に参加してもらうこともあります。そして、時には、技術や科学のバックグラウンドに関係なく、私たちの人生における人々の意見をただただ聞くこともあります。彼らがAIの未来に対する希望を語るときに。

基本的には、責任ある先駆者とは、倫理と社会的インパクトに焦点を当てたイニシアティブを優先することを意味します。DeepMindの研究では、AIシステムをより公正かつ包括的にする方法に重点を置いています。過去2年間で、私たちはデコロニアルAI、AIにおけるクィアな公平性、AI言語モデルにおける倫理的および社会的リスクの緩和などに関する研究を発表してきました。同時に、AI分野における多様性を高めるために、専用の奨学金プログラムを通じて取り組んでいます。内部では、最近では安全性、倫理、ガバナンスに取り組むさまざまなチームと取り組むための責任あるAIコミュニティセッションを開催しました。何百人もの人々が参加するために登録しました。

私は従業員たちのこの仕事への熱意に感銘を受け、社会的インパクトを常に重視しているDeepMindの同僚たちに深く誇りを感じています。技術が最も必要としている人々に利益をもたらすことを確かにすることで、私たちは現代社会が直面する課題に本当の進展をもたらすことができると信じています。その意味で、責任ある先駆者であることは道義的な義務であり、個人的にはもっと良い進むべき道はないと思っています。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!