「先天性とは何か、そしてそれは人工知能にとって重要なのか？（パート1）」
「先天性とは何か、そしてそれはAIにとって重要か？（1）」
生物学と人工知能の観点からみると、生来性の問題は人間型AIの未来において重要です。この2部構成の詳細な解説は、この概念とその応用についての理解を深めるのに役立つかもしれません。
著者：Vincent J. Carchidi
はじめに
最近のTwitterで人工知能（AI）の専門家であるゲイリー・マーカス（Gary Marcus）が立ち上げた興味深い話題について触れています。それは生物学的有機体における「生来性」の概念とAIにおけるその関連性についてのものです。以下のツイート全文は以下のとおりです。「アリにおける生来性の明白な証拠。ML界隈における生来性に対する現代の敵意は、これをすべて理解するときにはばかげて見えるでしょう」
他の専門家や研究者の反応は、最近のAI研究で引かれた予備的な線に沿って分かれました。トーマス・ディターリッチ（Thomas Dietterich）は「何かを生来的であると宣言することは、AI科学をどのように進めるのに役立ちますか？」と疑問を呈し、「事前トレーニングの全体的なアイデアは、優れた生来的な表現を持つネットワークを作成するためのものです」と付け加えました。ジュディア・パール（Judea Pearl）は「生来性は…特定のパフォーマンスを達成するために、データに外部的であり、事前トレーニングにも外部的な知識がエンコードされていることを警告するものです」と反論しました。ロドニー・ブルックス（Rodney Brooks）はエンドツーエンド学習を「崇拝」と呼びましたが、ディターリッチはこれに対して「大規模な言語モデル（LLM）は、自動化された学習がインターネットスケールで非常に広範かつ一般的なシステムを構築することができることを示している」と主張しました。
生来性の概念がAI研究者に役立つのかというディターリッチの元の質問は、考える価値があり、答える価値があります。
生来性の問題は、人間型AIシステムの設計を目指す将来の研究にとって重要です。この概念をこの分野に取り入れることは、しばしば混乱や論争を引き起こしてきましたが、AIは将来的には少なくとも人間の高次の認知能力のいくつかに類似することを目指しています。しかし、人間の認知的な本質に関する疑問は、しばしば過度の煽り、時代遅れの考え、あるいは人間がどのようにその能力を実現しているかが機械知能にとって重要なのかという考え方の完全な否定によって、この分野では取り上げられてきませんでした。
この記事では、生物学とAIにおける生来性について詳しく掘り下げ、議論を平等に立てることを目指しています。このため、多学科的な情報が詰まっているため、この記事は2部に分割されています。第1部では、人間の生来の道徳的認識の背景を設定することに焦点を当て、分析の一般的なフレームワークを避けるように構成されています。それにより、最近の煽りの過度な言語とは異なり、人間の道徳的認識における生来性の基礎についての視点を提供します。
これにより、第2部では、AIにおける生来性の考え方について議論することができます。私は、ゲームプレイAI研究の2つの例、Goをプレイするエージェント「AlphaGo Zero」とDiplomacyをプレイするエージェント「Cicero」に焦点を当て、生物学における生来性の概念とこれらのエージェントを関連付けます。これらのシステムのアーキテクチャについては、高レベルと低レベルの概要が提供されます。一部の基本的な知識は前提とされていますが、コンテンツは一般の読者にも理解しやすいように書かれています。
最終的に、これらの2つのパートは、人間のようなAI、あるいは人工一般知能の追求が生来性と直接関連していることを示します。
目次
第1部：
・道徳的認識における生物学的生来性
- 生来性に興味を持つ方法
- 道徳的認識の生来的基盤
- 意味
第2部：
· 人工知能における先天性
- ゲームプレイAIは人工汎用知能への窓口としての意味を持つ
- 影響
· 結論
道徳的認識における生物学的先天性
先天性の概念の堅牢性と、人間が先天的な認知能力を持っているかどうかについての議論は、今や2000年以上前から続いています。ここでその議論を解決することや、その用語の議論を終結させる定義を提供することは期待されていません。しかし、この問題についての個人的な視点は参考になるので、生物学とAIにおける先天性についての理解を深めるために利用されます。
先天性に興味を持つ方法
私の大学生時代と大学院生時代のかなりの知的エネルギーは、人間の道徳心理学が、心において強力で特定のドメインに特化した先天的な基盤を持っているという考えを支持するために費やされました。つまり、人間の行動の過程で常に他の視覚や聴覚などの心の他のシステムと接続しながらも、道徳的直感を生成するために指定された専門の認知システムを持っているということです。私は政治学を専攻していたので、認知科学や神経科学の特徴的な詳細にはあまり関心がない学問分野である政治学を学んでいました。
私の動機は、ある種の挫折感から生まれました。国際組織の授業を受けていたとき、1948年の国際連合の世界人権宣言が話題になりました。この宣言は、その採択後の数十年間にわたって広まり、国際的な人権活動と法の基礎として機能するものです。国際関係学者（政治学の一部門）は、この文書の創造とその後の利用について多くの視点を持っています。一部は、20世紀前半の反植民地運動や帝国の崩壊に焦点を当て、他の一部は政治活動や宗教的伝統を通じて数十年または数世紀にわたる観念的な影響に焦点を当て、他の一部は国家間の権力の分布に焦点を当てています。個人の道徳的判断、特定の文化の道徳的規範、およびグループや国の道徳的伝統は、これらの多くを支えています。
しかし、興味深いことに、これらの学者は皆、同じ暗黙の前提を立てていました。つまり、道徳は純粋に社会科学的な用語で理解できるという前提です。
これは私にとって不合理に思えました。国際宣言に結び付いている道徳的規範や習慣の進化については何千ページも書かれることがあります。しかし、個人が最初に道徳的直感を生成する能力をどのように開発するのでしょうか？この質問に答えることは、国際的な人権の規範や法律の発展に関連する質問に対する答え方を形作る必要があるように思われます。
道徳的認識の先天性
道徳心理学は国際関係に浸透していますが、先天性に関する議論は未だに十分に具体化されていません。先天性はさまざまな意味を持つことがあり、しばしば生物学的決定論の議論に巻き込まれます。
代わりに、人間の道徳を理解するためには、身体の他の物理的または認知的なシステムを理解するために使用する方法論的技術を用いるべきです。したがって、道徳的直感や道徳的判断を生成する能力と、それをどのように使用するかという能力との間に区別をつけます。これは認知科学全般で用いられる能力とパフォーマンスの区別です。これにより、社会や政治生活の多くの混乱を取り除いて、発達的に健全な人間が持つ道徳的能力である道徳的能力を説明することができます。道徳心理学における説明の対象は、適切に構築された道徳的能力であり、パフォーマンスは別の日に議論することとします。
法学者で哲学者のマティアス・マールマンは、最近の道徳認識と人権に関する重要な著作で次のように書いています。「それにもかかわらず、この能力のパフォーマンス、つまり行動の最終的な評価は、評価する人の利益によってバイアスを受ける可能性があります。したがって、このような影響を分析から排除する必要があります。特に実証的な研究ではこれは簡単なことではありません。」（p. 403）。社会科学では、「行動の最終的な評価」が実証的に関係のない要素に結びついていることがしばしばあるため、これがなぜ難しいか想像できます。AIでは、システムが能力を探るために人間の入力の一定レベルを必要とするため、これがなぜ難しいかを議論することもできます。
では、私たちは人間が社会世界を直感的に道徳的な観点で捉えることができるという理解から分析を始めます。哲学者スーザン・ドワイヤーは次のように述べています。「道徳的な評価、許容性の判断、責任の帰属といったものは、私たちが既にエージェント、患者、結果の観点で世界を『見ている』場合にのみ開始することができます」（p. 248）。しかし、この能力をどのように理解すべきでしょうか？なぜこのような視点で世界を「見る」ことができるのでしょうか？
次のステップは、これらの道徳的評価の基本的な特性を尋ねることです。ただし、お気に入りの善悪の例を選んでそこから始めることはできません。また、ジョナサン・ヘイトやクレイグ・ジョセフのような著名な研究者が行っているように、倫理的な分類（例：自律倫理、共同体倫理）を出発点にすることもできません。なぜなら、これらは道徳的評価の最も基本的な本質を無視しているからです。
これはどういう意味ですか？
実際のところ、道徳的判断は欺瞞的です。人間の個人が一生を通じて経験する親密な経験であり、感情的に充満した社会的状況や制度的な配置に向けられています。しかし、焦点を道徳的能力に絞り、関係のない要素を取り除いた後、法学者ジョン・ミハイルが言うように、道徳的判断には「見かけ上は無害な」特性があり、「遠大な影響」を持っています。これらの特性は、ミハイルの説明から以下の通りです（pp. 45–46）：
(1) 新規性：個人が行う道徳的判断には、過去に行った判断や他人から受けた判断と、一つ一つの点で関連性がありません。詳細：道徳的判断は表面上は似ているように見えるかもしれませんが、それらは個人にとって完全に新しい状況によって引き起こされます。他の人を無差別に攻撃することは誰にとっても誤りだという判断は聞いたことがあるかもしれませんが、関与する人々や周囲の環境、実際の行動などは一意です。このような判断は、新規性を持っています。
(2) 無制限性：原則として、個人は無制限の数の道徳的判断を行うことができます。個人が行う道徳的判断の数や種類には、記憶、時間などの非道徳的な制約以外の制約はありません。詳細：個人は単に状況についての言語化された判断を行うのではありません。むしろ、各判断は個人にとって完全に新しい状況の心理的表象を前提としています。他の人を無差別に攻撃することは「単なる判断」ではなく、具体的な人々や行動、その他の変数の特定の構成についての心理的表象に依存しています。道徳的判断の無制限性は、これらの判断（およびそれらが前提とする心理的表象）が個人によって無限に生成される可能性があることです。
これらの「遠大な影響」をまとめると、明らかになります。無制限なスケールで新しい道徳的判断を生成する能力を理解しようとすると、脳の「有限な記憶容量」によって脳が単に事前に整理された心理的表象のリストを利用してそれらを生成する可能性は排除されることに気付きます。ミハイルは「代わりに、彼女の脳は道徳的判断に関して、もっと複雑な何かを含んでいる必要があります。原則やルールに基づいて特徴付けられるかもしれない、彼女の道徳的判断の行使が前提とする表現の無限な数と多様性を構築または生成できる認知システムのようなものです」と書いています（AI研究者にとってはより信憑性のある「レシピまたはプログラムのようなもの」という言葉も使われています）。
影響
さあ、人間の心における道徳の固有の基盤を示す議論が見えてきます。この固有の基盤はドメイン固有であり（道徳的価値の評価に特化しています）、また固有的であり、つまり、基本的な道徳的能力、世界を道徳的に枠付け、評価する能力は学習されていません。さらに、人間が世界を道徳的に評価する具体的な方法も学習されていません（つまり、私たちの道徳的能力は、例えば、マールマンの例で言えば、リンゴが空腹な人の手に落ちたために木に美徳を与えるといった理由で単なる理由で使われるわけではありません）。
このような能力が学習される可能性は論理的にはありえますが、「学習」と「脳と環境の相互作用」を主要なメカニズムとして道徳的能力の発達に責任を持たせることは信じがたいでしょう。固有性の概念は非常に異なるものですが、神経科学者が次のように言っていることは非常に一般的です。「人間の認知学習と理解の優越性は、既存の深層ネットワークモデルと比較して、人間の認知システムに組み込まれたはるかに豊かで複雑な固有の構造から主に生じる可能性があります」（p. 693）。
上記で特定された道徳的判断の基本的な特性を活用することで、実験的な調査によってそれらの基礎にある複雑な表現を発見することが期待されます。実際、個人は、法的な概念に対して直感的に新しい状況に複雑な法的および哲学的原則を課すことができます — 原則を体系的かつ意識的に適用する必要がないだけでなく、形式的にそれらの原則に訓練されていない場合でも。例えば、ミハイルは、発達心理学者によって実験的な環境で提示される古典的な道徳的ジレンマに対する子供たちの反応を調査した結果、法的な有害なバッテリーの概念に反感を抱く直感を使っていることを発見しました。彼はしたがって、「人間の心の特性としての意図的な有害バッテリーへの敏感さ」を仮定しています（p. 780）。これは、経験の前に事前に特定された先天的な道徳的知識として特徴付けることができるものであり、生物学的な発達の過程で信頼性のある形で現れます。シドニー・レヴィン、ミハイル、アラン・M・レスリーによる後の研究では、意図は他のエージェントに「無罪推定」を課すことで、個人が新しい行動を評価する際に意図が推論されるというアイデアについて初期の実験的なサポートが見つかりました。
このような心の描写は複雑です — “道徳的な直感は人間の行動の構造化された心的表現を通じて行われる計算プロセスの出力として理解できる”と、これらの著者は別の場所で指摘しています。”行為ツリー”を使用して道徳的ジレンマに関する参加者の直感を探る実験は、認知科学の一部の特定の領域全体を通じて長く続くテーマをサポートしています：道徳的直感を前提とする精神的表現は “非常に単純なものではなく、ヒューリスティックやバイアスの観点から捉えることはできない”（p. 31）。
（実験的な調査の結果、道徳的直感の心的表現が非常に単純であることが判明する可能性もあります。この場合でも、道徳に対する先天的な基盤を仮定することができますが、専用の認知システムではないかもしれません。）
これらすべてが示すとおり、生物学的な先天性は、経験の前に遺伝子によってどのような心のシステムが与えられ、どの程度それらがドメイン固有の知識で事前に定義されているかということ以上のものです。むしろ、これらの能力は、個人の意識的な認識なしに生産的に他の能力と相互作用します。人間の行動の因果関係の表現、道徳的直感、言語的直感、心の理論は、いずれも、新しい行動を不正または不道徳と見なすことを言葉で述べるという、一見単純な問題においていくつかの方法で作用します。
したがって、先天性に関連する問題を扱う場合、次のことを最も重要視します：
まず第一に、道徳的判断などの最も基本的な特性は非常に複雑であり、それらを特定するには忍耐と細心の注意が必要です。
第二に、特定された特性の概念的な意義を引き出すには、意識的かつ綿密な取り組みが必要であり、これによって道徳の広範な基盤が心においてどのように規則、原則、または概念としてエンコードされ、道徳的知識を持っているのかが明らかになります。
第三に、この認知システムは、人間の行動の因果関係の表現、心の理論、言語的認識、視覚的認識など、他の認識システムと生産的に相互作用する必要があります。
最後に、先天性が人間の道徳的判断について明らかにすることは、それらが基礎となっている直感が原則に基づき、構造化された心的表現に依存していることです。
難しいのは、能力とパフォーマンスを概念化する方法を覚えておくことです。道徳的な能力を研究するとき、私たちはそれを心の他の部分から孤立して研究します。しかし、私たちは普段の生活（そして今）で、心のシステムが生産的でダイナミックに相互作用する必要があることを理解しています。この方法論的なテクニック（具体的な人間の行動から認知システムを抽象化すること）は、道徳的判断や言語的認識といった認知機能を扱う際に最も困難ですが、私たちは他の場所でそれを積極的に活用しています — 例えば、 “免疫の低下した”個人という概念は、人間がすべて持っている1つの理想化された免疫システムが存在すると仮定することができる場合にのみ意味を持ちます。
この背景を踏まえて、第2部では人工知能の作成と生物学的な先天性の教訓がどのように研究プログラムを支援できるかについて考えていきます。
参考文献
[1] J. ドネリー, 「理論と実践における普遍的人権」（2013年）、コーネル大学出版局。
[2] S. ドワイヤー, 「言語の類推はどれほど優れているか？」（2006年）、The Innate Mind: Vol. 2
[3] M. フィネモア, 「介入の目的」（2003年）、コーネル大学出版局
[4] A. ゲタチュウ, 「帝国後のワールドメイキング」（2019年）、プリンストン大学出版局
[5] J. ヘイトとC. ジョセフ, 「道徳的心：5つの固有の直感が多くの文化特有の美徳の発展、およびおそらくモジュールを導く方法」（2008年）、The Innate Mind: Vol. 3
[6] M. Keck と K. Sikkink、 Activists Beyond Borders (2014)、 Cornell University Press
[7] S. Levine、A.M. Leslie、J. Mikhail、 The Mental Representation of Human Action (2018)、Cognitive Science
[8] S. Levine、J. Mikhail、A.M. Leslie、 Presumed Innocent? How Tacit Assumptions of Intentional Structure Shape Moral Judgment (2018)、Journal of Experimental Psychology: General
[9] M. Mahlmann、Mind and Rights (2023)、Cambridge University Press
[10] J. Mikhail、Any Animal Whatever? (2014)、Ethics
[11] J. Mikhail、Elements of Moral Cognition (2011)、Cambridge University Press
[12] C. Reus-Smit、Individual Rights and the Making of the International System (2013)、Cambridge University Press
[13] D. Traven、Law and Sentiment in International Politics (2021)、Cambridge University Press
We will continue to update VoAGI; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles
