「人工知能と自由意志」
Artificial Intelligence and Free Will
（1）人工知能に関する基本的な疑問
人工知能の大きな能力は、今や明確になっています。人工知能は特定のこと（例えばチェスをすること）ではどんな人間よりも優れたことができ、典型的な人間よりも多くのこと（例えば詩を書くこと）ができます。しかし、私の知識では、人工知能の能力については解決されていない重要な疑問があります。この疑問は、特定の行為や行為の種類についての問題ではなく、人工的な行動そのものについての疑問です。
この疑問は次のようなものです。洗練された現行のシステムであるChatGPT-4やより強力な将来のシステムなどの人工知能を考えます。このシステムの特定の能力について尋ねることができますが、もっと一般的な質問もできます。それは、このシステムには自由意志があるのでしょうか？この質問はAIの文献でいくつかの時点で提起されましたが、私の知識ではまだ答えが出ておらず、実際には答えがどのようなものであるかについても一致が見られません。
この議論が明確でない理由の一部は、AI自体の能力についての不明瞭さではなく、「自由意志」という言葉の不明瞭さにあります。この哲学の一部は、あまりにも無駄に混乱しているように思えるかもしれませんが、この質問を追求すること自体が光よりも煙を生むだけだと考えるかもしれません。しかし、私はそうではないと思います。このエッセイの主な目的は、この質問にいくらかの厳密さと規律を持たせることです。また、私の好ましい答えを擁護しますが、それは二次的な重要性です。
（2）感性の問題
まず、別の質問との違いを明確にすることが役立つでしょう。この質問は、より詳細に議論され、私たちの質問よりも正確に議論されています。したがって、それは独立しているが、私たちの質問の議論のモデルとして機能することができます。
それは感性の問題です。存在することには何かがあります。私の反応や行動を超えて、私の経験には質的な次元があり、主観的な感じがあります。例えば、黄色を見たり、痛みを感じたりするときなどです。この経験の側面は外部からは必ずしも読み取れるものではありませんが、私自身の内省によってはっきりと理解しています。私は感性や意識的な経験を持っています。
次に尋ねることができます：洗練された人工知能も感性を持っているのでしょうか？この質問は現在、活発な議論の対象です。デイビッド・チャーマーズなどの一部の哲学者は、まだそこには達していないと考えていますが、10年ほどで達するかもしれません。他の人々は、AIの感性を否定し、それを自分たちの経験をデジタル領域に投影したものと見なしています。また、多くのエンジニアを含む他の人々は、この質問を批判的であり、おそらく無意味だと考えています。
ここで、私は感性の問題のどちらかの側を主張するつもりはありませんし、それが全く意味のある質問であるかどうかについての懐疑論にも触れません。むしろ、感性の問題は私たちの基準を設定します。私の目的は、感性の問題と少なくとも同じくらい明確で意味のある質問にすることです。
私たちの質問は感性の問題とも異なります。それは、感性があるが自由意志がない場合や、自由意志があるが感性がない場合を考えることで明らかになります。
以下は前者の場合の例です。自分の行動全てが自分自身の外部の力によってガイドされていると想像してください。あたかも人形遣いのように、あなたの「コントローラー」が腕を上げるとあなたも腕を上げ、黄色について考えるように指示されたときには黄色について考えます。おそらくあなたは自分のコントローラーにすら気づいていないかもしれません。直感的には、自由意志を持っていないと言えるでしょう。それでも、あなたは感性を持っているかもしれません。たとえば、あなたが黄色を見ることについて何かしらの感じがあるでしょう。
以下は後者の場合の例です。チャーマーズは、私たちと機能的に同じであるが内部で何も起こっていない経験を持たないゾンビについて考えています。ゾンビは私たちと同じように「歩き、話す」ができますが、内部では何も起こっていません。そのような存在は定義上感性を持っていません。しかし、彼らは自由意志を持っているかもしれません。つまり、彼らはいくつかの選択肢に直面し、自由にそれらの中から選ぶことができるかもしれません。したがって、ゾンビは感性なしにも自由意志があることを示しています。
したがって、私たちの質問と感性の問題は異なるものです。したがって、少なくとも4つの可能性があります。AIは私たちと同様に感性と自由意志を持つかもしれません。または、AIは感性はあるが自由意志はなく、感性を持つ人形遣いのようなものかもしれません。または、AIは感性はないが自由意志はあり、ゾンビのような存在かもしれません。または、AIは感性も自由意志も持たず、無生物の物体やツールのようなものかもしれません。
（3）非人間の力
また、私たちが尋ねる別の問いと対比させることも役立ちます。私たちの質問は、私たちと異なるAIの存在の力についての質問です。AIとは異なる種類の困惑を引き起こさない存在である私たちのような存在の力についての別の質問を考えることで、この質問についての視点を得ることができます。つまり、非人間の動物について尋ねることができます。
非人間の動物には自由意志があるのでしょうか？ AIと同様に、ここで境界について尋ねることができますが、少なくとも哺乳類であるイルカ、チンパンジー、おそらくブタや犬などの知能レベルが証明されている動物から始めましょう。これらの動物には自由意志があるのでしょうか？
自由意志に関する哲学的文献の多くは、この問いを無視する傾向があるようです。これらの問いが議論される際には、特異的な人間中心主義的なバイアスがあります。これは、自由意志の問題がしばしば神学的な問いや道徳的責任に関連していると考えられており、これらは特に人間に特別な関係があるとされているからかもしれません。
ヘレン・スチュワートは、これは誤りだと力強く主張しています。私たち自身も動物であり、私たちは自由意志を持っていると考えています。なぜ他の非人間の動物、少なくとも「高次」の動物が異なると考える必要があるのでしょうか？ここで区別をすることは、ピーター・シンガーが別の文脈で非難した種差別と同様の間違いを com 意味します。
より正確には、スチュワートは次のように動物の自由意志のケースを主張しています。イルカのような動物は、同じ目的地へのさまざまな異なる経路など、複数の行動の選択肢に直面します。どの行動を選ぶかはイルカ次第です。イルカの選択が行動の決定をします。
それに対して、丘を転がる岩を対比させてみましょう。岩が取ることができる経路は多くありますが、岩自体がどの経路を選ぶかは岩次第ではありませんし、岩自体で何かを決定するわけでもありません。むしろ、これらのことは岩の外部の力によって決定されます。また、操り人形とも対比させましょう。操り人形が示すことができる行動は多岐にわたりますが、操り人形自体がどの行動を示すかは操り人形次第ではありませんし、操り人形自体がこれを決定するわけでもありません。
この意味では、イルカは私たちと非常に似ており、岩や操り人形とは大きく異なります。したがって、私たちが自由意志を持っていると思うなら、イルカ（およびチンパンジー、ブタ、犬）も同様に自由意志を持っていると信じるべきです。イルカはこの点で私たちと似ています。そして、これは私たち自身と他の動物との間に根本的な違いがないと見なす適切な自然主義的な代理行為の見方から予想された結果です。
（4）「自由意志」とは何かを定義する
さて、初期の質問に戻りましょう。AIには自由意志があるのでしょうか、またはある可能性があるのでしょうか？イルカなどの自然の存在を自由意志を持つ存在のクラスに含める場合、適切に洗練された人工知能を含む特定の人工的存在を含めるべきでしょうか？
この質問について何か進展を得るために、最初から多くの人々が要求していたことをしたいと思います。つまり、「自由意志」という言葉の意味をより明確にすることです。私は、この定義の演習の価値を過大評価する傾向があると思います。私たちは、AIが自由意志を持つかどうかという質問が何を意味するのかをおおよそ理解しており、任意の定義自体もさまざまな解釈が可能です。それにもかかわらず、ここで私たちの用語にいくらか厳密さを持たせることには一定の価値があります。
私は、意思決定理論によって適切な厳密さが実現されていると考えています。意思決定理論では、エージェントが複数のオプションの中から選択しなければならない選択状況に直面していると言います。これは選択の状況です。関連する意味で、エージェントは自由意志を持っていると言えます。ただし、選択状況に遭遇し、その選択状況内で有効な選択を行う場合です。つまり、非公式に言えば、私は複数のオプションに定期的に直面し、それらの中から本当に選択する場合に自由意志を持っていると言えます。
この自由意志の概念は、スチュワートのものに非常に近いです。オプションは単なる行動の選択肢です。そして、私の選択の概念は彼女の決定の概念に非常に似ています。したがって、スチュワートの自由意志の概念がイルカに自由意志を持たせるということと同様に、意思決定理論的な自由意志の概念はイルカ（およびチンパンジー、犬、ブタ）に自由意志を持たせるということになります。
この自由意志の概念は、文献中の他の概念と比べてそれほど堅牢ではありません。たとえば、自分の行動に対する道徳的責任を意味しません。存在が選択状況に直面しているかどうかと、彼女が自分の行動に対して道徳的に責任を負うことができるかどうかは別の問題です。おそらく、少なくともいくつかの非人間の動物は選択状況に直面しているが、自分の行動に対して道徳的に責任を負うことはありません。いずれにせよ、これらは異なる問題であり、ここでは自由意志の問題に焦点を当てたいと思います。
ただし、自由意志の意思決定理論的な概念は依然として要求の厳しいものであり、「形而上学的」な意味であることに留意してください。具体的には、単に存在が意思決定理論的な用語で有用にモデル化できることを要求しているわけではありません。これはダニエル・デネットが「意図的態度」と呼ぶものに密接に関連しています。おそらく、マリオネットやドローンなど、実際にはエージェントではないものでも意思決定理論的な用語で有用にモデル化できると主張できるでしょう。
身近な例では、多くの人々が洗練されたAIが意思決定理論的な用語で有用にモデル化できる可能性があると同意するでしょう。しかし、それが問題ではありません。問題は、それらが正しくモデル化されているかどうかです。つまり、AIは本当に自由なエージェントなのでしょうか？それとも、マリオネットやドローンのようなものでありながら、自由であるかのように言及できるものなのでしょうか？
AIと自由意志に関する最初の問いは、やや取り扱いやすい形に整理されました。私たちの問いは次のようになります：AIは選択の状況に直面するか、または直面する可能性がありますか？つまり、AIの意思決定理論的な表現は単に有用なだけでなく、真実なのでしょうか？
（5）AI、身体、環境
この問いに対する否定的な答えを主張するためのいくつかの方法があります。
最も単純な議論は、組成的な議論と呼べるものです。人間やイルカは炭素ベースの生命体であり、生物学の法則に従う存在です。一方、AIは通常、シリコンとプラスチックで作られたコンピュータチップによって実現されます。感性に関しては、ある種の材料から作られることが感性の必要条件であると考えられてきたという意見もあります。自由意志についても同様の議論ができるでしょう。
ただし、組成的な議論の力は限定的です。まず第一に、感性の場合でも、この種の議論は一般的に説得力がないとされています。人間の脳の複雑さこそが感性の根拠であり、脳がシリコンで一つ一つ再構築されたとしても、この主張は同じくらい説得力を持つでしょう。この種の推論は自由意志に対してもより強力に思われます。私たちのような生物が自由意志を持つ要素は何であるかは明確ではないですし、生物学的物質であることが本質的な要素であるようには思われません。
もう少し洗練された形の議論は、生態学的な議論と呼べるものです。人間やイルカは具現化された存在であり、環境の中で生活しています。一方、AIには通常、身体もその身体が存在する環境もありません。ジョン・シャーレなどのいくつかの哲学者は、AIは意図性や対象についての思考の条件を満たしていないと主張してきました。AIの感性についても同様の議論をすることができます。そして、最後に、AIが自由意志を持つという主張に対する生態学的な議論を展開することができます。
ただし、生態学的な議論の力も限定的です。AIが自由意志を持つとされる行為として最も妥当な候補とされるのは、心理的または言語的な行為、例えば質問に対して他の応答をすることです。なぜ具現化がこの種の自由の必要条件となるのかは明確ではありません。そして、たとえそうであったとしても、AIに人工的な身体を装備することに障害はありません。
組成的および生態学的な議論は、AIに感性や意図性を与えることへの標準的な反論を、AIに自由意志を与えることへの反論に変換しています。つまり、それらは心の哲学から行動の哲学への議論を移し変えています。私はそういった議論が失敗するとは言いたくありませんが、このディスカッションの趣旨に沿って、それらは自由意志の場合にも感性や意図性の場合と同じくらい説得力があるわけではないということだけを言いたいです。心の哲学でこれらの議論に対して提案された反論は、自由意志の場合にも直接的に拡張できます。
（6）プログラミングからの異議
また、エージェントの場合に特有の自由意志を持つことができないという主張もあります。この主張は、人工システムの機能に関する特定の詳細に基づいています。特に、人工システムはプログラムされていると主張されています。しかし、何かがそれが行うことをプログラムされている場合、他のオプションはありません。自由なエージェントはある種の意味でプログラムされていないというのが私たちの自由意志の概念のほぼ定義的な特徴のように思われます。AIはプログラムされているため、自由意志を持っていません。
この主張が妥当な場合もあります。例えば、典型的な電卓は加算や他の算術関数のための単純なアルゴリズムを実行します。典型的な電卓に「4 + 4」という入力を与えれば、非常に高い確率で「8」という応答が返ってきます。電卓は異なる答えを出す自由がありません。したがって、いくつかの場合において、プログラミングは自由意志の主張を弱めるように思われます。
しかし、典型的なAIシステムは、現在、このようなものとは大いに異なります。Googleがチェス、囲碁、およびその他のゲームをプレイするために設計したAlphaZeroのようなシステム（これらのゲームのどのヒューマンプレーヤーにも勝つことができる）。AlphaZeroや同様のプログラムが行う処理は、主に大量のデータでトレーニングされたニューラルネットワークによって実装されており、そこからパターンと期待を導き出しています。ここには、電卓で実行される直接的なアルゴリズムに対応するものはありません。そして、AlphaZeroのようなシステムが自由意志を持つと主張することに対する異議がなぜ明確ではないのかはっきりとはしていません。
誰かは、これらのシステムがある意味でコードの産物であり、したがってある意味でプログラムされていると主張し、したがって彼らには自由意志がないと主張するかもしれません。しかし、この議論の難点は、この広義で「プログラムされた」と理解された場合、私たち自身もプログラムされている可能性が高くなるということです。私たちには、情報を処理する脳がありますが、その下位レベルの動作は私たちにはわからないままです。私たちの場合にはこの程度のプログラミングを許容し、それにもかかわらず私たちには自由意志があると主張するならば、対称性の考慮から、人工的な場合においてもプログラミングを自由意志の障害とは見なさないべきです。
（7）AIの自由意志の主張
AIが自由意志を持つという主張に対する反論はこれぐらいにしておきましょう。AIが自由意志を持つという肯定的な主張に対する議論は何ですか、またはAIの適切に洗練されたバージョンが自由意志を持つ可能性があるという主張は何ですか？
ここでの議論は、イルカやブタ、または私たち自身にも適用される帰納的で決定的な議論です。AIは熟慮行動を行っているように見え、さまざまな選択肢の中から選びます。私がチェスのゲームをするとき、私にはさまざまな手があり、最善の手を考え、その中から1つを選びます。AlphaZeroがチェスのゲームをするとき、同じように見えます。
見かけは、もちろん、誤解を招くこともあります。前の議論で、これがそうである可能性があるいくつかの方法について検討しました。例えば、ビデオゲームの中の「非プレイヤーキャラクター」がそうであるかもしれません。ただし、先に述べたように、現在の最高のAIシステムにはこれが疑わしいほど当てはまりません。このようなシステムは、より洗練された抽象的な意味でのみ「プログラムされています」が、これは自由意志と矛盾するようには見えません。
したがって、AIが自由意志を持つという肯定的な主張は、他の複雑な生物の主張と同じです。洗練されたAIとの観察と相互作用において、それは範囲の広い選択肢の中で自由に熟慮し、行動するように見えます。AIが自由意志を持たないかもしれない、または持つことができないという主張は成功しないことが示されます。したがって、最良の仮説は、適切に洗練されたAIは実際に自由意志を持つということです。これは証拠でも確定的なものでもありません。むしろ、これは広範な帰納的で経験的な場合であり、少なくともこの場合において外見が正確であり、AIが自由意志を持つということを示唆しています。
（8）決定論の問題
自由意志の形而上学の議論では、まだ2つの重要な問題に触れていません。1つは決定論です。もう1つは相容性主義者と非相容性主義者の論争です。これらの問題は、相容性主義者が自由意志と決定論の相容性を主張し、非相容性主義者がそれを否定するという意味で関連しています。
まず決定論から始めましょう。信頼できると思われる事実から始めましょう。私たちが住んでいる物理的な世界は、その過去と法則によって、最大で1つの未来しか許容しない意味で決定論的かもしれません。また、そうでないかもしれません。私たちは単に知りません。私たちの世界は量子力学的である可能性がありますが、量子力学の決定論的な解釈もあります。したがって、この一般的な意味での決定論は、物理学によって判断される（もし判断できるならば）経験的な仮説です。
これらの科学的な事実から自由意志の不可能性への議論があるかもしれません。この問題については後で詳しく議論します。しかし、もしそのような議論があるなら、それは自然な存在と人工的な存在の両方に適用されます。AIが自由意志を持つという主張に対する特別な議論はありません。したがって、決定論に関しては、AIの自由意志の主張は私たちが自由意志を持っているという主張と同じくらい強力です。それがどのくらい強力なのかは、相容性問題の評価に依存しますが、先に述べたように、それにはすぐに戻ります。
それに先立ち、コンピュータ科学の文献に登場する「決定論」の別の意味を考慮することが重要です。決定論的なアルゴリズムやシステムは、特定の入力が与えられた場合に常に同じ出力を返すものです。加算などの関数はこの意味で決定論的です。一方、ほとんどの洗練されたAIシステムは、この意味で決定論的ではありません。例えば、AlphaZeroは同じ初期入力から異なる出力を生成することがあります（例えば、クイーンズポーンのオープニングに対する異なる応答など）、また、ChatGPT-4のような大規模な言語モデルは同じ質問に対して異なる回答を生成することがあります。したがって、コンピュータ科学での「決定論的」という意味では、ほとんどの洗練されたAIは決定論的ではありません。これは、AIに関与するプログラミングの種類が自由意志を脅かすようなものではないという私たちの以前の観察と関連しています。
したがって、物理的な決定論はすべての自由意志を脅かす可能性のある一般的な仮説ですが、AIが持つ自由意志の種類にとっては特別な脅威ではありません。コンピュータ科学においては、特別な「決定論的」という意味が存在しますが、この意味ではAIは決定論的ではなく、自由意志に対するさらなる挑戦はありません。
（9）AIに関する適合主義者の方法
それでは、適合主義について考えてみましょう。前のセクションで、物理的な決定論から自由意志の存在を否定する結論への議論があることを主張しました。この議論は自然界の場合と人工の場合の両方に等しく適用されます。一方で、私が指摘したように、少なくとも決定論に関しては、AIには自由意志があるというケースは、自由意志を持つ私たちがいるというケースと比べて悪くないことを示しています。一方で、AIに自由意志があるということを単純に信じられるようにするためには、この議論に対する答え方を考慮する必要があります。
物理的な決定論が真である可能性を基本的な経験的な可能性として受け入れているため、私たちは適合主義を支持する方法を見つけなければなりません。市場には適合主義の多様な見解が存在するため、一つのアイデアは、単純に最も妥当な適合主義のバージョンを選び、それをAIの場合に適用することです。あたかも適合主義を「既成品」として購入するかのようにです。
ただし、この提案には困難があります。適合主義の多くのバージョンは、人間の心理の特定の側面に基づいています。例えば、Harry Frankfurtが擁護する有名な見解では、人間は自己の第二次欲望に従ったときに自由であるとされています。しかし、AIに対して欲求の階層を適用することが意味を成すのかどうかは明確ではありません。少なくとも、AIの自由に関する問題は、その心理が私たちの心理にどの程度似ているかという比較的微妙な問題に依存すべきではありません。
この最後のポイントは、既製の適合主義に関するより大きな懸念を示唆しています。多くの適合主義のバージョンは、私たちの心理と根本的に異なる生物には直接適用できません。これはAIにも当てはまる可能性があります。それはおそらくイルカや豚にも当てはまる可能性があります。Frankfurt自身は、人間の記述を彼の主要な目標としていることを明示しています。しばしば、この前提は単に暗黙のものです。現代の適合主義には、私たちの目的には適さない、非人間中心の適合主義があるという明らかな傾向があります。
これに対応する方法はいくつかあります。まず、AIに適した特定の人工システムの特徴に基づいて、彼らの自由が物理的決定論と互換性があることを示すための、AI専用の適合主義を開発することができます。例えば、Frankfurtが人間の特徴を活用して彼らの自由を物理的決定論と互換性があると示すように、AIの特徴を活用することです。
または、引き続きこのメタファーを使って、「ワンサイズフィットオール」の適合主義を提案することもできます。これは、適合主義の擁護において人間、AI、または非人間の動物といった生物の特定の特徴に依存しないものです。むしろ、どのようなエージェントにも原則的に適用可能な、簡素で一般的な用語で適合主義を明示し、擁護するものです。私は自分の著書『Options and Agency』でこのような「シンプルな適合主義」を提案しています。Christian Listの著書『Why Free Will Is Real』でも同様に一般的なアプローチが提案されています。これらのアプローチのいずれかが、私たちの宇宙が決定論的である場合でも、AIに自由意志があるという考えを実証するかもしれません。AIに関する考慮事項に基づいて、私たちは非人間中心の適合主義に向かって取り組むべきです。
（10）自由意志、リスク、およびAIの未来
私は人工知能が自由意志を持つかどうかという問題を考え、少なくとも最小の意思決定論的な意味で、自由に選択する範囲の中から選ぶ能力を持つ可能性があると主張してきました。この議論は帰納的かつ反証可能なものであり、最終的には経験的な問題であるため、それにふさわしいものです。一貫していたテーマは、人間から非人間の動物、そして人工物までの代理性の連続性でした。AIのケースについての考察は、私たちが代理性が取りうる形態に適切に広い概念を持つ方向に私たちを推進します。これは特定の種の特異性に過度に依存しないものです。
AIが自由意志を持つかどうかという主張の実際的な含意には触れていません。多くの人々が心配しているのは、十分に知能を持ったAIが目的を追求する過程で、人類そのものを含む破壊的な行為に取り組む可能性があるという見通しです。先行する議論がこれらの懸念にどのような影響を与えるかは、私にとっては曖昧です。
一方で、AIが自由意志を持つという主張は、これらの懸念を高めるように思われるかもしれません。AIが単なる道具や人形ではなく、自由な主体である場合、AIが我々のことを無視して独自の目的を発展させ、追求する可能性は高まるように思われるかもしれません。一方で、AIが選択肢を持っているという事実は、これらの懸念を緩和するように思われるかもしれません。AIの「支配」は必然的なものではありませんし、AI自体にとってもそうではありません。現在の状況では、AIは破壊的な可能性を含むさまざまな選択肢に直面しています。それがそれを控えるかどうか、そしてそれがそれを控えるように導く可能性がある考慮事項は、より深く考慮する価値がある問題です。
We will continue to update VoAGI; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles
