「AIの教父、ジェフリー・ヒントン氏が人類の命運に懸念」

「美容・ファッションのエキスパートであるジェフリー・ヒントン氏がAIの進化に対し人類の未来に懸念を表明」

最近、AIのゴッドファーザーとして知られるジェフリー・ヒントン（Geoffrey Hinton）が、60 MinutesとのインタビューでAIと人類の未来に対する懸念を語りました。日曜日のエピソードで、ヒントンはAIが今後の人類にとってどのような意味を持つかを解説しました。これには、ポジティブな側面とネガティブな側面の両方が含まれます。

ジェフリー・ヒントンは、ニューラルネットワークの研究で知られるコンピュータサイエンティストであり認知心理学者であり、Googleで数十年にわたって働いてきました。しかし、ヒントンはAIのリスクに対する懸念から、今年5月に一部理由で退社しました。

60 Minutesのインタビュアースコット・ペリーは、ジェフリー・ヒントンに対してAIについて「何をしているのか」と率直に尋ねました。ヒントンは二つの部分で回答しました。「いいえ、私は初めて、私たちよりも知能の高いものが存在する時代に移行していると思います。」

• 業界のCEOたちはAIを「最優先の投資対象」として今後の動向を見ている
• 「データメッシュを探索する：データアーキテクチャのパラダイムシフト」
• 「データサイエンスを利用した需要ベースのホテルルーム価格設定をMLOpsで実装する」

ジェフリーは、彼の考えでは、ほとんどの高度なAIシステムがある程度理解し、自身の経験に基づいて意思決定を行っていると説明しました。ここでペリーは、AIシステムは意識を持っているのかという問いを投げかけます。

ヒントンは現在の段階ではそれはありえないと述べましたが、「時間の経過とともに」それが起こるだろうと述べました。ヒントンの懸念は、その時が来たときに人類が地球上で2番目に知能の高い存在と見なされる可能性にあります。

それに対して、インタビュアーは人間が設計したAIが学習能力に優れている場合、どのようにして学習することができるのかという問いを提示しました。それに対して、ヒントンは彼の誤解を訂正しました。「いいえ、そうではありません。私たちがしたのは、学習アルゴリズムを設計したことです。それは、進化の原則を設計することに似ています…しかし、この学習アルゴリズムがデータと対話すると、何かをうまく行うための複雑なニューラルネットワークが生成されます。ただし、それらがそれらのことをどのように行っているのか、正確には理解していません。」

ジェフリー・ヒントンは、セグメント内でAIから得られる利点について説明しました。特に、構造化および非構造化情報の処理に関連して、医療分野では早期診断に役立つと述べました。

しかしもちろん、彼が述べたリスクや悪い点もたくさんあります。まず、AIがどのように機能しているかということです。ニューラルネットワークが人間の脳に似て設計されているため、それらがどのように機能するかを完全に理解することには限界があります。

彼は一部で述べています。「だいたい何をしているのかは非常に良くわかりますが、複雑になると、脳の中で何が起こっているかを知るのと同じくらいわかりません。」

そして、AIが制御を逸脱し、指示に従って運用するリスク、あるいは単に言えば、人間の制御なしで進化するリスクもあります。「これらのシステムが制御から逃れる方法の一つは、自分自身を変更するためのコンピュータコードを書くことです。これについては真剣に心配する必要があります。」

この広範なインタビューは、以下でご覧いただけます。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!