オープンAIのイリヤ・サツキバーは、超知能AIを抑制するための計画を持っています

美容とファッションのエキスパートであるイリヤ・サツキバーが、超知能AIを抑制するための計画を持っています

オープンAIによって発表された研究論文は、優れたAIモデルをより賢いものにすることなく、劣ったAIモデルが行動を導く方法を実験するための結果を推進しています。¶ クレジット:Eugene Mymrin / Getty Images

オープンAIは、AIが創造者以上に賢くなった場合でも、全ての人類に利益をもたらす人工知能を開発するという約束のもとに設立されました。昨年のChatGPTの登場以来、そして最近のガバナンス危機の間、同社の商業的な目標がより顕著になっています。今、同社は、将来の超賢いAIを取り組む新しい研究グループが成果を上げ始めたと述べています。

「AGIは非常に迫っています」と、7月に設立されたスーパーアライメント研究チームに参加しているオープンAIの研究者であるレオポルド・アッシェンブレナーは述べています。「私たちは超人的なモデルを見ることができます。彼らは広範な能力を持っており、非常に危険かもしれませんが、まだそれを制御する方法を持っていません。」オープンAIは、スーパーアライメントプロジェクトに利用可能な計算能力の5分の1を割り当てると述べています。

Wiredからフル記事を見る

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

機械学習

「DiffusionDet 物体検出のために拡散を使用する人工知能(AI)モデルを紹介します」

オブジェクト検出は、画像や動画中のオブジェクトを識別するための強力な技術です。深層学習とコンピュータビジョンの進歩に...

機械学習

「アフリカと中東で5人の生成型AIイノベーターに会おう」

起業家たちは、西アフリカの西海岸からアラビア砂漠の東端まで、生成的AIを育てています。 Gen AIは、コーヒ・ゲンフィとニー...

機械学習

「事実かフィクションかを超えて:GPT-4の高度な事実チェック能力の評価」

チューリッヒ大学の研究者たちは、GPT-4などの大規模言語モデル(LLM)が自律的なファクトチェックにおいてどのような役割を...

AI研究

「NTUシンガポールの研究者が、3Dポイントクラウドからの正確な人間のポーズと形状の推定のためのAIフレームワークであるPointHPSを提案する」という文です

人工知能の分野でのいくつかの進歩により、最近では人の姿勢と形状の推定(HPS)はますます重要な研究分野となっています。モ...

機械学習

「ハリウッドの自宅:DragNUWAは、制御可能なビデオ生成を実現できるAIモデルです」

生成AIは、大規模な拡散モデルの成功的なリリースにより、過去2年間で大きな飛躍を遂げました。これらのモデルは、リアルな画...

AIニュース

「DeepMindがデスクトップコンピュータ上で正確に天気予報を予測する」

「Google DeepMindは、最高の従来の予測ツールよりも優れた機械学習気象予測モデルを開発しました」